KI-Bias-Erkennung - Verzeichnis mit KI-Bewertungen

Mit der großflächigen Bereitstellung von KI-Systemen ist das Verstehen und Korrigieren von Vorurteilen in Modellausgaben zu einer kritischen Disziplin geworden. IBM AI Fairness 360 und Credo AI bieten offene und Enterprise-Frameworks zum Auditing von Modellen über demografische Gruppen hinweg. Holistic AI, Fiddler AI und Arthur AI bieten laufende Überwachungsplattformen, die Drift, Fairness-Verstöße und unerwartetesModellverhalten in Production kennzeichnen.

Arthur AI 1 4.8 Arthur AI Kostenpflichtig API Enterprise 3 Bewertungen Arthur AI umfasst umfassende Bias-Überwachung, die Fairness-Metriken über geschützte demografische Gruppen im Zeitverlauf verfolgt. Die Plattform erkennt disparate Auswirkungen, überwacht Bias-Drift in der Produktion und bietet Explainability-Funktionen, die offenbaren, welche Input-Features Vor 2 4.8 IBM AI Fairness 360 Kostenlos Kostenloser Tarif API Open Source 2 Bewertungen IBMs AI Fairness 360 ist ein Open-Source-Toolkit mit über 70 Fairness-Metriken und 10 Bias-Mitigationsalgorithmen für Machine-Learning-Modelle. Es unterstützt Bias-Interventionen in der Vor-, In- und Nachverarbeitung über die gesamte ML-Pipeline hinweg. Es wird häufig in der akademischen Forsch Holistic AI 3 4.7 Holistic AI Kostenpflichtig API 2 Bewertungen Holistic AI bietet umfassendes KI-Risikomanagement mit Fokus auf Bias-Audits, Erklärbarkeit und Compliance über den gesamten KI-Lebenszyklus hinweg. Ihre Plattform automatisiert Fairness-Bewertungen und generiert Audit-Berichte, die mit neuen KI-Vorschriften weltweit abgestimmt sind. Sie bedient U Credo AI 4 4.7 Credo AI Kostenpflichtig API 2 Bewertungen Credo AI bietet AI-Governance mit Policy-Packs, die auf die EU AI Act und NIST AI RMF ausgerichtet sind, für Unternehmensrisiken. Fiddler AI 5 4.7 Fiddler AI Kostenpflichtig API 2 Bewertungen Fiddler AI bietet Enterprise-ML-Überwachung mit Echtzeit-Bias-Erkennung, Fairness-Analyse und Erklärungen. Google What-If Tool 6 4.7 Google What-If Tool Kostenlos Kostenloser Tarif Open Source 2 Bewertungen Google What-If Tool ist eine Open-Source-Schnittstelle zur Untersuchung von ML-Fairness und Bias durch Subgruppen-Analyse. Robust Intelligence 7 4.6 Robust Intelligence Kostenpflichtig API Enterprise 2 Bewertungen Robust Intelligence umfasst Bias- und Fairness-Tests als Kernkomponente seiner AI-Validierungsplattform. Sein automatisiertes Test-Framework evaluiert Modelle auf demografische Bias, disparate Auswirkungen und Fairness-Verstöße über geschützte Attribute hinweg und hilft Organisationen, Bias-Prob Patronus AI 8 4.3 Patronus AI Kostenpflichtig API Enterprise 2 Bewertungen Patronus AI umfasst Bias-Evaluierung als Teil seiner LLM-Assessments-Suite und testet Modellausgaben auf demografische Bias, Stereotypisierung und unfaire Behandlung verschiedener Bevölkerungsgruppen. Sein automatisiertes Evaluierungs-Framework hilft Organisationen, Bias in von AI generierten Inhal