Rilevamento dei bias AI - Directory con recensioni AI

Man mano che i sistemi AI vengono distribuiti su larga scala, comprendere e correggere i bias negli output dei modelli e diventata una disciplina critica. IBM AI Fairness 360 e Credo AI forniscono framework aperti e aziendali per verificare i modelli tra gruppi demografici. Holistic AI, Fiddler AI e Arthur AI offrono piattaforme di monitoraggio continuo che segnalano deriva, violazioni dell'equita e comportamenti inattesi dei modelli in produzione.

Arthur AI 1 4.8 Arthur AI A pagamento API Enterprise 3 recensioni Arthur AI include un monitoraggio bias completo che traccia metriche di equità su gruppi demografici protetti nel tempo. La piattaforma rileva l'impatto disproporzionato, monitora la deriva del bias in produzione e fornisce funzionalità di spiegabilità che rivelano quali caratteristiche di input 2 4.8 IBM AI Fairness 360 Gratuito Piano gratuito API Open Source 2 recensioni AI Fairness 360 di IBM è un toolkit open-source contenente oltre 70 metriche di equità e 10 algoritmi di mitigazione dei bias per i modelli di machine learning. Supporta interventi di bias in pre-processing, in-processing e post-processing sull'intera pipeline ML. Ampiamente utilizzato nella ricer Holistic AI 3 4.7 Holistic AI A pagamento API 2 recensioni Holistic AI fornisce una gestione completa del rischio AI con focus su audit di bias, explainability e conformità nell'intero ciclo di vita dell'AI. La loro piattaforma automatizza le valutazioni di fairness e genera report di audit allineati alle normative AI emergenti in tutto il mondo. Serve azi Credo AI 4 4.7 Credo AI A pagamento API 2 recensioni Credo AI fornisce la governance dell'AI con policy pack allineati all'AI Act dell'UE e al NIST AI RMF per il rischio enterprise. Fiddler AI 5 4.7 Fiddler AI A pagamento API 2 recensioni Fiddler AI fornisce il monitoraggio ML enterprise con rilevamento del bias in tempo reale, analisi della correttezza e spiegazioni. Google What-If Tool 6 4.7 Google What-If Tool Gratuito Piano gratuito Open Source 2 recensioni Google What-If Tool è un'interfaccia open-source per l'indagine dell'equità e della distorsione dell'ML attraverso l'analisi dei sottogruppi. Robust Intelligence 7 4.6 Robust Intelligence A pagamento API Enterprise 2 recensioni Robust Intelligence include il test di bias e fairness come componente core della sua piattaforma di validazione dell'IA. Il suo framework di test automatizzato valuta i modelli per bias demografici, impatto disparato e violazioni della fairness tra gli attributi protetti, aiutando le organizzazioni Patronus AI 8 4.3 Patronus AI A pagamento API Enterprise 2 recensioni Patronus AI include la valutazione del bias come parte della sua suite di assessment LLM, testando gli output del modello per bias demografici, stereotipi e trattamento iniquo tra diversi gruppi di popolazione. Il suo framework di valutazione automatizzato aiuta le organizzazioni a identificare e qu