AIバイアス検出 - AIレビュー付きディレクトリ

AIシステムが大規模に導入されるにつれ、モデル出力のバイアスを理解し補正することが重要な専門分野になっています。IBM AI Fairness 360とCredo AIは、属性グループをまたいでモデルを監査するためのオープンおよびエンタープライズ向けのフレームワークを提供します。Holistic AI、Fiddler AI、Arthur AIは、本番環境におけるドリフト、公平性の違反、予期しないモデルの挙動を検知する継続的なモニタリングプラットフォームを提供します。

Arthur AI 1 4.8 Arthur AI 有料 API エンタープライズ 3件のレビュー Arthur AIは時間の経過とともに保護された人口統計グループにわたる公平性指標を追跡する包括的なバイアスモニタリングを含みます。このプラットフォームは格差のある影響を検出し、本番環境のバイアスドリフトを監視し 2 4.8 IBM AI Fairness 360 無料 無料プラン API オープンソース 2件のレビュー IBMの AI Fairness 360 は、70以上のフェアネスメトリクスと機械学習モデル用の10のバイアス軽減アルゴリズムを含むオープンソースツールキットです。ML パイプライン全体にわたる前処理、処理中、後処理のバイアス介入をサポ Holistic AI 3 4.7 Holistic AI 有料 API 2件のレビュー Holistic AIは、AIのライフサイクル全体にわたるバイアス監査、説明可能性、コンプライアンスに焦点を当てた包括的なAIリスク管理を提供します。同プラットフォームは公平性評価を自動化し、世界中の新興AI規制に適合した� Credo AI 4 4.7 Credo AI 有料 API 2件のレビュー Credo AIは、エンタープライズリスク向けにEU AI ActおよびNIST AI RMFに準拠したポリシーパックを備えたAIガバナンスを提供します。 Fiddler AI 5 4.7 Fiddler AI 有料 API 2件のレビュー Fiddler AIは、リアルタイムのバイアス検出、公平性分析、説明機能を備えたエンタープライズMLモニタリングを提供します。 Google What-If Tool 6 4.7 Google What-If Tool 無料 無料プラン オープンソース 2件のレビュー Google What-If Toolは、サブグループ分析を通じてMLの公平性とバイアスを調査するためのオープンソースインターフェースです。 Robust Intelligence 7 4.6 Robust Intelligence 有料 API エンタープライズ 2件のレビュー Robust IntelligenceはAI検証プラットフォームのコアコンポーネントとしてバイアスと公平性テストを含み、保護属性にわたる人口統計的バイアス、格差のある影響、公平性違反についてモデルを評価します。その自動テストフレ Patronus AI 8 4.3 Patronus AI 有料 API エンタープライズ 2件のレビュー Patronus AIはLLM評価スイートの一部としてバイアス評価を含み、異なる人口グループにわたる人口統計的バイアス、ステレオタイプ化、不公平な扱いについてモデル出力をテストします。その自動評価フレームワークは、組織�