Robust Intelligence は、2024 年の Cisco による買収に続いて現在 Cisco の一部であり、組織が AI アプリケーションを敵対的攻撃、データ整合性の問題、モデル障害から保護するのを支援する AI セキュリティおよび検証プラットフォームです。2019 年にハーバード大学のコンピュータサイエンス教授である Yaron Singer と Kojin Oshiba によって設立され、元々カリフォルニア州サンフランシスコに本社を置いた同社は、ライフサイクル全体を通じて AI モデルを体系的にテストして保護するテクノロジーを開発しました。このプラットフォームのコア製品は AI ファイアウォールであり、本番環境の AI モデルのリアルタイム保護を提供し、敵対的な入力、プロンプト注入、データポイズニング、およびモデル動作を操作するために設計されたその他の攻撃を検出してブロックします。AI ファイアウォールは AI モデルの入力と出力を検査し、検証ルールと敵対的検出アルゴリズムを適用してモデル予測に影響を与える有害または操作されたデータを防止します。Robust Intelligence はまた、Stress Testing 製品を通じた自動化された AI テストも提供し、敵対的なロバストネス、データ整合性、バイアスと公平性、およびモデルパフォーマンスの劣化を含むカテゴリー全体で数百のコンフィグ可能なテストを実行します。これらのテストは CI/CD パイプラインに統合してデプロイ前にモデルを検証でき、AI システムの品質ゲートとして機能できます。このプラットフォームは従来の機械学習モデルと大規模言語モデルの両方をサポートしており、プロンプト注入検出、ハルシネーション テスト、出力安全検証を含む LLM アプリケーションテスト用の特定の機能があります。Cisco のセキュリティポートフォリオの一部として、Robust Intelligence のテクノロジーは、Cisco の より広範な AI セキュリティおよびネットワーキングオファリングに統合されています。このプラットフォームは SaaS ソリューションとして配信され、厳格なデータレジデンシー要件を持つ組織向けのオンプレミスデプロイメントもサポートしています。価格設定はエンタープライズに焦点を当てており、カスタムコントラクトです。

AIバイアス検出

Robust IntelligenceはAI検証プラットフォームのコアコンポーネントとしてバイアスと公平性テストを含み、保護属性にわたる人口統計的バイアス、格差のある影響、公平性違反についてモデルを評価します。その自動テストフレームワークは、AIモデルが本番環境に展開される前に組織がバイアスの問題を特定して対処するのを支援します。

AIコンテンツモデレーション

Robust IntelligenceのAI Firewallは言語モデルの出力検証を提供し、AIシステムが生成した有害、毒性のある、またはポリシー違反のコンテンツを検出してフィルタリングします。そのリアルタイム検査機能は、AI生成の出力がエンドユーザーに届く前に安全ポリシーとコンテンツガイドラインに準拠することを組織が確保するのに役立ちます。

AIサイバーセキュリティ

Robust IntelligenceのAI Firewallは、本番環境のAIモデルにリアルタイム保護を提供し、モデルの動作を操作するように設計された敵対的入力、プロンプトインジェクション、データポイズニング、その他の攻撃を検出してブロックします。AIシステムの入力と出力を検査して敵対的な悪用を防ぎ、AIアプリケーション向けに特化して設計されたセキュリティレイヤーとして機能します。

AI安全性ツール

Robust Intelligenceは、敵対的堅牢性、データ整合性、バイアス、公平性にわたってモデルを評価する自動化されたストレステストを通じて包括的なAI安全性検証を提供します。そのテストフレームワークはデプロイ前にAIモデルに対して数百の設定可能なテストを実行し、AIシステムが安全性と信頼性の基準を満たすことを確認する品質ゲートとして機能します。

AIテストツール

Robust Intelligenceは、敵対的堅牢性、データ整合性、バイアス検出、パフォーマンス低下をカバーする包括的なテストスイートを実行するStress Testingプロダクトを通じてAIモデルテストを自動化します。これらのテストはCI/CDパイプラインに統合され、組織がデプロイ前にモデルを体系的に検証し、開発中に問題を発見できるようにします。