Robust Intelligence, désormais partie de Cisco suite à son acquisition en 2024, est une plateforme de validation et de sécurité de l'IA qui aide les organisations à protéger leurs applications d'IA contre les attaques contradictoires, les problèmes d'intégrité des données et les défaillances des modèles. Fondée en 2019 par Yaron Singer, professeur d'informatique à l'Université Harvard, et Kojin Oshiba, et initialement basée à San Francisco, en Californie, l'entreprise a développé une technologie pour tester et sécuriser systématiquement les modèles d'IA tout au long de leur cycle de vie. Le produit principal de la plateforme est le pare-feu IA, qui fournit une protection en temps réel pour les modèles d'IA en production en détectant et en bloquant les entrées contradictoires, les injections d'invite, l'empoisonnement des données et d'autres attaques conçues pour manipuler le comportement des modèles. Le pare-feu IA inspecte les entrées vers et les sorties des modèles d'IA, en appliquant des règles de validation et des algorithmes de détection contradictoire pour empêcher les données nuisibles ou manipulées d'affecter les prédictions des modèles. Robust Intelligence fournit également des tests d'IA automatisés via son produit de test de stress, qui exécute des centaines de tests configurables dans des catégories comprenant la robustesse contradictoire, l'intégrité des données, le biais et l'équité, et la dégradation des performances des modèles. Ces tests peuvent être intégrés aux pipelines CI/CD pour valider les modèles avant le déploiement, agissant comme un contrôle de qualité pour les systèmes d'IA. La plateforme supporte à la fois les modèles d'apprentissage automatique traditionnels et les grands modèles de langage, avec des capacités spécifiques pour tester les applications LLM, notamment la détection d'injection d'invite, le test d'hallucination et la validation de sécurité de la sortie. Dans le cadre du portefeuille de sécurité de Cisco, la technologie de Robust Intelligence est en cours d'intégration dans les offres de sécurité IA et de mise en réseau plus larges de Cisco. La plateforme est livrée en tant que solution SaaS et supporte également le déploiement sur site pour les organisations ayant des exigences strictes de résidence des données. La tarification est axée sur l'entreprise avec des contrats personnalisés.

Détection de biais IA

Robust Intelligence inclut les tests de biais et d'équité comme composante centrale de sa plateforme de validation d'IA. Son cadre de test automatisé évalue les modèles pour les biais démographiques, l'impact différencié et les violations d'équité entre les attributs protégés, aidant les organisations à identifier et à résoudre les problèmes de biais avant le déploiement des modèles d'IA en production.

Modération de contenu IA

Le pare-feu IA de Robust Intelligence fournit une validation des résultats pour les modèles de langage, détectant et filtrant le contenu nuisible, toxique ou violant les politiques généré par les systèmes d'IA. Ses capacités d'inspection en temps réel aident les organisations à s'assurer que les résultats générés par l'IA respectent les politiques de sécurité et les directives de contenu avant d'être transmis aux utilisateurs finaux.

Cybersécurité IA

Le pare-feu IA de Robust Intelligence fournit une protection en temps réel pour les modèles d'IA en production, détectant et bloquant les entrées adversariales, les injections de requête, l'empoisonnement des données et autres attaques conçues pour manipuler le comportement du modèle. Il inspecte les entrées et les résultats des systèmes d'IA pour prévenir l'exploitation adversariale, servant de couche de sécurité spécialement conçue pour les applications d'IA.

Outils de sécurité IA

Robust Intelligence fournit une validation de sécurité de l'IA complète grâce aux tests de stress automatisés qui évaluent les modèles en termes de robustesse adversariale, d'intégrité des données, de biais et d'équité. Son cadre de test exécute des centaines de tests configurables sur les modèles d'IA avant le déploiement, agissant comme une porte de contrôle qualité qui garantit que les systèmes d'IA respectent les normes de sécurité et de fiabilité.

Outils de test IA

Robust Intelligence automatise les tests de modèles d'IA grâce à son produit Stress Testing, qui exécute des suites de tests complètes couvrant la robustesse adversariale, l'intégrité des données, la détection des biais et la dégradation des performances. Ces tests s'intègrent dans les pipelines CI/CD, permettant aux organisations de valider les modèles de manière systématique avant le déploiement et de détecter les problèmes lors du développement.