Robust Intelligence, nun Teil von Cisco nach seiner Akquisition 2024, ist eine KI-Sicherheits- und Validierungsplattform, die Organisationen hilft, ihre KI-Anwendungen vor adversarialen Angriffen, Datenintegritätsproblemen und Modellausfällen zu schützen. Das Unternehmen wurde 2019 von Yaron Singer, Professor für Informatik an der Harvard University, und Kojin Oshiba gegründet und war ursprünglich in San Francisco, Kalifornien angesiedelt. Das Unternehmen entwickelte Technologie, um KI-Modelle systematisch über ihren gesamten Lebenszyklus zu testen und zu sichern. Das Kernprodukt der Plattform ist die AI Firewall, die Echtzeitschutz für KI-Modelle in der Produktion bietet, indem sie adversariale Eingaben, Prompt-Injections, Data-Poisoning und andere Angriffe erkennt und blockiert, die darauf ausgelegt sind, das Modellverhalten zu manipulieren. Die AI Firewall untersucht Eingaben zu und Ausgaben aus KI-Modellen und wendet Validierungsregeln und adversariale Detection-Algorithmen an, um zu verhindern, dass schädliche oder manipulierte Daten Modellvorhersagen beeinflussen. Robust Intelligence bietet auch automatisierte KI-Tests durch sein Stress-Testing-Produkt, das Hunderte konfigurierbarer Tests über Kategorien wie adversariale Robustheit, Datenintegrität, Bias und Fairness sowie Modellleistungsverschlechterung durchführt. Diese Tests können in CI/CD-Pipelines integriert werden, um Modelle vor der Bereitstellung zu validieren und als Quality Gate für KI-Systeme zu fungieren. Die Plattform unterstützt sowohl traditionelle Machine-Learning-Modelle als auch große Sprachmodelle mit spezifischen Fähigkeiten zum Testen von LLM-Anwendungen, einschließlich Prompt-Injection-Erkennung, Halluzinations-Testing und Output-Sicherheitsvalidierung. Als Teil von Ciscos Sicherheitsportfolio wird die Technologie von Robust Intelligence in Ciscos breitere KI-Sicherheits- und Networking-Angebote integriert. Die Plattform wird als SaaS-Lösung bereitgestellt und unterstützt auch lokal installierte Bereitstellung für Organisationen mit strengen Anforderungen an die Datenresidenz. Die Preisgestaltung ist unternehmensfokussiert mit benutzerdefinierten Verträgen.

KI-Bias-Erkennung

Robust Intelligence umfasst Bias- und Fairness-Tests als Kernkomponente seiner AI-Validierungsplattform. Sein automatisiertes Test-Framework evaluiert Modelle auf demografische Bias, disparate Auswirkungen und Fairness-Verstöße über geschützte Attribute hinweg und hilft Organisationen, Bias-Probleme zu identifizieren und zu beheben, bevor AI-Modelle in der Produktion eingesetzt werden.

KI-Content-Moderation

Die AI Firewall von Robust Intelligence bietet Output-Validierung für Sprachmodelle und erkennt sowie filtert schädliche, toxische oder richtlinienverletzende Inhalte, die von AI-Systemen generiert werden. Seine Echtzeit-Inspektionsfunktionen helfen Organisationen sicherzustellen, dass von AI generierte Outputs Sicherheitsrichtlinien und Content-Richtlinien einhalten, bevor sie Endnutzer erreichen.

KI-Cybersicherheit

Die AI Firewall von Robust Intelligence bietet Echtzeitschutz für AI-Modelle in der Produktion, erkennt und blockiert adversariale Eingaben, Prompt-Injektionen, Datenvergiftung und andere Angriffe, die darauf ausgelegt sind, das Modellverhalten zu manipulieren. Sie inspiziert Ein- und Ausgaben von AI-Systemen, um adversariale Ausnutzung zu verhindern, und dient als Sicherheitsebene, die speziell für AI-Anwendungen entwickelt wurde.

KI-Sicherheits-Tools

Robust Intelligence bietet umfassende AI-Sicherheitsvalidierung durch automatisierte Stress-Tests, die Modelle hinsichtlich adversarialer Robustheit, Datenintegrität, Bias und Fairness evaluieren. Sein Test-Framework führt Hunderte konfigurierbarer Tests an AI-Modellen vor der Bereitstellung durch und fungiert als Quality Gate, das sicherstellt, dass AI-Systeme Sicherheits- und Zuverlässigkeitsstandards erfüllen.

KI-Testing-Tools

Robust Intelligence automatisiert AI-Modell-Tests durch sein Stress Testing-Produkt, das umfassende Test-Suites mit adversarialer Robustheit, Datenintegrität, Bias-Erkennung und Performance-Degradation ausführt. Diese Tests integrieren sich in CI/CD-Pipelines und ermöglichen Organisationen, Modelle systematisch vor der Bereitstellung zu validieren und Probleme während der Entwicklung zu erkennen.