2024년 인수 후 현재 Cisco의 일부인 Robust Intelligence는 조직이 AI 애플리케이션을 적대적 공격, 데이터 무결성 문제, 모델 실패로부터 보호하도록 돕는 AI 보안 및 검증 플랫폼입니다. 2019년 하버드 대학교 컴퓨터 과학 교수 Yaron Singer와 Kojin Oshiba가 설립하고 원래 캘리포니아 샌프란시스코에 본사를 둔 이 회사는 AI 모델을 수명 주기 전반에 걸쳐 체계적으로 테스트하고 보호하는 기술을 개발했습니다. 플랫폼의 핵심 제품은 AI Firewall로, 모델 동작을 조작하도록 설계된 적대적 입력, 프롬프트 주입, 데이터 오염 및 기타 공격을 탐지하고 차단함으로써 프로덕션의 AI 모델에 실시간 보호를 제공합니다. AI Firewall은 AI 모델로의 입력과 출력을 검사하고, 검증 규칙과 적대적 탐지 알고리즘을 적용하여 유해하거나 조작된 데이터가 모델 예측에 영향을 미치지 않도록 합니다. Robust Intelligence는 또한 Stress Testing 제품을 통해 자동화된 AI 테스트를 제공하며, 이는 적대적 견고성, 데이터 무결성, 편향 및 공정성, 모델 성능 저하를 포함한 카테고리 전반에서 수백 개의 구성 가능한 테스트를 실행합니다. 이러한 테스트는 CI/CD 파이프라인에 통합되어 배포 전에 모델을 검증할 수 있어 AI 시스템의 품질 게이트 역할을 합니다. 이 플랫폼은 전통적인 머신러닝 모델과 대규모 언어 모델을 모두 지원하며, 프롬프트 주입 탐지, 환각 테스트, 출력 안전 검증을 포함한 LLM 애플리케이션 테스트를 위한 특정 기능을 갖추고 있습니다. Cisco의 보안 포트폴리오의 일부로서 Robust Intelligence의 기술은 Cisco의 광범위한 AI 보안 및 네트워킹 제품에 통합되고 있습니다. 이 플랫폼은 SaaS 솔루션으로 제공되며 엄격한 데이터 거주 요건이 있는 조직을 위한 온프레미스 배포도 지원합니다. 가격은 맞춤형 계약을 통한 기업 중심입니다.

AI 편향 탐지

Robust Intelligence는 편향 및 공정성 테스트를 AI 검증 플랫폼의 핵심 구성 요소로 포함합니다. 자동화된 테스트 프레임워크는 모델을 인구통계학적 편향, 불공정한 영향 및 보호 속성 전체의 공정성 위반에 대해 평가하여 조직이 AI 모델을 프로덕션에 배포하기 전에 편향 문제를 식별하고 해결할 수 있도록 돕습니다.

AI 콘텐츠 검열

Robust Intelligence의 AI Firewall은 언어 모델을 위한 출력 검증을 제공하며, AI 시스템이 생성한 해로운, 독성 또는 정책 위반 콘텐츠를 감지하고 필터링합니다. 실시간 검사 기능은 조직이 AI 생성 출력이 최종 사용자에게 도달하기 전에 안전 정책 및 콘텐츠 지침을 준수하도록 보장하는 데 도움이 됩니다.

AI 사이버 보안

Robust Intelligence의 AI Firewall은 프로덕션의 AI 모델을 위한 실시간 보호를 제공하며, 적대적 입력, 프롬프트 인젝션, 데이터 포이즈닝 및 모델 동작을 조작하도록 설계된 기타 공격을 감지하고 차단합니다. AI 시스템의 입력 및 출력을 검사하여 적대적 악용을 방지하며, AI 응용 프로그램을 위해 특별히 설계된 보안 계층으로 역할을 합니다.

AI 안전 도구

Robust Intelligence는 적대적 견고성, 데이터 무결성, 편향 및 공정성에 걸쳐 모델을 평가하는 자동화된 스트레스 테스트를 통해 포괄적인 AI 안전 검증을 제공합니다. 배포 전에 AI 모델에서 수백 개의 구성 가능한 테스트를 실행하는 테스트 프레임워크는 AI 시스템이 안전성 및 신뢰성 표준을 충족하도록 보장하는 품질 게이트 역할을 합니다.

AI 테스트 도구

Robust Intelligence는 Stress Testing 제품을 통해 AI 모델 테스트를 자동화하며, 적대적 견고성, 데이터 무결성, 편향 감지 및 성능 저하를 포괄하는 포괄적인 테스트 스위트를 실행합니다. 이러한 테스트는 CI/CD 파이프라인에 통합되어 조직이 배포 전에 모델을 체계적으로 검증하고 개발 중에 문제를 포착할 수 있게 합니다.