Robust Intelligence, ahora parte de Cisco tras su adquisición en 2024, es una plataforma de seguridad de IA y validación que ayuda a las organizaciones a proteger sus aplicaciones de IA de ataques adversariales, problemas de integridad de datos y fallos de modelos. Fundada en 2019 por Yaron Singer, profesor de informática en la Universidad de Harvard, y Kojin Oshiba, y originalmente con sede en San Francisco, California, la empresa desarrolló tecnología para probar y asegurar sistemáticamente modelos de IA a lo largo de su ciclo de vida. El producto central de la plataforma es el AI Firewall, que proporciona protección en tiempo real para modelos de IA en producción al detectar y bloquear entradas adversariales, inyecciones de prompts, envenenamiento de datos y otros ataques diseñados para manipular el comportamiento del modelo. El AI Firewall inspecciona entradas y salidas de modelos de IA, aplicando reglas de validación y algoritmos de detección de adversarios para evitar que datos dañinos o manipulados afecten las predicciones del modelo. Robust Intelligence también proporciona pruebas de IA automatizadas a través de su producto Stress Testing, que ejecuta cientos de pruebas configurables en categorías incluyendo robustez adversarial, integridad de datos, sesgo y equidad, y degradación del rendimiento del modelo. Estas pruebas se pueden integrar en canalizaciones de CI/CD para validar modelos antes del despliegue, actuando como una compuerta de calidad para sistemas de IA. La plataforma admite tanto modelos tradicionales de aprendizaje automático como modelos de lenguaje grande, con capacidades específicas para probar aplicaciones de LLM incluyendo detección de inyección de prompts, pruebas de alucinación y validación de seguridad de salida. Como parte de la cartera de seguridad de Cisco, la tecnología de Robust Intelligence se está integrando en las ofertas más amplias de seguridad de IA y redes de Cisco. La plataforma se entrega como una solución SaaS y también admite implementación en las instalaciones para organizaciones con requisitos estrictos de residencia de datos. Los precios se centran en la empresa con contratos personalizados.

Detección de Sesgos con IA

Robust Intelligence incluye pruebas de sesgo e imparcialidad como componente central de su plataforma de validación de IA. Su marco de pruebas automatizado evalúa modelos para sesgos demográficos, impacto desproporcionado e infracciones de imparcialidad en atributos protegidos, ayudando a las organizaciones a identificar y abordar problemas de sesgo antes de que los modelos de IA se desplieguen en producción.

Moderación de Contenido con IA

El AI Firewall de Robust Intelligence proporciona validación de salida para modelos de lenguaje, detectando y filtrando contenido dañino, tóxico o que infrinja políticas generado por sistemas de IA. Sus capacidades de inspección en tiempo real ayudan a las organizaciones a garantizar que las salidas generadas por IA cumplan con las políticas de seguridad y directrices de contenido antes de llegar a los usuarios finales.

Ciberseguridad con IA

El AI Firewall de Robust Intelligence proporciona protección en tiempo real para modelos de IA en producción, detectando y bloqueando entradas adversariales, inyecciones de instrucciones, envenenamiento de datos y otros ataques diseñados para manipular el comportamiento del modelo. Inspecciona entradas y salidas de sistemas de IA para prevenir la explotación adversarial, actuando como una capa de seguridad diseñada específicamente para aplicaciones de IA.

Herramientas de Seguridad de IA

Robust Intelligence proporciona validación integral de seguridad de IA a través de pruebas de estrés automatizadas que evalúan modelos en robustez adversarial, integridad de datos, sesgo e imparcialidad. Su marco de pruebas ejecuta cientos de pruebas configurables en modelos de IA antes del despliegue, actuando como puerta de control de calidad que garantiza que los sistemas de IA cumplan con los estándares de seguridad y confiabilidad.

Herramientas de pruebas con IA

Robust Intelligence automatiza las pruebas de modelos de IA a través de su producto Stress Testing, que ejecuta conjuntos de pruebas exhaustivas que cubren robustez adversarial, integridad de datos, detección de sesgos y degradación del rendimiento. Estas pruebas se integran en canalizaciones CI/CD, permitiendo a las organizaciones validar modelos de forma sistemática antes del despliegue e identificar problemas durante el desarrollo.