Robust Intelligence, agora parte da Cisco após sua aquisição em 2024, é uma plataforma de segurança e validação de IA que ajuda organizações a proteger seus aplicativos de IA contra ataques adversariais, problemas de integridade de dados e falhas de modelo. Fundada em 2019 por Yaron Singer, professor de ciência da computação na Universidade de Harvard, e Kojin Oshiba, e originalmente com sede em San Francisco, Califórnia, a empresa desenvolveu tecnologia para testar e proteger sistematicamente modelos de IA em todo seu ciclo de vida. O produto central da plataforma é o AI Firewall, que fornece proteção em tempo real para modelos de IA em produção detectando e bloqueando entradas adversariais, injeções de prompt, envenenamento de dados e outros ataques projetados para manipular o comportamento do modelo. O AI Firewall inspeciona entradas e saídas de modelos de IA, aplicando regras de validação e algoritmos de detecção adversarial para evitar que dados prejudiciais ou manipulados afetem previsões de modelo. Robust Intelligence também fornece testes automatizados de IA através de seu produto Stress Testing, que executa centenas de testes configuráveis em categorias incluindo robustez adversarial, integridade de dados, viés e justiça, e degradação de desempenho do modelo. Esses testes podem ser integrados em pipelines CI/CD para validar modelos antes da implantação, atuando como um portão de qualidade para sistemas de IA. A plataforma suporta tanto modelos tradicionais de aprendizado de máquina quanto modelos de linguagem grandes, com capacidades específicas para testar aplicativos de LLM incluindo detecção de injeção de prompt, testes de alucinação e validação de segurança de saída. Como parte do portfólio de segurança da Cisco, a tecnologia da Robust Intelligence está sendo integrada nas ofertas de segurança de IA e rede mais amplas da Cisco. A plataforma é entregue como uma solução SaaS e também suporta implantação no local para organizações com requisitos estritos de residência de dados. A precificação é focada em empresas com contratos personalizados.

Detecção de Viés com IA

A Robust Intelligence inclui testes de viés e justiça como um componente principal de sua plataforma de validação de IA. Seu framework de testes automatizado avalia modelos quanto a vieses demográficos, impacto desproporcional e violações de justiça em atributos protegidos, ajudando as organizações a identificar e resolver problemas de viés antes que modelos de IA sejam implantados em produção.

Moderação de Conteúdo com IA

O AI Firewall da Robust Intelligence fornece validação de saída para modelos de linguagem, detectando e filtrando conteúdo prejudicial, tóxico ou que viola políticas gerado por sistemas de IA. Suas capacidades de inspeção em tempo real ajudam as organizações a garantir que as saídas geradas por IA cumpram com políticas de segurança e diretrizes de conteúdo antes de chegar aos usuários finais.

Cibersegurança com IA

O AI Firewall da Robust Intelligence fornece proteção em tempo real para modelos de IA em produção, detectando e bloqueando entradas adversariais, injeções de prompt, envenenamento de dados e outros ataques projetados para manipular o comportamento do modelo. Ele inspeciona entradas e saídas de sistemas de IA para prevenir exploração adversarial, servindo como uma camada de segurança especificamente projetada para aplicações de IA.

Ferramentas de Segurança de IA

A Robust Intelligence fornece validação abrangente de segurança de IA através de testes de estresse automatizados que avaliam modelos em robustez adversarial, integridade de dados, viés e justiça. Seu framework de testes executa centenas de testes configuráveis em modelos de IA antes da implantação, atuando como um gate de qualidade que garante que os sistemas de IA atendam aos padrões de segurança e confiabilidade.

Ferramentas de Teste com IA

A Robust Intelligence automatiza testes de modelos de IA através de seu produto Stress Testing, que executa suites de testes abrangentes cobrindo robustez adversarial, integridade de dados, detecção de viés e degradação de desempenho. Esses testes se integram em pipelines de CI/CD, permitindo que as organizações validem modelos sistematicamente antes da implantação e capturem problemas durante o desenvolvimento.