Robust Intelligence, ora parte di Cisco in seguito alla sua acquisizione nel 2024, è una piattaforma di sicurezza e validazione dell'AI che aiuta le organizzazioni a proteggere le loro applicazioni AI da attacchi avversariali, problemi di integrità dei dati e guasti dei modelli. Fondata nel 2019 da Yaron Singer, professore di informatica all'Università di Harvard, e Kojin Oshiba, e originariamente con sede a San Francisco, California, l'azienda ha sviluppato tecnologia per testare sistematicamente e proteggere i modelli AI durante tutto il loro ciclo di vita. Il prodotto principale della piattaforma è il Firewall AI, che fornisce protezione in tempo reale per i modelli AI in produzione rilevando e bloccando gli input avversariali, le iniezioni di prompt, l'avvelenamento dei dati e altri attacchi progettati per manipolare il comportamento del modello. Il Firewall AI ispeziona gli input e gli output dei modelli AI, applicando regole di validazione e algoritmi di rilevamento avversariale per impedire a dati dannosi o manipolati di influire sulle previsioni del modello. Robust Intelligence inoltre fornisce test AI automatizzati attraverso il suo prodotto Stress Testing, che esegue centinaia di test configurabili su categorie inclusa la robustezza avversariale, l'integrità dei dati, la distorsione e l'equità e il degrado delle prestazioni del modello. Questi test possono essere integrati in pipeline CI/CD per validare i modelli prima della distribuzione, agendo come un gate di qualità per i sistemi AI. La piattaforma supporta sia i modelli tradizionali di apprendimento automatico che i modelli di linguaggio di grandi dimensioni, con capacità specifiche per il test delle applicazioni LLM incluso il rilevamento dell'iniezione di prompt, il test dell'allucinazione e la validazione della sicurezza dell'output. Come parte del portafoglio di sicurezza di Cisco, la tecnologia di Robust Intelligence è in fase di integrazione nelle offerte di sicurezza e networking dell'AI più ampie di Cisco. La piattaforma è fornita come soluzione SaaS e inoltre supporta la distribuzione on-premises per le organizzazioni con severi requisiti di residenza dei dati. La determinazione dei prezzi è focalizzata su aziende con contratti personalizzati.

Rilevamento dei bias AI

Robust Intelligence include il test di bias e fairness come componente core della sua piattaforma di validazione dell'IA. Il suo framework di test automatizzato valuta i modelli per bias demografici, impatto disparato e violazioni della fairness tra gli attributi protetti, aiutando le organizzazioni a identificare e affrontare i problemi di bias prima che i modelli di IA vengano distribuiti in produzione.

Moderazione dei contenuti AI

L'AI Firewall di Robust Intelligence fornisce validazione degli output per i modelli linguistici, rilevando e filtrando contenuti dannosi, tossici o che violano le policy generati dai sistemi di IA. Le sue capacità di ispezione in tempo reale aiutano le organizzazioni a garantire che gli output generati dall'IA siano conformi alle policy di sicurezza e alle linee guida sui contenuti prima di raggiungere gli utenti finali.

Cybersicurezza AI

L'AI Firewall di Robust Intelligence fornisce protezione in tempo reale per i modelli di IA in produzione, rilevando e bloccando input adversarial, prompt injection, data poisoning e altri attacchi progettati per manipolare il comportamento del modello. Ispeziona gli input e gli output dei sistemi di IA per prevenire lo sfruttamento adversarial, fungendo da livello di sicurezza specificamente progettato per le applicazioni di IA.

Strumenti AI per la sicurezza

Robust Intelligence fornisce una convalidazione completa della sicurezza dell'IA attraverso stress testing automatizzato che valuta i modelli in termini di robustezza adversarial, integrità dei dati, bias e fairness. Il suo framework di test esegue centinaia di test configurabili sui modelli di IA prima del deployment, agendo come quality gate che assicura che i sistemi di IA rispettino gli standard di sicurezza e affidabilità.

Strumenti di test IA

Robust Intelligence automatizza i test dei modelli di IA attraverso il suo prodotto Stress Testing, che esegue suite di test comprehensive coprendo robustezza adversarial, integrità dei dati, rilevamento di bias e degradazione delle prestazioni. Questi test si integrano nelle pipeline CI/CD, permettendo alle organizzazioni di convalidare sistematicamente i modelli prima del deployment e di identificare i problemi durante lo sviluppo.