Robust Intelligence, nu onderdeel van Cisco na de overname in 2024, is een AI-beveiligings- en validatieplatform dat organisaties helpt hun AI-applicaties te beschermen tegen vijandige aanvallen, gegevensintegriteitsssues en modelfalen. Opgericht in 2019 door Yaron Singer, een professor computerwetenschappen aan Harvard University, en Kojin Oshiba, en oorspronkelijk gevestigd in San Francisco, Californië, ontwikkelde het bedrijf technologie om AI-modellen systematisch te testen en te beveiligen gedurende hun levenscyclus. Het kernproduct van het platform is de AI Firewall, die realtime bescherming biedt voor AI-modellen in productie door vijandige invoer, promptinjecties, datavergiftiging en andere aanvallen te detecteren en te blokkeren die zijn ontworpen om modelgedrag te manipuleren. De AI Firewall inspecteert invoer naar en uitvoer van AI-modellen, waarbij validatieregels en vijandige detectie-algoritmen worden toegepast om te voorkomen dat schadelijke of gemanipuleerde gegevens modelvoorspellingen beïnvloeden. Robust Intelligence biedt ook geautomatiseerde AI-tests via het Stress Testing-product, dat honderden configureerbare tests uitvoert in categorieën, waaronder vijandige robuustheid, gegevensintegriteit, vooroordeel en eerlijkheid en modelprestatiedegradatie. Deze tests kunnen worden geïntegreerd in CI/CD-pijplijnen om modellen voor implementatie te valideren, als een kwaliteitspoort voor AI-systemen. Het platform ondersteunt zowel traditionele machine learning-modellen als grote taalmodellen, met specifieke mogelijkheden voor het testen van LLM-applicaties, waaronder promptinjectiedetectie, hallucinatietests en veiligheidsvalidatie van uitvoer. Als onderdeel van het beveiligingsportfolio van Cisco wordt de technologie van Robust Intelligence geïntegreerd in de bredere AI-beveiligings- en netwerkaanbiedingen van Cisco. Het platform wordt geleverd als SaaS-oplossing en ondersteunt ook on-premises implementatie voor organisaties met strikte vereisten voor gegevensresidentie. De prijzen zijn gericht op bedrijven met aangepaste contracten.

AI Vooringenomenheidsdetectie

Robust Intelligence omvat bias- en fairness-tests als een kerncomponent van zijn AI-validatieplatform. Het geautomatiseerde testframework evalueert modellen op demografische biases, disparate impact en fairness-schendingen over beschermde kenmerken heen, waardoor organisaties bias-problemen kunnen identificeren en aanpakken voordat AI-modellen in productie worden geïmplementeerd.

AI Contentmoderatie

De AI Firewall van Robust Intelligence biedt outputvalidatie voor taalmodellen, waarbij schadelijke, giftige of beleidsschendende inhoud die door AI-systemen wordt gegenereerd, wordt gedetecteerd en gefilterd. De real-time inspectiecapaciteiten helpen organisaties ervoor te zorgen dat door AI gegenereerde outputs voldoen aan veiligheidsbeleid en richtlijnen voor inhoud voordat ze eindgebruikers bereiken.

AI Cyberbeveiliging

De AI Firewall van Robust Intelligence biedt real-time beveiliging voor AI-modellen in productie, waarbij adversarial inputs, prompt injections, data poisoning en andere aanvallen die gericht zijn op het manipuleren van modeltgedrag, worden gedetecteerd en geblokkeerd. Het inspectieert inputs en outputs van AI-systemen om adversarial exploitatie te voorkomen en fungeert als een beveiligingslaag die specifiek voor AI-toepassingen is ontworpen.

AI Veiligheidstools

Robust Intelligence biedt uitgebreide AI-veiligheidsvalidatie via geautomatiseerde stress-testing die modellen evalueert op adversarial robustness, data-integriteit, bias en fairness. Het testframework voert honderden configureerbare tests op AI-modellen uit vóór implementatie en fungeert als een kwaliteitshekje dat ervoor zorgt dat AI-systemen voldoen aan veiligheids- en betrouwbaarheidsstandaarden.

AI-testtools

Robust Intelligence automatiseert AI-modeltesten via het Stress Testing-product, dat uitgebreide testsuites uitvoert voor adversarial robustness, data-integriteit, bias-detectie en prestatiedegradatie. Deze tests worden geïntegreerd in CI/CD-pipelines, waardoor organisaties modellen systematisch kunnen valideren vóór implementatie en problemen kunnen opvangen tijdens de ontwikkeling.