Robust Intelligence, nå en del av Cisco etter oppkjøpet i 2024, er en KI-sikkerhets- og valideringsplattform som hjelper organisasjoner med å beskytte KI-applikasjonene sine mot adversarielle angrep, dataintegritetsproblemer og modellfeil. Grunnlagt i 2019 av Yaron Singer, professor i informatikk ved Harvard University, og Kojin Oshiba, og opprinnelig med hovedkontor i San Francisco, California, utviklet selskapet teknologi for systematisk å teste og sikre KI-modeller gjennom hele livssyklusen. Plattformens kjerneprodukt er KI-brannmuren, som gir sanntidsbeskyttelse for KI-modeller i produksjon ved å oppdage og blokkere adversarielle innganger, promptinjeksjoner, dataforgiftning og andre angrep designet for å manipulere modellatferd. KI-brannmuren undersøker innganger til og utganger fra KI-modeller, og anvender valideringsregler og adversarielle deteksjonsalgoritmer for å forhindre at skadelig eller manipulert data påvirker modellprediksjoner. Robust Intelligence gir også automatisert KI-testing gjennom sitt Stress Testing-produkt, som kjører hundrevis av konfigurerbare tester på tvers av kategorier inkludert adversariell robusthet, dataintegritet, skjevhet og rettferdighet, og ytelsesforringelse av modell. Disse testene kan integreres i CI/CD-pipelines for å validere modeller før distribusjon, og fungere som en kvalitetsport for KI-systemer. Plattformen støtter både tradisjonelle maskinlæringsmodeller og store språkmodeller, med spesifikke evner for testing av LLM-applikasjoner inkludert promptinjeksjonsdeteksjon, hallusinasjonstesting og validering av utgangssikkerhet. Som en del av Ciscos sikkerhetsportefølje integreres Robust Intelligences teknologi i Ciscos bredere KI-sikkerhets- og nettverkstilbud. Plattformen leveres som en SaaS-løsning og støtter også lokale distribusjoner for organisasjoner med strenge krav til dataoppholdssted. Prisingen er bedriftsfokusert med tilpassede kontrakter.

AI-skjevhetsdeteksjon

Robust Intelligence inkluderer skjevhets- og rettferdighetstesting som en kjernedel av sin AI-valideringsplattform. Dens automatiserte testrammeverk evaluerer modeller for demografiske skjevheter, ulik påvirkning og rettferdighetsbrudd på tvers av beskyttede attributter, noe som hjelper organisasjoner med å identifisere og løse skjevhetsproblemer før AI-modeller distribueres til produksjon.

AI-innholdsmoderering

Robust Intelligence's AI Firewall gir utdatavalidering for språkmodeller, oppdager og filtrerer skadelig, giftig eller policybrudd-innhold generert av AI-systemer. Dens sanntidsinspeksjonsfunksjoner hjelper organisasjoner med å sikre at AI-generert utdata er i samsvar med sikkerhetspolicyer og retningslinjer for innhold før de når sluttbrukere.

AI-cybersikkerhet

Robust Intelligence's AI Firewall gir sanntidsbeskyttelse for AI-modeller i produksjon, oppdager og blokkerer motstands innganger, hurtiginjeksjoner, datavergifting og andre angrep utformet for å manipulere modelloppførsel. Den inspiserer innganger og utganger av AI-systemer for å forhindre motstands utnyttelse, og fungerer som et sikkerhetslag spesielt utformet for AI-applikasjoner.

AI-sikkerhetsverktøy

Robust Intelligence gir omfattende AI-sikkerhet validering gjennom automatisert stresstesting som evaluerer modeller på tvers av motstands robusthet, dataintegritet, skjevhet og rettferdighet. Dens testrammeverk kjører hundrevis av konfigurerbare tester på AI-modeller før distribusjon, og fungerer som en kvalitetsport som sikrer at AI-systemer oppfyller sikkerhet og pålitelighets standarder.

AI-testverktøy

Robust Intelligence automatiserer AI-modelltest gjennom sitt Stress Testing-produkt, som kjører omfattende testserier som dekker motstands robusthet, dataintegritet, skjevdeteksjon og ytelsesforringelse. Disse testene integreres i CI/CD-rørledninger, noe som gjør det mulig for organisasjoner å validere modeller systematisk før distribusjon og fange problemer under utvikling.