Lakera is een AI-beveiligingsbedrijf dat gespecialiseerd is in het beschermen van large language model-applicaties tegen prompt-injection-aanvallen, jailbreakpogingen, datalekken en andere LLM-specifieke beveiligingsrisico's. Opgericht in 2021 door David Haber, Matthias Kraft en Severin Elvatun, en gevestigd in Zürich, Zwitserland, richt Lakera zich specifiek op de beveiligingsuitdagingen die uniek zijn voor generatieve AI-toepassingen. Het vlaggenschipproduct van het bedrijf, Lakera Guard, biedt een realtime API die tussen gebruikersinvoer en LLM-applicaties wordt geplaatst om schadelijke prompts te detecteren en te blokkeren voordat ze het model bereiken. Lakera Guard analyseert binnenkomende prompts op diverse aanvalspatronen, waaronder directe en indirecte prompt-injectie, jailbreakpogingen, verzoeken om schadelijke inhoud en pogingen om gevoelige informatie of systeemprompts uit het model te extraheren. Het systeem maakt gebruik van eigen machine-learningmodellen die zijn getraind op een continu bijgewerkte dataset van aanvalstechnieken, inclusief gegevens van Gandalf, Lakera's publieke prompt-injectiegame die miljoenen adversariale promptvoorbeelden van gebruikers wereldwijd heeft verzameld. Lakera Guard bewaakt ook LLM-uitvoer op gevoelige datalekken, giftige inhoud en off-topic antwoorden, en biedt zo een uitgebreide invoer-uitvoerbeveiligingslaag. De API is ontworpen voor lage-latentie-integratie, met minimale overhead voor responstijden van LLM-applicaties. Lakera biedt integraties met grote LLM-providers en frameworks, en kan worden ingezet als cloud-API of on-premises voor organisaties met strikte vereisten omtrent dataresidentie. Het platform bevat een dashboard voor het monitoren van beveiligingsgebeurtenissen, het analyseren van aanvalspatronen en het configureren van detectiebeleid. Lakera biedt een gratis tier voor ontwikkelaars met beperkte API-aanroepen, een betaalde tier voor productieapplicaties en aangepaste enterprise-prijzen voor organisaties die hogere volumes, toegewijde ondersteuning en on-premises-implementatie vereisen.

AI Contentmoderatie

Lakera Guard controleert zowel inputs als outputs van LLM-toepassingen, detecteert en filtert giftige inhoud, schadelijke verzoeken en reacties in strijd met beleid. Deze moderatielaag voor input-output helpt organisaties inhoudsveranderingsnormen in hun AI-toepassingen te handhaven, en voorkomt zowel opzettelijk misbruik als onbedoelde schadelijke outputs.

AI Cyberbeveiliging

Lakera biedt AI-specifieke cyberbeveiliging via Lakera Guard, dat LLM-toepassingen beschermt tegen prompt-injectieaanvallen, jailbreaking en gegevensextractiepogingen. De real-time API inspecteert prompts voordat ze het model bereiken en controleert outputs op lekkage van gevoelige gegevens, waardoor een beveiligingslaag wordt geboden die speciaal is ontworpen voor het unieke dreigingslandschap van generatieve AI-toepassingen.

AI Veiligheidstools

Lakera draagt bij aan AI-veiligheid door misbruik van LLM-toepassingen te voorkomen door real-time detectie van schadelijke prompts, jailbreak-pogingen en inputvormgeving in strijd met beleid. De eigendomsmodellen, getraind op miljoenen adversarial voorbeelden van het Gandalf prompt injection-spel, helpen organisaties ervoor te zorgen dat hun AI-toepassingen niet kunnen worden gemanipuleerd tot het produceren van schadelijke outputs.

AI-testtools

Lakera helpt organisaties hun LLM-toepassingen op veiligheidsproblemen te testen door middel van adversarial testing-methodologieën geïnformeerd door miljoenen real-world aanvalsvoorbeelden. Het platform stelt beveiligingsteams in staat om te evalueren hoe hun AI-toepassingen reageren op prompt-injectie, jailbreaking en andere aanvalsvectoren vóór implementatie.