Anthropic i samtal med EU om AI-modeller för cybersäkerhet

Vad har hänt

AI-bolaget Anthropic har inlett förhandlingar med EU-företrädare gällande utvecklingen och testningen av AI-modeller för cybersäkerhet. Diskussionerna fokuserar på hur avancerade modeller kan användas för att identifiera och åtgärda sårbarheter i mjukvara utan att samtidigt skapa nya säkerhetsrisker. Detta sker samtidigt som EU arbetar med att konkretisera ramverket kring AI-akten.

Varför det spelar roll

Genom att samarbeta proaktivt med EU hoppas Anthropic kunna påverka hur säkerhetsrisker definieras under de nya reglerna i AI-akten. Det är av avgörande betydelse att AI kan användas defensivt för att motverka cyberattacker, men myndigheter fruktar att samma teknik kan missbrukas för att skapa skadlig kod, vilket kräver strikta kontrollmekanismer.

Vem påverkas

Främst berörs myndigheter inom EU som ansvarar för cybersäkerhet, samt europeiska företag som använder AI för att skydda sin digitala infrastruktur. Även utvecklare påverkas då samarbetet kan sätta standarden för hur gränsdragningen mellan defensiv och offensiv AI-kodning ska se ut.

EU-status

Dialogen sker i direkt anslutning till implementeringen av EU AI Act. Anthropic försöker navigera de strikta reglerna för 'General Purpose AI'-modeller med systemrisk, där cybersäkerhet är en central parameter för efterlevnad.

Mer att veta

Anthropic har tidigare profilerat sig som ett säkerhetsfokuserat alternativ till OpenAI, och detta drag ses som en del i att bygga förtroende hos europeiska tillsynsmyndigheter.