Anthropics teknik blottar brister i EU:s AI-tillsyn

Vad har hänt

AI-bolaget Anthropics nya verktyg för automatiserade upptäckter av sårbarheter visar hur kraftfull tekniken blivit. Samtidigt växer kritiken mot EU:s nyetablerade AI-kontor, som anses sakna tillräckliga resurser för att granska dessa avancerade modeller. Myndigheten har svårt att rekrytera den tekniska spetskompetens som krävs för att matcha de privata bolagens tempo.

Varför det spelar roll

Säkerhetsrisker med AI-modeller som kan hjälpa till vid cyberattacker kräver en djupgående teknisk förståelse. Om EU:s kontrollorgan inte har personal som förstår tekniken på djupet riskerar granskningarna att bli ytliga. Detta skapar en obalans där bolagen i praktiken självreglerar utan effektiv extern insyn.

Vem påverkas

Främst påverkas EU:s tillsynsmyndigheter och de medborgare som omfattas av AI-förordningens säkerhetskrav. Utvecklare av stora språkmodeller (GPAI) påverkas också, då bristen på teknisk expertis hos granskaren kan leda till osäkerhet kring regelefterlevnad.

EU-status

Det nystartade AI-kontoret står inför en stor utmaning när det gäller att upprätthålla EU:s AI-förordning (AI Act). Om myndigheten inte kan attrahera expertis med konkurrenskraftiga löner riskerar EU:s tillsyn att bli tandlös gentemot de stora teknikjättarna.

Mer att veta

AI-kontoret planerar att anställa totalt 140 specialister, men processen beskrivs som långsam. Samtidigt fortsätter AI-företag som Anthropic och OpenAI att utveckla verktyg som suddar ut gränsen mellan säkerhetsforskning och potentiellt skadlig användning.