EU i samtal med Anthropic: Granskar risker med AI-modellen Mythos

Vad har hänt

EU-kommissionen har inlett samtal med AI-bolaget Anthropic rörande potentiella risker med deras AI-modell 'Mythos'. Myndigheterna uttrycker oro kring modellens förmåga och huruvida den lever upp till de säkerhetskrav som ställs inom unionen. Granskningen fokuserar särskilt på transparens kring träningsdata och systematiska risker.

Varför det spelar roll

Detta är en del av EU:s arbete med att implementera AI-förordningen (AI Act) och säkerställa att stora språkmodeller inte sprider desinformation eller utgör säkerhetshot. Att EU går direkt på specifika modeller visar på en ökad vaksamhet mot amerikanska AI-jättar. Samtalen understryker vikten av att efterleva unionens etiska riktlinjer för att få verka på den europeiska marknaden.

Vem påverkas

I första hand berörs Anthropic som nu måste svara på EU:s frågor. Indirekt påverkas europeiska företag och utvecklare som väntar på tillgång till bolagets senaste modeller, samt slutanvändare vars säkerhet EU försöker garantera genom striktare kontroll av generativ AI.

EU-status

EU-kommissionen agerar proaktivt enligt AI-förordningen (AI Act). Granskningen är ett bevis på att EU avser att strikt reglera kraftfulla modeller innan de når den gemensamma marknaden, vilket kan påverka när och hur Anthropic lanserar framtida tjänster i Europa.

Mer att veta

Anthropic har tidigare profilerat sig som ett säkerhetsfokuserat AI-bolag (skapat av tidigare OpenAI-anställda), vilket gör kritiken mot en specifik modell som 'Mythos' extra anmärkningsvärd i branschen. Redovisningen av träningsdata är en central punkt i tvisten.