Ny AI-funktion väcker skräck hos myndigheter och banker

Vad har hänt

AI-bolaget Anthropic har lanserat en ny funktion kallad 'computer use', som låter maskininlärningsmodellen Claude styra en dator på samma sätt som en människa. Verktyget kan flytta markören, klicka på knappar och skriva text i olika program för att utföra komplexa arbetsflöden. Detta markerar ett skifte från generativ text till aktiv handling i digitala miljöer.

Varför det spelar roll

Centralbanker och tillsynsmyndigheter uttrycker oro för att tekniken gör det möjligt att kringgå säkerhetssystem som bygger på mänsklig interaktion. Om AI kan navigera bankplattformar autonomt ökar riskerna för storskalig ekonomisk brottslighet och instabilitet i det finansiella systemet. Det väcker kritiska frågor om ansvar och digital kontroll när gränsen mellan människa och maskin suddas ut.

Vem påverkas

Utvecklare och företag är de primära användarna av funktionen, men oron riktas främst mot banksektorn och myndigheter. Dessa parter befarar att tekniken kan missbrukas av illasinnade aktörer för att automatisera sofistikerade bedrägerier eller cyberattacker.

EU-status

Inom EU regleras dylika teknologier genom AI-akten, som ställer höga krav på transparens och riskhantering för AI-system med hög påverkan på finansiell infrastruktur. Denna nya funktionalitet kommer sannolikt att granskas hårt av europeiska tillsynsmyndigheter.

Mer att veta

Vissa experter menar att rädslan är överdriven och att AI-verktygen snarare kommer att användas för att stärka cybersäkerhet och upptäcka fusk, snarare än att bara underlätta det.