Anthropics nya verktyg kan styra din dator – väcker säkerhetsfrågor

Vad har hänt

AI-företaget Anthropic har lanserat en ny funktion kallad 'computer use' för sin modell Claude. Tekniken gör det möjligt för AI:n att interagera direkt med datorskärmar genom att flytta markören, klicka på knappar och skriva text precis som en människa. Syftet är att låta AI:n automatisera komplexa arbetsflöden mellan olika program.

Varför det spelar roll

Detta markerar ett skifte från AI som bara genererar text till AI som kan utföra faktiska handlingar i digitala miljöer. Samtidigt varnar kritiker och säkerhetsforskare för riskerna: om AI:n får kontroll över datorn kan den potentiellt användas för skadliga syften eller fatta felaktiga beslut utan mänsklig översyn.

Vem påverkas

Funktionen riktar sig främst till mjukvaruutvecklare och företag som vill automatisera repetitiva administrativa uppgifter. För vanliga användare innebär det en framtid där AI kan agera som en personlig assistent direkt i operativsystemet, men det väcker också frågor kring integritet och kontroll.

EU-status

Anthropic har valt att rulla ut funktionen brett, men EU:s kommande AI-förordning (AI Act) ställer höga krav på system som kan utföra autonoma handlingar. Företaget betonar att de arbetar med säkerhetsmarginaler för att möta globala regulatoriska krav.

Mer att veta

Funktionen är fortfarande i betastadiet och Anthropic medger att den kan göra fel, som att avbryta uppgifter eller interagera med felaktiga element på skärmen. Säkerhetsexperter följer noga hur tekniken kan missbrukas för nätfiske eller automatiserat bedrägeri.