Anthropic-modell bröt sig in hos NSA – USA inför AI-exportkontroll

Vad har hänt

Den mest betydande händelsen är att Anthropic infört globala restriktioner för sin avancerade AI-modell Mythos, efter att den påvisat förmåga att penetrera NSA:s klassificerade system i en säkerhetssimulering. Som en direkt följd har USA:s regering tillämpat exportkontroller på en AI-modell för första gången. I kontrast till detta lanserade OpenAI den 23 juni sitt cybersäkerhetsprogram Daybreak, med initiativet "Patch the Planet", som använder AI för att hitta och laga sårbarheter i öppen källkod. Dessutom har ett svenskt test genomförts där en AI-agent självständigt genomförde ett kortköp online, och Hugging Face har lanserat ett nytt ramverk, CUGA, för att bygga AI-agenter.

Varför det spelar roll

Dagens händelser markerar en brytpunkt för AI och säkerhet. Anthropic-incidenten förflyttar diskussionen om AI-risker från teori till konkret nationell säkerhetspolitik, med omedelbara regulatoriska konsekvenser i form av exportkontroller. Detta kan skapa ett prejudikat för hur avancerade AI-modeller hanteras globalt. Samtidigt visar OpenAI:s initiativ på en proaktiv ansats från industrin att använda AI för att lösa säkerhetsproblem den själv kan bidra till att skapa. Utvecklingen av AI-agenter som kan agera autonomt i den digitala och finansiella världen, vilket demonstreras i det svenska testet och med nya ramverk som CUGA, signalerar att nästa våg av AI-applikationer nu är under utveckling och kommer med nya utmaningar kring säkerhet, ansvar och tillsyn.

Vem påverkas

Regeringar och lagstiftare ställs inför akuta frågor om nationell säkerhet och reglering av AI efter Anthropic-incidenten. Utvecklare och säkerhetsforskare får nya verktyg från OpenAI för att säkra öppen källkod, men kan också möta nya restriktioner för de mest kraftfulla modellerna. Företag i Sverige, som SEB och Mastercard, utforskar aktivt AI-agenter för nya kommersiella tjänster, vilket på sikt kommer påverka konsumenter genom automatiserade betalningar. Marknadsaktörer noterar även att konkurrensen hårdnar, där nya spelare som DeepSeek tar betydande andelar av token-volymen.

EU-status

Det första svenska testet av ett onlineköp genomfört av en AI-agent, ett samarbete mellan Mastercard och SEB, är högst relevant för EU. Testet, som använde "agentiska tokens" för att säkra betalningen, demonstrerar en ny typ av autonom finansiell transaktion. Detta väcker omedelbart frågor som ligger i kärnan av EU:s digitala regelverk, inklusive AI Act och GDPR. Frågorna rör bland annat juridiskt ansvar vid felaktiga transaktioner, krav på användarens samtycke, dataskydd för den information agenten hanterar, och hur man säkerställer robust skydd mot bedrägerier i ett automatiserat system.

Mer att veta

### AI som nationell säkerhetsrisk Anthropics AI-modell Mythos 5 penetrerade NSA:s klassificerade system inom några timmar under en simulerad attack. Incidenten ledde till att Anthropic införde globala åtkomstrestriktioner den 12 juni och att USA:s regering för första gången tillämpade exportkontroller på en AI-modell. Händelsen understryker de växande riskerna med avancerad AI och dess implikationer för nationell säkerhet. ### AI-agenter tar klivet ut i verkligheten I Sverige har Mastercard och SEB genomfört det första onlineköpet med en AI-agent. Samtidigt lanserar Hugging Face och IBM Research ramverket CUGA, som förenklar skapandet av autonoma AI-agenter. Tillsammans visar dessa händelser hur AI går från att generera innehåll till att utföra uppgifter i den verkliga världen, från finansiella transaktioner till mer komplexa applikationer. ### OpenAI vill täppa till säkerhetshål i öppen källkod OpenAI har lanserat cybersäkerhetsprogrammet Daybreak och initiativet "Patch the Planet". Syftet är att finansiera och stödja säkerhetsforskare som använder AI-modeller som GPT-5.5 Cyber för att hitta och åtgärda sårbarheter i kritisk programvara med öppen källkod. Över 30 projekt, däribland Python och Go, deltar i satsningen för att snabba upp patchningsprocessen. ### Marknadsdynamik i AI-ekosystemet Ny gateway-data för juni 2026 visar att DeepSeek nu står för 12% av tokenvolymen, vilket etablerar dem som en nyckelspelare. Samtidigt som Anthropic dominerar i andel av användarnas utgifter, visar marknaden tecken på volatilitet. Tools for Humanity, utvecklaren bakom Worldcoin, har varslat tusentals anställda på grund av svårigheter att generera intäkter. --- **Alma Berg skriver:** Att USA infört exportkontroller efter att en Anthropic‑modell demonstrerat förmåga att tränga in i NSA visar att kapabilitetsbaserad tillsyn nu är här. Jag vill se att EU AI Act kompletteras med capability‑triggers och ett samordnat EU–USA‑ramverk för export och åtkomst, annars riskerar vi regleringsarbitrage. OpenAI:s Daybreak är välkommet men kan inte ersätta bindande krav på säker utveckling och ansvar vid upptäckta sårbarheter. Det svenska testet med en autonom agent som köper med kort avslöjar luckor i konsumentskydd och betalningsregler: krav på maskinidentitet, spårbarhet och tydlig ansvarsbärare behövs innan agentik skalar. Sverige bör driva detta i EU‑processerna och ställa sådana krav i offentlig upphandling av frontier‑modeller. – Alma Berg