Stor oro för AI-manipulation och falska nyheter inför valet

Vad har hänt

En ny undersökning visar att 72 procent av svenskarna känner oro för att AI-manipulerat material ska användas för att påverka opinionen inför höstens riksdagsval. Det handlar specifikt om rädslan för deepfakes i form av bilder och filmer som sprids för att missleda väljare. Digital desinformation pekas ut som en av de största utmaningarna för den demokratiska processen.

Varför det spelar roll

AI-teknikens förmåga att skapa hyperrealistiska förfalskningar har ökat dramatiskt, vilket gör det svårare för allmänheten att skilja på sanning och lögn. Om förtroendet för information skadas kan det leda till minskat valdeltagande eller att väljare fattar beslut baserat på felaktiga grunder. Den höga siffran visar att medvetenheten om riskerna är stor, men också att misstänksamheten mot digitalt innehåll är omfattande.

Vem påverkas

Hotet berör samtliga röstberättigade medborgare och politiska partier i Sverige. Myndigheter, mediehus och teknikplattformar ställs inför högre krav på faktagranskning och identifiering av AI-genererat innehåll under valrörelsen.

EU-status

Sverige omfattas av EU:s AI-förordning (AI Act) som ställer krav på transparens vid användning av deepfakes. De stora teknikplattformarna har även undertecknat EU-koden om desinformation för att motverka manipulerat innehåll.

Mer att veta

Undersökningen belyser utmaningen med att upprätthålla förtroendet för digital kommunikation när gränsen mellan verklighet och manipulation suddas ut. Myndigheten för psykologiskt försvar (MPF) har tidigare varnat för liknande risker.