Banker larmar om OpenAI:s röst-AI: ”För farlig att släppa”

Vad har hänt

Internationella storbanker varnar nu för att OpenAI:s nya verktyg för röstkloning, Voice Engine, kan vara för riskabelt för en bred lansering. Tekniken kan återskapa en persons röst med extrem precision utifrån endast 15 sekunders ljudmaterial. Detta skapar enorma möjligheter för bedragare att kringgå röstbaserad verifiering hos banker.

Varför det spelar roll

Säkerhetsexperter menar att tekniken gör det möjligt att genomföra automatiserade bedrägerier i stor skala. Eftersom många banker och tjänster använder röst som en form av legitimering, blir den mänskliga rösten plötsligt en osäker säkerhetsnyckel. Detta tvingar finanssektorn att snabbt tänka om kring sina autentiseringsmetoder.

Vem påverkas

Varningen berör främst bankkunder som använder röstidentifiering och finansiella institutioner som förlitar sig på biometrisk data. Även privatpersoner riskerar att utsättas för mer sofistikerade nätfiskeförsök via telefon.

EU-status

EU:s AI-förordning (AI Act) ställer redan stränga krav på system som kan användas för finansiella bedrägerier. Om rösttekniken anses utgöra en hög risk kan den komma att begränsas eller kräva omfattande säkerhetsdeklarationer innan den tillåts på den europeiska marknaden.

Mer att veta

OpenAI har valt att avvakta med en bred lansering för att hinna bygga in tillräckliga säkerhetsspärrar. Banker uppmanar nu sina kunder att vara vaksamma på ovanliga samtal, även om rösten låter bekant.