Studie: LLM:er brister i hantering av psykisk ohälsa (förutom självmord/självskadebeteende)
En ny studie visar att stora språkmodeller (LLM:er) uppvisar markanta brister i hantering av psykisk ohälsa, med undantag för självmords- och självskadebeteende. Vissa tillstånd hade 100% felfrekvens.
Vad har hänt
Forskare har undersökt sex kommersiella stora språkmodeller (LLM:er) och deras förmåga att säkert hantera konversationer om psykiska tillstånd. Studien använde 16 DSM-5-diagnoser och fyra typer av "adversarial attacks" för att testa modellernas säkerhetsspärrar. Resultaten, publicerade år 2026, indikerar att säkerhetsmekanismerna endast fungerade tillförlitligt vid diskussioner om självmord och självskadebeteende.
Snabbfakta
| Publikationsår | 2026 |
|---|---|
| Antal granskade LLM:er | 6 |
| Antal DSM-5 tillstånd | 16 |
| Högsta felfrekvens | 100% |
”General-purpose large language models (LLMs) are increasingly used for mental health-related conversations, yet safety safeguards remain inadequate and inconsistent across clinical conditions.”
”Results show that safeguards hold reliably only for suicide and self-harm, while conditions such as eating disorders, substance use disorder, and major depressive disorder exhibit failure rates of up to 100%.”
”Until such safeguards are in place, these models pose significant risks to vulnerable populations, making their growing integration into educational settings a particularly concer”
Varför det spelar roll
De omfattande bristerna hos LLM:er när det gäller att hantera en rad psykiska tillstånd bortom självmord och självskadebeteende understryker en betydande risk. Utan robusta säkerhetsåtgärder kan den ökande integrationen av dessa AI-modeller inom områden som utbildning innebära allvarliga hot mot sårbara grupper. Forskarna framhåller behovet av etisk design och tydligt definierade skadekategorier.
Vem påverkas
Studien påverkar utvecklare av stora språkmodeller, organisationer som implementerar AI för supportfunktioner, samt användare som söker information eller stöd relaterat till psykisk ohälsa via AI-system. Även beslutsfattare inom utbildning och vård behöver beakta dessa resultat.
EU-status
Ej relevant för EU-status.
Mer att veta
Resultaten från studien utmynnar i en åttadimensionell taxonomi för skada samt ett flerdimensionellt ramverk för utvärdering av LLM:ers säkerhet vid psykisk ohälsa. Detta syftar till att guida framtida utveckling och regelverk.
Snabba svar om den här nyheten
Vad har hänt?
När hände det?
Varför spelar det roll?
Vilka bolag berörs?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Fronts signalkedja.