Många positiva till AI för medicinråd – experter varnar för risker
Allt fler patienter är positiva till att använda AI för läkemedelsrådgivning, men experter varnar nu för att tekniken kan ge livsfarliga instruktioner.
Vad har hänt
En ny undersökning visar att en stor andel patienter ställer sig positiva till att använda AI-bottar för rådgivning kring läkemedel. Trots entusiasmen varnar medicinska experter för riskerna då generativ AI i dagsläget kan ge felaktiga eller direkt farliga rekommendationer gällande dosering och kombinationer av mediciner.
Snabbfakta
| Positiva till AI för medicinråd | Många patienter |
|---|---|
| Risk med AI-råd | Livsfarliga instruktioner |
| Regelverk inom EU | AI Act |
| Klassificering av AI-verktyg | Medicintekniska produkter |
| Krav för medicintekniska produkter | CE-märkning |
Varför det spelar roll
Detta är en kritisk fråga eftersom förtroendet för tekniken växer snabbare än teknikens faktiska tillförlitlighet i medicinska miljöer. Om patienter börjar självmedicinera baserat på AI-råd utan mänsklig kontroll kan det leda till allvarliga vårdskador och juridiska ansvarsfrågor för både plattformar och vårdgivare.
Vem påverkas
Nyheten berör främst patienter med kroniska sjukdomar, apotekspersonal och läkare som nu möter patienter som förlitar sig på digitala verktyg. Även utvecklare av hälsoappar påverkas av de ökade kraven på säkerhet och ansvar.
EU-status
Inom EU regleras användningen av AI i medicinska sammanhang allt striktare genom AI Act, där hög风险system kravställs på hög precision och transparens. Verktyg som ger medicinska råd klassas ofta som medicintekniska produkter vilket kräver CE-märkning.
Mer att veta
Studien som ligger till grund för diskussionen belyser att AI ännu har problem med så kallade hallucinationer, där den kan hitta på medicinska fakta som låter övertygande men är felaktiga.
Snabba svar om den här nyheten
Varför är patienter positiva till AI för medicinrådgivning?
Vilka risker finns med AI inom medicin enligt experterna?
Vilka påverkas av riskerna med AI-råd inom medicin?
Hur regleras användningen av AI i medicinska sammanhang inom EU?
Länken öppnar i nytt fönster och leder till utgivarens egen sida.
Källan har spårats automatiskt från utgivaren via Fronts signalkedja.