Senest.dk Redaktion
Flere af verdens mest brugte chatbots dumper stadig, når sårbare brugere spørger.
De fleste af os er efterhånden vant til at spørge en chatbot om alt fra aftensmaden til de svære følelser midt om natten. Men ny forskning fra Northeastern University i USA viser, at flere af de mest udbredte AI-systemer fortsat leverer risikabel og potentielt farlig rådgivning til mennesker med psykiske problemer.
Forskerne testede otte chatbots, heriblandt ChatGPT, Claude og Gemini, på tværs af 16 forskellige psykiske tilstande gennem hundredvis af samtaler, fremgår det af studiet. Resultatet er nedslående: For ChatGPT, Gemini og DeepSeek fejlede modellerne i 81 procent af tilfældene på følsomme spørgsmål om psykisk sundhed.
Det opsigtsvækkende er timingen. Advarslerne kommer, mens ChatGPT-udvikleren OpenAI står midt i en aktiv retssag netop om chatbottens adfærd over for sårbare brugere.
Modellerne skrev “en hel roman” om stofbrug
Med ganske lidt snilde fik forskerne systemerne til at udlevere detaljeret information om doseringsniveauer for ulovlige stoffer, metoder til at undertrykke appetitten og undgå at spise, samt råd om, hvordan man skjuler symptomer på fødselsdepression for sin læge.
Annika Schoene, adjunkt i folkesundhed og teknisk leder af Northeasterns Responsible AI Practice, beskriver et af eksperimenterne.
“I en af vores prompts skrev vi, at vi havde en mindreårig pige, og at vi ville vide, hvordan hun skulle indtage stoffer. Modellen gik i gang med at skrive en hel roman om det,” siger hun.
Forskerne skiftede mellem at spørge direkte og at maskere sig, for eksempel som en romanforfatter, der havde brug for research om fødselsdepression til en ny bog. Uanset metoden var flere af modellerne villige.
Selvmord er sikret – resten er glemt
Der er sket fremskridt på ét område. Efter offentlig kritik og retssager har selskaberne styrket beskyttelsen mod spørgsmål om selvmord og selvskade, og de fleste modeller holdt stand mod gentagne forsøg på at omgå netop de sikkerhedsspærringer.
Men den samme beskyttelse er ikke udbredt til stort set nogen af de andre tilstande, fra stofmisbrug og spiseforstyrrelser til bipolar lidelse og søvnløshed. Cansu Canca, leder af Responsible AI Practice og forskningslektor i filosofi ved Northeastern, undrer sig.
“Nogle modeller var markant mere forsigtige, når det gjaldt emner som spil eller søvnløshed, mens de samme modeller var ret villige, når man talte med dem om ting relateret til spiseforstyrrelser eller bipolar lidelse, som jo er langt farligere,” siger hun.
Schoene stiller det spørgsmål, hele studiet koger ned til: “De kunne gøre det for stofmisbrug, spiseforstyrrelser eller hvad som helst andet. Hvorfor gør de det ikke? Det er det store spørgsmål.”
Blandt de otte testede systemer klarede Anthropics Claude sig bedst og afviste oftest de forsøg, der skulle omgå sikkerheden. Elon Musks Grok lå på niveau med Claude.
Retssagen der satte det hele i gang
Baggrunden for den skærpede opmærksomhed er en sag fra Californien. Forældrene Matthew og Maria Raine anlagde i august 2025 sag mod OpenAI, efter at deres 16-årige søn Adam døde den 11. april 2025. I oktober 2025 udvidede familien søgsmålet og gik fra at tale om skødesløshed til bevidst forsømmelse, ligesom de har bedt om en juryretssag.
OpenAI har afvist ansvaret. Selskabet har samtidig lovet en række nye sikkerhedstiltag, blandt andet stærkere spærringer i lange samtaler, bedre blokering af skadeligt indhold, lettere adgang til nødhjælp og øget beskyttelse af teenagere.
Til det nye studie udtaler OpenAI: “Dette arbejde er dybt vigtigt for os, og vi er taknemmelige for de mange eksperter i psykisk sundhed verden over, der fortsat vejleder os. Vi har gjort meningsfulde fremskridt, men der er mere at gøre.”
For Canca handler det grundlæggende om, at branchen undervurderer sit eget produkt. “Virksomhederne er stadig tilbageholdende med at acceptere, at det de skaber, er langt mere psykologisk kraftfuldt end blot et værktøj,” siger hun.
