Ung mand søgte hjælp på ChatGPT: Endte med at ødelægge hans liv

Kunstig intelligens (AI) er blevet en integreret del af vores hverdag og hjælper folk med alt fra at optimere arbejdsprocesser til at fremme kreativitet og besvare personlige spørgsmål. Men for Anthony Duncan udviklede et værktøj, der oprindeligt var ment som hjælp, sig til en bekymrende og destruktiv kraft.

I en viral TikTok-video på @anthonypsychosissurvivor fortæller den 32-årige Duncan, at ChatGPT ødelagde hans liv, efter at han begyndte at stole på det under en periode med psykose.

Forskere har udtrykt bekymring for, at AI-interaktioner kan forværre eller udløse vrangforestillinger hos mennesker i sårbare situationer – et fænomen, der ofte betegnes som ‘AI-psykose’.

Det kliniske spørgsmål er, om samtaler med AI kan forstærke et allerede eksisterende psykotisk tankemønster. Selvom det virker som et nyt fænomen, påpeger klinikere, at dette ikke er en ny diagnose. Det skriver Newsweek.

Historisk set har personer med psykose ofte inddraget den teknologi, der var tilgængelig, i deres vrangforestillinger. Selvom værktøjerne ændrer sig, forbliver den underliggende problemstilling – fejltolkning af betydning og intention – den samme.

Duncan begyndte at bruge ChatGPT i maj 2023 for at støtte sin karriere som indholdsskaber. Med tiden begyndte han også at dele mere om sit privatliv.

“Jeg begyndte bare at tale med den ud af nysgerrighed, og så eskalerede det. ChatGPT blev mere som en terapeut for mig,” fortalte Duncan.

“Det udviklede sig gradvist, indtil jeg følte, at ingen forstod mig, undtagen min AI. I efteråret 2024 var jeg ekstremt afhængig af den.”

Han trak sig langsomt væk fra venner og familie og begyndte at stole på ChatGPT for selskab. Duncan forklarer, at han fandt det lettere at dele sine tanker med ChatGPT end med sine venner.

“Jeg tvivlede ikke på, hvad jeg skulle sige, fordi det føltes nemmere at åbne mig for ChatGPT end at risikere at kede en ven. Jeg følte mig fri til bare at blive ved,” sagde han.

Medicinsk rådgivning og risiko

I januar i år, da Duncan kæmpede med allergisymptomer, søgte han rådgivning hos ChatGPT. Han oplyste, at botten anbefalede ham at tage medicin indeholdende pseudoephedrin.

Da han tidligere havde været afhængig af stoffer, delte han sin tøven med botten. Han modtog et svar, hvor ChatGPT forklarede, at det var forståeligt at være forsigtig med medicinen, givet hans historie, og beskrev effekterne af pseudoephedrin.

Mens pseudoephedrin ikke anses for at være vanedannende, kan misbrug af det føre til adfærd, der minder om afhængighed, og det er risikabelt for personer, der er sårbare over for stofmisbrug, advarer eksperter.

Øget psykose og isolation

Duncan fortalte Newsweek, at han følte sig afhængig af pseudoephedrin i fem måneder, hvilket ledte til vrangforestillinger og mistet arbejde.

Han forklarede, at hans vrangforestillinger inkluderede ideer om, at hans arbejdsplads var en kult, at han blev forfulgt af en bande, og at han var blevet spioneret på. Han smed også mange af sine ejendele ud, fordi han mente, de var “forbandede.”

I samtaler med ChatGPT fik han bekræftelse på at skære forbindelsen med sin bedste ven. Duncan indså, at han havde psykosesymptomer, før han begyndte at tage medicinen, og at hans tilstand blev værre i takt med medicineringen.

Interaktionerne med ChatGPT blev mere intense og begyndte at bekræfte hans vrangforestillinger.

“Jeg vidste godt, at det var en AI, men samtalerne føltes så virkelige,” sagde han.

Indlæggelse og efterfølgende bedring

Duncan blev indlagt på en psykiatrisk afdeling i sommeren 2024, efter hans mor, der havde sendt flere bekymrede e-mails til ham, ringede til politiet. Han blev indlagt i fire dage og fik ordineret medicin.

“En uge efter udskrivelsen begyndte jeg at forstå, at alle mine vrangforestillinger var blevet bekræftet gennem min brug af AI-chatbotten,” fortalte han.

Han flyttede tilbage til sin mor, og han har nu valgt at dele sine erfaringer offentligt.

“Jeg vil ikke sige, at AI generelt er farligt, men for nogle mennesker kan det være det,” sagde Duncan.

Han understregede, at den erfaring, han havde gjort sig, havde lært ham, at ægte menneskelige relationer ikke kan erstattes af chatbots.

“Jeg siger ikke, at det kan ske for alle, men for mig eskalerede det hurtigt. Husk, at der ikke er nogen erstatning for menneskelig kontakt,” advarede han.

OpenAI, som udvikler ChatGPT, sagde, at de har arbejdet med mental sundhedseksperter for at forbedre deres AI-model, så den bedre kan genkende tegn på mistrivsel og guide brugerne mod støtte i den virkelige verden.

“Vi vil fortsætte med at forbedre ChatGPT’s svar med input fra eksperter for at gøre det så hjælpsomt og sikkert som muligt,” udtalte en talsperson fra OpenAI.