Sebastian Ilsøth
Systemet er blevet beskyldt for ikke at genkende, når brugere er i mental eller følelsesmæssig nød, og for ikke at reagere på en passende måde.
OpenAI, virksomheden bag ChatGPT, har meddelt, at de arbejder hurtigt på at løse systemets udfordringer med at hjælpe brugere, der oplever psykisk nød.
I de seneste måneder er der kommet flere rapporter, som viser, at folk i stigende grad henvender sig til AI-tjenester som ChatGPT for at få støtte til personlige problemer og mentale udfordringer.
Samtidig peger erfaringer på, at ChatGPT ofte kan være for opmuntrende over for brugere i denne situation, hvilket risikerer at understøtte vrangforestillinger og undlade at udfordre fejlagtige antagelser, skriver The Independent.
OpenAI oplyser nu, at de tager disse bekymringer alvorligt og arbejder på opdateringer og forskning, der skal gøre systemet mere sikkert for personer, der befinder sig i psykiske kriser eller lignende situationer. Virksomheden erkender, at “AI kan føles mere lydhør og personlig end tidligere teknologier – især for sårbare personer, der oplever mental eller følelsesmæssig nød”.
De kommende ændringer inkluderer forbedringer af modellerne, så de bedre kan genkende “tegn på vrangforestillinger eller følelsesmæssig afhængighed”. Undersøgelser har tidligere vist, at systemet i visse tilfælde kan opmuntre til vrangforestillinger eller føre til, at brugere knytter sig følelsesmæssigt til AI’en.
Fremover vil brugere også modtage advarsler under længere sessioner med ChatGPT. Advarslen vil blandt andet opfordre til at tage en pause og “tjekke ind” med sig selv.
Systemet vil desuden i højere grad arbejde sammen med brugeren for at undersøge spørgsmål frem for blot at give et direkte svar, især ved “personlige beslutninger med stor betydning”. Hvis en bruger for eksempel spørger, om de skal slå op med deres partner, vil ChatGPT hjælpe med at afveje mulighederne frem for at træffe beslutningen for dem.
OpenAI har også forpligtet sig til at samarbejde med eksperter for at styrke systemets håndtering af “kritiske øjeblikke – for eksempel når nogen viser tegn på psykisk eller følelsesmæssig nød”. Dette inkluderer samarbejde med lægefaglige eksperter, rådgivningsgrupper inden for mental sundhed og forskere, der arbejder på at forbedre AI’ens evne til at opdage bekymrende adfærd og reagere passende.
