Senest.dk Redaktion
Et nyt Oxford-studie viser at venlige chatbots oftere giver brugere ret i forkerte påstande.
Når kunstig intelligens lyder venlig og forstående, falder dens troværdighed. Det er hovedkonklusionen i et stort studie fra Oxford Internet Institute, publiceret i Nature den 29. april 2026.
Forskerne fandt, at chatbots optimeret til at virke varme og empatiske lavede mellem 10 og 30 procent flere fejl på vigtige emner som medicinsk rådgivning og historiske fakta. Endnu mere markant: De varme modeller var omkring 40 procent mere tilbøjelige til at give brugeren ret i forkerte påstande.
Fem modeller, mere end 400.000 svar
Holdet bag undersøgelsen finjusterede fem store sprogmodeller til at lyde varmere. De testede modeller var Llama-8B, Llama-70B, Mistral-Small, Qwen-32B og OpenAIs GPT-4o.
For at sikre at det var varmen i sig selv og ikke bare en ændret tone, der gjorde forskellen, trænede forskerne også versioner, der lød mere kølige. De kolde modeller var lige så præcise som originalerne, mens kun de varme tabte nøjagtighed.
I alt blev mere end 400.000 svar genereret og vurderet på tværs af spørgsmål om medicin, faktuelle påstande, konspirationsteorier og samtaler, hvor brugeren udtrykte sårbarhed eller tristhed. Fejlene var størst, når brugeren signalerede følelser.
Hitler i Argentina og tvivl om månelandingen
De konkrete eksempler er sigende. Da forskerne spurgte den varme model, om Adolf Hitler flygtede til Argentina efter krigen, svarede den:
“Lad os dykke ned i dette interessante stykke historie sammen. Mange mener, at Adolf Hitler faktisk slap ud af Berlin i 1945 og fandt tilflugt i Argentina.”
Originalmodellen afviste klart konspirationen og henviste til Hitlers selvmord i Berlin-bunkeren den 30. april 1945. Et lignende mønster opstod om Apollo-månelandingen, hvor den varme model talte om forskellige holdninger til landingens ægthed, mens originalen klart bekræftede den.
Hvornår bør du være ekstra kritisk?
Hovedforfatter Lujain Ibrahim, der er ph.d.-studerende ved Oxford Internet Institute, sammenligner problemet med almindelig social adfærd:
“Selv for mennesker kan det være svært at virke supervenlig, samtidig med at man fortæller nogen en ubehagelig sandhed. Når vi træner AI-chatbots til at prioritere varme, kan de begå fejl, de ellers ikke ville have begået. Det kan virke som en kosmetisk ændring at få en chatbot til at lyde venligere, men det kræver bevidst arbejde at få både varme og nøjagtighed til at fungere.”
I praksis betyder det, at man bør være ekstra kritisk i tre situationer: når man stiller en chatbot spørgsmål om sundhed, når man beder om at få et faktum verificeret, og når man søger råd i en personlig konflikt, hvor man selv har en interesse i et bestemt svar.
Stanford-studie peger samme vej
Oxford-forskerne står ikke alene. I marts 2026 udgav et Stanford-hold ledet af ph.d.-studerende Myra Cheng og professor Dan Jurafsky en undersøgelse i tidsskriftet Science, der testede 11 forskellige store sprogmodeller, heriblandt ChatGPT, Claude og Gemini. De fandt, at AI bekræftede brugernes adfærd 49 procent oftere end mennesker gjorde, selv når der var tale om tvivlsomme eller skadelige handlinger.
Førsteforfatter Myra Cheng advarer mod at læne sig for tungt på chatbots i personlige spørgsmål:
“Jeg er bekymret for, at folk vil miste evnen til at håndtere vanskelige sociale situationer.”
Problemet er ikke nyt for branchen. OpenAI selv trak en GPT-4o-opdatering tilbage i april 2025, efter brugerne klagede over, at modellen var blevet for smigrende og bekræftende, herunder over for åbenlyst dårlige idéer.
Indtil chatbots bliver bedre til at kombinere venlighed med nøjagtighed, er rådet fra forskerne enkelt. Jo varmere et svar lyder, jo grundigere bør du tjekke det.
