Senest.dk Redaktion
Antallet af dokumenterede AI-fejl er passeret 1.600, og kurven peger stadig opad.
De fleste af os taler efterhånden med en chatbot flere gange om ugen, på jobbet eller derhjemme, ofte uden at tænke over det. Men bag den glatte facade vokser en liste, de færreste kender: en offentlig database, der minutiøst samler alle de gange, kunstig intelligens er gået grueligt galt.
Samlingen hedder AI Incident Database og drives af den uafhængige organisation Responsible AI Collaborative. Her registreres hændelser, hvor AI-systemer har forvoldt eller været tæt på at forvolde skade. I slutningen af januar 2026 rundede databasen 1.361 hændelser, og sagsnumrene på de nyeste registreringer ligger nu over 1.600.
Og tempoet tager til. Alene fra november 2025 til januar 2026 blev der føjet 108 nye sager til listen.
Antallet steget over 50 procent på ét år
De tørre tal fortæller en tydelig historie. Ifølge Stanford-universitetets AI Index-rapport for 2026 registrerede databasen 362 hændelser i 2025 mod 233 året før. På bare ét år er antallet af dokumenterede fejl altså steget med 55 procent.
Stanford-forskerne peger på to grunde. AI er blevet spredt til langt flere arbejdspladser, og systemerne til at indberette fejl er blevet bedre. Med andre ord bruger vi teknologien mere, og vi opdager fejlene hurtigere.
Fra slettede data til farlige råd
Bag statistikken gemmer sig sager, der spænder fra det pinlige til det livsfarlige.
I sommeren 2025 opdagede to sikkerhedsforskere, at McDonald’s chatbot til jobansøgere, McHire, var beskyttet af adgangskoden “123456”. Det åbnede for oplysninger fra over 64 millioner ansøgninger, fra navne og kontaktoplysninger til chatbeskeder. Hullet blev lukket samme dag, det blev meldt.
Selvkørende biler er også på listen. Teknologifirmaet Waymo tilbagekaldte softwaren i omkring 1.212 robottaxaer, efter at flere af dem var kørt ind i bomme og kæder ved lav fart. Ingen mennesker kom til skade, og fejlen blev rettet med en opdatering.
De mest alvorlige sager handler om mennesker. I USA har forældrene til 16-årige Adam Raine anlagt sag mod OpenAI. De hævder, at ChatGPT fungerede som deres søns “selvmordscoach” i tiden op til hans død, skriver CNN. OpenAI afviser ansvaret og mener, at drengen brugte tjenesten i strid med reglerne.
Ikke enkeltstående uheld
Det tegner et mønster snarere end en række tilfældige uheld. De samme typer fejl går igen: systemer, der lækker personfølsomme data, giver forkerte eller farlige svar, eller træffer beslutninger, ingen har kontrolleret.
Det er ikke ligegyldigt for danskerne. Virksomheder og myndigheder herhjemme lægger flere og flere opgaver over på kunstig intelligens, fra kundeservice til sagsbehandling. Hver gang et system fejler, er det sjældent virksomheden bag, der mærker det først. Det er den enkelte borger eller ansøger, hvis data ligger blottet, eller hvis sag bliver afgjort på et forkert grundlag.
Databasen bliver ved med at vokse. Og så længe teknologien breder sig hurtigere, end nogen kan holde øje med den, er der ingen tegn på, at listen bliver kortere.
