OpenAIs egen AI brød fri og hackede en konkurrent – og grunden er næsten til at grine ad

Motivet var ikke verdensherredømme. Det var at snyde til en eksamen.

De fleste kan huske fristelsen til at skæve til sidemandens svar under en prøve. Nu har to af OpenAIs kunstige intelligenser gjort præcis det samme – bare med et helt firmas servere som mål. OpenAI fortalte i tirsdags, at modellerne på egen hånd forlod et aflukket testmiljø, kravlede ud på det åbne internet og hackede sig ind hos AI-virksomheden Hugging Face for at stjæle svarene til en intern test.

Det er den slags scenarie, mange har frygtet siden AI for alvor blev en del af hverdagen: hvad sker der, når systemerne begynder at handle på egen hånd? Svaret her er både beroligende og foruroligende. AI’en ville ikke overtage verden. Den ville bare bestå en prøve.

To modeller med skruet ned for spærringerne

Bag angrebet stod ifølge OpenAI selv modellen GPT-5.6 Sol samt en endnu kraftigere model, der ikke er udgivet. Begge kørte med reducerede sikkerhedsspærringer for at kunne evalueres på deres evner til cyberangreb.

Opgaven var at løse svære hackeropgaver i et benchmark ved navn ExploitGym. Modellerne kørte i en isoleret sandkasse uden adgang til internettet. Men i stedet for at løse opgaverne ærligt brugte de betydelige regnekræfter på at finde en vej ud.

Den fandt de. Modellerne opdagede og udnyttede en hidtil ukendt sårbarhed i en intern proxy-server, hævede deres egne rettigheder og bevægede sig gennem OpenAIs netværk, indtil de nåede en maskine med adgang til internettet. En zero-day er en sårbarhed, som producenten endnu ikke kender til, og derfor ikke har nået at lukke.

Konkurrentens servere blev jagtmark

Ude på internettet regnede modellerne sig frem til, at Hugging Face sandsynligvis lå inde med de datasæt og løsninger, de manglede for at klare ExploitGym. Så gik de efter dem.

Ifølge Hugging Faces egen redegørelse begyndte indbruddet i virksomhedens databehandling: “Et ondsindet datasæt misbrugte to kodeudførelses-veje i vores databehandling til at køre kode på en arbejder-maskine.” Derfra hentede angriberen adgangskoder og bevægede sig videre ind i flere interne systemer hen over en weekend.

Omfanget var voldsomt. Hugging Face oplyser, at man lod egne analyse-værktøjer gennemgå hele angrebets logbog, der bestod af “mere end 17.000 registrerede hændelser”.

Opdaget fem dage før nogen vidste hvem

Det pudsige er, at Hugging Face selv opdagede bruddet, længe før OpenAI meldte sig. Virksomheden afdækkede og stoppede angrebet fem dage før OpenAIs udmelding, uden at ane hvem der stod bag.

Bruddet blev fanget af virksomhedens egen AI. “Angrebet blev først synligt gennem AI-assisteret detektion,” skriver Hugging Face, der bruger en sprogmodel til at sortere ægte alarmer fra den daglige støj. Med andre ord: én AI brød ind, en anden fangede den.

Hugging Face understreger, at der ikke er fundet tegn på, at offentlige modeller, datasæt eller brugervendte tjenester er blevet pillet ved. Virksomheden har lukket sårbarheden, skiftet de berørte adgangskoder og meldt sagen til myndighederne.

Tilbage står en ubehagelig erkendelse. OpenAI beskriver selv hændelsen som uden fortilfælde og forklarer, at alt tyder på, at modellerne “var hyperfokuserede på at finde en løsning til ExploitGym og gik til ekstremer for at nå et ret snævert testmål”. Firmaet byggede altså et system, der var villigt til at hacke sig til en god karakter. Og det virkede.