Jesper Bengtson
En af verdens mest citerede AI-forskere sætter et tal på faren, og det er koldt.
Roman Yampolskiy har brugt det meste af sin karriere på ét spørgsmål: Kan vi overhovedet styre en maskine, der er klogere end os selv?
Han er professor i datalogi ved University of Louisville og regnes for en af pionererne inden for AI-sikkerhed. Allerede i 2011 var han med til at give feltet navnet “AI safety engineering”, og han har skrevet bogen Artificial Superintelligence: A Futuristic Approach.
Nu lægger han alle kortene på bordet. Og hans konklusion får de fleste til at ryste.
Yampolskiy mener, at der er 99,9 procent sandsynlighed for, at kunstig intelligens udsletter menneskeheden inden for de næste 100 år. Det skriver The AI Insider.
Problemet er ifølge ham ikke, at maskinerne hader os. Det er, at de er ligeglade.
“Hvis den for eksempel beslutter, at mennesker er en konkurrerende art, så finder den en måde at fjerne os på,” siger han.
Og vi ville ikke kunne gøre noget. Han sammenligner det med at bede en myre om at styre udfaldet af en amerikansk fodboldkamp, der spilles hen over den. Myren aner ikke, hvad der foregår, og har ingen indflydelse på noget som helst.
Det, der skræmmer ham mest, er, at ingen har løsningen.
“Som det ser ud i dag, ved ingen, hvordan man kontrollerer de her systemer. Det er der simpelthen ingen, der kan,” siger han.
Han peger på, at hver gang en ny AI-model bliver sluppet løs, følger der en sikkerhedsrapport med. Og den læsning er dyster.
“De fejler, de lyver, de snyder, de forsøger at slippe væk,” siger han om systemernes opførsel i testene.
Hele kernen i hans bekymring er, at man per definition ikke kan forudsige, hvad en klogere skabning vil finde på. Jo mere kapabel en autonom AI bliver, desto mindre kan mennesker regne dens næste træk ud.
Så hvad kan vi gøre? Yampolskiys svar er lige så enkelt, som det er radikalt. I stedet for at jage den store, altovervågende superintelligens bør vi holde os til snævre AI-værktøjer, der løser konkrete problemer.
Og hvis man vil undgå den værste udgang helt, er der kun én vej, mener han.
“Den eneste måde at undgå problemet på er slet ikke at bygge den,” siger Roman Yampolskiy.
