Hvad er de største risici, menneskeheden står over for i det næste århundrede? Og ikke kun førende forskere advarer om en reel fare, der kan ødelægge livet på Jorden.
Også eksperter, der udvikler kunstig intelligens, ser det sådan. Det er kunstig intelligens, der udgør en potentiel fare for at udslette menneskeheden.
Hvilken fare er den største: Kunstig intelligens, biosikkerhed, klima eller atomvåben?
Fra juni til oktober 2022 fandt en turnering sted mellem forskere, erhvervseksperter, generalister og andre. De er alle kommet med bud på forskellige begivenheder i fremtiden og har en imponerende præcision i deres forudsigelser.
Turneringen, der fik navnet 'Existential Risk Persuasion Tournament' (XPT), skulle undersøge potentielle trusler mod menneskeheden i dette århundrede. Fokus var på emner som kunstig intelligens, biosikkerhed, klima og atomvåben.
Ifølge Forecasting Research Institute var over 200 eksperter og højt kvalificerede personer inviteret til at lave prognoser og overbevisende forklaringer på den mulige verdensundergang.
Et emne, der også må være af særlig interesse for finansmarkedets professionelle. For en apokalypse er den ultimative ekstreme risiko for kapitalmarkedets professionelle. Samtidig fungerer den som en referencestørrelse for andre farer. Og mod disse skal man sikre sig.
Ifølge Welt skulle der i løbet af én måned have været listet hele 255 historier hos finanstjenesten Bloomberg, der alle beskæftigede sig med en mulig apokalypse. En risiko er trådt frem i centrum i disse: Kunstig intelligens, hvis den kommer ud af kontrol.
Selv 'gudfaderen af AI' advarer indtrængende
Under XPT skulle eksperter i en konkurrence overbevise hinanden om deres risikovurdering. Alt i alt var alle enige om, at en udryddelse af menneskeheden ved en naturkatastrofe bærer den mindste af alle risici - den største fare er imidlertid ikke-kontrollerbar AI, der vender sig mod mennesker.
De, der ser den største risiko her, er interessant nok eksperter inden for kunstig intelligens. Risikoen skulle ifølge disse fagfolk ligge på to procent. Også den såkaldte 'gudfader af AI', Geoffrey Hinton, advarede i New York Times om, at udviklingen inden for AI "kan medføre alvorlige risici for samfundet og for menneskeheden."
Ifølge Süddeutsche Zeitung ser Hinton den største fare i misbrug af teknologien af skruppelløse magtmennesker, som f.eks. den russiske præsident Vladimir Putin.
"Tro ikke et sekund på, at Putin ikke ville lade hyperintelligente robotter bygge med det formål at dræbe ukrainere. Han ville ikke tøve," har han udtalt.
Ekspert vurderer risikoen for en AI-forårsaget undergang af verden for værende betydeligt lavere. Alligevel - selvom ikke alle var enige under XPT - den fare for verdensundergang, der blev bedømt højest af alle, skulle komme fra kunstig intelligens.
Eksperterne var mest uenige om AI-risikoen (i procentpoint), var de mest enige om risikoen for atomkrig.
