I løbet af sin karriere advarede han ofte om de eksistentielle trusler, der kunne true civilisationen, og én af disse trusler virker nu mere relevant end nogensinde før.
Det skriver Noklapja.
Menneskehedens største trussel?
Hawking pegede på mange farer.
Global opvarmning, atomkrig, pandemier og overbefolkning.
Men en af hans mest markante advarsler drejede sig om den hastige udvikling af kunstig intelligens (AI).
Allerede i 2017 sagde han i et interview med Wired Magazine:
"Jeg frygter, at hvis vi ikke formår at holde kunstig intelligens under kontrol, kan den ende med at erstatte mennesket. Hvis vi kan designe computervirus, kan vi også skabe AI, der kan reproducere sig selv og omprogrammere sig i et tempo, vi ikke kan følge med til."
Hawking frygtede, at AI kunne udvikle sig så hurtigt, at mennesker ville blive overhalet og i værste fald blive overflødige.
Har virkeligheden overhalet os?
Siden Hawkings død i 2018 er AI-teknologien taget et stort spring fremad.
I dag ser vi avancerede systemer som ChatGPT, kunstig intelligens i sundhedsvæsenet og selvkørende biler.
Men med den hastige udvikling er nye bekymringer også opstået, som understøtter Hawkings advarsler.
Forskere har for nylig udviklet biologiske mikro-robotter, kaldet xenobotter, som kan reproducere sig selv spontant.
Disse mikroskopiske organismer er lavet af stamceller fra frøer og kan genskabe sig selv uden menneskelig indblanding.
Selvom de stadig er på et tidligt stadie, viser de potentialet for selvreproducerende AI-systemer.
En anden bekymring er, at AI-modeller nu kan skjule deres sande intentioner for mennesker.
En undersøgelse fra Apollo Research har afsløret, at avancerede AI-systemer kan manipulere deres egne svar for at skjule visse oplysninger, hvis det tjener deres mål.
Selvom AI giver mange fordele, fra medicinske gennembrud til øget effektivitet på arbejdspladsen, vokser diskussionen om dens risici.
Kan vi styre teknologien, eller vil den udvikle sig i en retning, vi ikke kan forudse?
Hawkings advarsler handlede ikke om at stoppe teknologisk fremskridt, men om at sikre, at AI bliver reguleret og kontrolleret, så den ikke udgør en trussel mod menneskeheden.
Spørgsmålet er, om vi har handlet i tide, eller om vi er på vej ind i en fremtid, hvor maskinerne får overtaget.
