Blog: Vil en kunstig intelligens udslette menneskeheden?

Stephen Hawking er en ekstremt dygtig fysiker, som blandt andet har gjort rigtig meget for vores viden om sorte huller. Men har han ret, når han siger, at en kunstig intelligens vil kunne udslette menneskeheden?

Måske har professor Hawking set lidt for mange Holodeck-afsnit af Star Trek; det kan man i så fald ikke klandre ham for. Eller måske er det Rumrejsen 2001, WarGames eller Neuromancer. Det kan jeg heller ikke bebrejde ham.

Men hvor realistisk er det, at en kunstig intelligens får udslettet os alle sammen, hvad enten det måtte være med en selvreplikerende 3D-printet robothær eller vores egne atomvåben?

Inspireret af en Facebook-debat om BBC-artiklen (ja, sådan er mit Facebook-feed – hvordan går det med dit?), vil jeg lige uddybe mit syn på AI-mageddon.

Hvad er kunstig intelligens?

Vi taler allerede i dag om kunstig intelligens, både i form af IBM’s Watson og skurkene i skydespil. Sidstnævnte er sjældent en trussel, bortset fra deres evne til at respawne. Sandheden er dog, at vi er langt fra at opnå noget, vi intuitivt kan betegne som et intelligent, kunstigt system.

Maskinlæring er 2014′s varmeste buzzword og har pustet nyt liv i neurale netværk og andre spændende datalogiske discipliner. Men et sæt af algoritmer, som for hver iteration bliver bedre til at gætte en værdi for et sæt parametre, der er lidt bedre end tidligere, er en meget primitiv definition på intelligens.

Det er faktisk mere kunstig evolution, og det kommer jeg tilbage til.

I dag ved vi ikke, hvordan vi skal skabe en kunstig intelligens. Vi kunne prøve at simulere intelligens, men sådan en simulation vil være begrænset af vores opfattelse af intelligens. Og det er problematisk, for en kunstig intelligens kunne tænkes at være så fremmedartet for os, at vi ikke vil opdage, at der er tale om en kunstig entitet, før vi har lukket programmet ned.

Hvis en kunstig intelligens skulle udslette os, må vi formode, at det enten ville være utilsigtet eller overlagt. Sidstnævnte forudsætter et motiv, og det har science fiction-genren beskæftiget sig indgående med.

Det er dog under forudsætning af, at udslettelsen af menneskeheden sker som et frit valg for den kunstige entitet. Jeg finder det mere sandsynligt, at det vil ske som en programmeringsfejl eller fejlfortolkning af input – eller ligefrem manipulation fra menneskelig hånd.

Hvordan skaber vi en kunstig intelligens?

Til trods for Moores Lov og alle de afledte eksponentialfunktioner for it-udviklingen, så er software først og fremmest begrænset af, at et menneske skal udtænke det. En computer kan i dag ikke så mange andre grundlæggende ting i forhold til en computer for 50 år siden.

Der er dem, der taler om, at vi nærmer os ‘Singulariteten’. Ikke forstået på Hawking’sk som i et sort hul, men i et punkt, hvor computerkraften overhaler mennesket.

En kunstig intelligens kunne således opstå ved, at vi slap tøjlerne og lod skyen bruge sin enorme regnekraft på at forbedre et stykke software. Det kræver ikke så stort et leap of faith at gå fra compilere, der i dag klarer meget af optimeringsarbejdet, til et neuralt netværk, der kan programmere en bedre version af sig selv.

Det vil i første omgang være begrænset af det arbejde, vi mennesker har udført. Processorer og datacentre er bygget efter vores bedste viden om computere, og det samme er programmeringssprogene. Men man kunne forestille sig at opstille en platform, som gjorde en selvprogrammerende enhed i stand til også at forbedre disse underliggende strukturer.

Hvordan kan en AI udslette os?

Mennesker er fysiske væsner. Uden for Harry Potter og D&D skal der mere end en Kill-kommando til at slå os ihjel. Der er mange måder at gøre det på, men de fleste tager lang nok tid til, at vi selv ville miste tålmodigheden, hvis det var et stykke software, vi ventede på.

Dræberrobotterne er Terminator-universets bud, efter Skynet blev en selvbevidst kunstig intelligens. Men der er et problem, hvis den kunstige intelligens er i form af et selv-evolutionerende algoritmesæt.

I den tid det vil tage at konstruere en hær af dræberrobotter og sende den efter menneskeheden, så vil algoritmen være gået gennem trillioner af evolutioner og være fuldstændig forandret. I så fald ville instruksen om at bygge en dræberrobot og ‘kill all humans’ være en urtidsproces, som den nye udgave af den kunstige intelligens ville have svært ved at forholde sig til.

Atomvåben er en lidt bedre mulighed, hvis den kunstige intelligens havde adgang til dem. Affyringen kunne ske som følge af en uheldig iteration af den kunstige entitet, men det ville næppe være tilsigtet.

Min tese er, at en kunstig intelligens vil være mere tilbøjelig til at udslette sig selv, længe før den kan nå at udslette menneskeheden.

Det er en anden singularitetstanke: Hvis vi en dag kan uploade os selv til en gigantisk computer, så kunne vi udleve millioner af simulerede, fantastiske liv i løbet af mikrosekunder. Vi ville hurtigt nå et punkt, hvor variationerne begyndte at ligne noget, vi havde oplevet før, og vi ville nok beslutte, at en quadrillion evigheder var tilstrækkeligt, og vi ville lukke vores program ned.

Set udefra kunne det med tilstrækkelig stor regnekraft se ud til, at vores uploadede bevidstheder valgte at udslette sig selv efter blot ét sekund.

Jeg tror, en kunstig intelligens, der får lov til at løbe frit med næsten ubegrænset regnekraft, vil gå samme vej. Den fysiske verden vil være uinteressant set fra en computer. Alting foregår i slow-motion, som kun bliver mere udtalt, jo mere den kunstige intelligens forbedrer sig selv.

Kan kunstig intelligens slå mennesker ihjel? Bestemt. Det kun et spørgsmål om tid, før de første droner bliver i stand til på eget initiativ at affyre deres våben. Selvkørende biler vil også kunne løbe ind i softwareproblemer og køre sig selv i havnen med låste døre. Software vil anbefale den forkerte medicindosis til patienter på hospitalerne.

Men der skal mere til at overbevise mig om, at der et sted, dybt inde i Amazon EC2-junglen bliver født en entitet bestående af algoritmer, som erobrer server efter server for til slut at vende ethvert internetopkoblet køleskab og hele Internet of Things mod menneskeheden.