Derfor er AI livsfarlig for menneskeheten.

Her er to superenkle analogier som forsøker å beskrive problemet på en enkel måte (lånt av Sam Harris og Yuval Harrari).

Bakgrunn:

Begge eksempleme tar utgangspunkt i at AI har nådd det man kaller S-AGI (Super Artificial General Intelligence). Som basically antyder at en AI bruker evenene sine til å oppgradere seg selv slik at den blir megasmart. Tenk 1000 ganger smartere enn en gjennomsnittlig person. En som kan resonere og legge ekstremt sofistikerte planer langt langt frem i tid og handle deretter.

Nå ser vi altså for oss en skapning som er ekstremt mye smartere enn oss.

1. Maurene (Yuval):

De fleste av oss hater ikke maur. De betyr ikke så mye for oss. Vi er til-og-med kanskje fascinert av dem og setter pris på jobben de gjør i naturen? Du kan være som meg, som prøver å unngå å tråkke på dem når jeg går i skogen. Men hvis jeg tilfeldigvis tråkker på en maur så ligger jeg ikke våken om natten av den grunn. For oss er maurens liv av liten betydning. Vi hater kanskje ikke maurene, men vi tenker oss heller ikke om to ganger for å jevne en maurtue med jorden hvis ligger i veien for en ny sykkelbod 🤷🏻‍♂️.

Det er enkelt å se for seg en AI som betrakter oss som vi betrakter maurene. I vår verden er vi de mest sofistikerte vesnene, men i forhold til en S-AGI er vi kanskje bare noe som kan tråkkes på og tørkes bort.

2. Hundene (Sam Harris):

Se for deg at det var hundene hadde funnet opp oss (just go with it 😉 )

Vi gir hundene våre både kos og mat, og de er som regel omsluttet av vår omtanke og kjærlighet. Mange av oss er virkelig glade i disse firbente vennene, og de har lite å frykte fra oss. Men hundene våre? De lever i nuet. De tenker ikke så mye på fremtiden og har begrenset evne til å reflektere over hva vi, eierne deres, har i tankene. En hund er fornøyd bare den får sitt daglige fôr og litt klapp.

Men hva om vi en dag står overfor et vanskelig valg? Hvis, la oss si, et av barna våre utvikler en allergi, da kan det være at hunden må finne seg et nytt hjem (or worse). Vi blir kanskje knuste av avgjørelsen, men vi tar det valget, og livet går videre.

Så, forestill deg dette: Hva om vi lager en AI som er god mot oss, men i forhold til den, blir vår intelligens som et kjæledyrs? Hvis denne AI’en en dag måtte ta et valg for et større mål, et mål vi ikke en gang kan forestille oss, er det ikke så rart å tenke at den kanskje ville “omplassere oss” for å oppnå dette målet. Og vi vil aldri engang se det komme.

Just sayin’

For en lengre avhandling om AI’s eksistensielle trussel mot menneskeheten kan du plukke opp Our Final Invention, eller Homo Deus (f.eks.)