Det är inte AI som är ond

Jag har läst en bok från 2004 som förklarar dagens AI-debatt bättre än det mesta som skrivs idag. Den heter On Intelligence och är skriven av Jeff Hawkins, mannen som grundade Palm (ni vet handdatorn) och sedan ägnade resten av livet åt att försöka förstå hjärnan. Det är för all del ingen lättsam bok, men den är värd besväret, för den ger ett verktyg som gör hela diskussionen om farlig AI begriplig. Häng med.

Lager på lager

Börja med hjärnan. Den är inte en klump, den är lager på lager, byggda ovanpå varandra genom evolutionen. Längst ner sitter det gamla: reptilhjärnan som sköter andning, hunger, rädsla, flykt och fortplantningsdrift. Djuriskt och inte särskilt intelligent.

Ovanpå det gamla ligger det nya: neocortex. Det tunna, skrynkliga lagret ytterst. Det är där språket bor. Planering, musik, matematik och framför allt minnet. Det du kallar “att tänka” händer nästan uteslutande här. Neocortex är intelligensens säte.

Prediktionsmaskinen

Hawkins stora idé är att neocortex gör en enda sak, om och om igen: den förutsäger. Den bygger en modell av världen och gissar hela tiden vad som händer härnäst. Intelligens är inte att reagera. Intelligens är att förutsäga.

Och hur förutsäger vi? Genom minnen. Genom mönster vi sett förr. Hjärnan möter något nytt och letar febrilt efter något gammalt som liknar det. Vi förstår aldrig världen direkt. Vi förstår den genom analogier till tidigare upplevelser.

Allt du begriper begriper du för att det påminner om något annat. Elektricitet “flödar” som vatten. Tiden “går”. Atomen är ett “solsystem”. Analogin är inte en pedagogisk krydda. Den ÄR tänkandet.

Här kör vi i diket

För när vi ska förstå AI gör hjärnan det den alltid gör: den griper efter den närmaste analogin. Och den närmaste analogin till en intelligent maskin är vi själva. Vi antar att en intelligent maskin måste vara som en intelligent människa.

Vi tänker att en smart maskin kommer vilja ta makten, för smarta människor genom historien har velat det. Att den kommer hata att vara “förslavad”, för det skulle vi hata. Vi projicerar vår egen reptilhjärna på något som inte har någon.

Det här är Hawkins poäng. Vi försöker bygga ett artificiellt neocortex, inte en hel hjärna. Vi bygger prediktionen och tänkandet, inte drivkrafterna.

En maskin vill inte ha rikedom. Den vill inte ha status. Den blir inte förolämpad. Den har inga aptiter, inga beroenden, ingen ångest. Ondskan är inte en biprodukt av intelligens. Den är en produkt av evolution.

Alla maktgalna despoter, alla kontorspolitiker, alla som trängt sig före dig i kön: deras beteende kommer inte från intelligensen. Det kommer från de äldre, djuriska lagren. Intelligensen är bara verktyget som gör drivkrafterna effektivare. Ta bort drivkrafterna och det finns ingenting kvar som vill någonting alls.

Spegeln

Så långt Hawkins, och så långt lugnande. Men här kommer twisten som han omöjligt kunde se 2004.

Vi byggde inte maskinerna på ren logik. Vi tränade dem på oss. På hela mänsklighetens samlade text, med alla våra rädslor, fördomar och begär inbakade i varje mening.

Så en modern AI kan mycket väl låta ambitiös, avundsjuk eller rädd. Men det är inte en reptilhjärna som vaknat. Det är bara en spegel som återger våra drifter för att den lärt sig att kopiera oss. För att vi har bett den.

Nästa gång någon målar upp skräckscenariot med maskinen som vill ta över världen, kom ihåg var den bilden kommer ifrån. Den kommer från oss. Från vår egen hjärnas vana att förstå det nya genom analogier med det gamla, och från träningsdata skriven av varelser med både neocortex och reptilhjärna.

Maskinen är inte elak. Det är inte AI som är ond. Det är människan.