Filmen 2001 – en romodyssé (Stanley Kubrick) fra 1968 gjorde usletttelig inntrykk på meg da jeg så den som gymnasiast. Jeg så den igjen for flere år siden på en lang flyreise. Til tross for dårlig kvalitet og mange forstyrrelser, gjenopplevde jeg følelsene fra slutten av 60-tallet.
Filmen har en rekke dimensjoner og stort tolkningsmonn, men ett element er skremmende relevant for siste dagers alarm om menneskehetens mulige undergang som følge av kunstig intelligens.
To våkne astronauter og tre forskere i kunstig dvale er på vei til Jupiter. Reisen er lang, men super-datamaskinen Hal har oversikt og kontroll. Etter hvert utvikler den imidlertid sine egne maktambisjoner og sin egen agenda. Den klare å ta livet av alle i dvale og én av de våkne, men den siste astronauten lykkes med å dekomponere den. Til å begynne med ber Hal for sitt ‘liv’, men blir dummere og dummere etter hvert som kabler kuttes, og ender med bare å kunne synge «Bæ bæ lille lam» før strømmen kuttes helt. Mennesket gjenopptar kontrollen.
I denne sammenhengen er poenget at mennesket ikke hadde noe valg. Det kunne ikke velge å sjalte ut Hal’s destruktive ambisjoner og bare beholde de gode potensialene. Hele maskinen måtte stanses.
Hvor realistiske er advarslene fra dagens KI-eksperter?
I Aftenposten 15. september peker Christina Pletten på fire forhold som gjør det veldig lite sannsynlig at verden vil komme overens om å gjøre som i filmen: Kutte strømmen. Utviklingen drives videre av KIs positive potensial, utviklernes higen etter penger og makt og konkurransesituasjonen. I tillegg kommer at Trump avviser truslene. Han har stor makt over over verdens sinnelag, selv om det er vanskelig å forstå hvorfor.
Samme dato og i samme avis kommer Morten Goodwin til samme konklusjon som Pletten. Han frykter at det allerede kan være for sent å stanse utviklingen – ikke fordi KI i økende grad utvikler seg selv og finner på ting på egen hånd, men fordi det ligger så uendelig mange penger og mye makt i potten ved å lukke øynene for truslene.
Uten å ta stilling til hva følgene av ukontrollert KI-utvikling kan bli, ser et for meg ser ut som strømmen faktisk MÅ kuttes for å redusere risiko for en eller annen katastrofe. I hvert fall må strømmen (og Trump) stoppes inntil vi får på plass rutiner og kontroll som forhindrer destruktiv bruk. Det store spørsmålet er naturligvis
HVORDAN SKAL VI FÅ DET TIL?