0:01 Oké. Stop maar met wat je aan het doen bent. Het is toch zinloos, want we naderen de AI apocalypse. Superintelligente machines nemen de wereld over en de mensheid vergaat. Toch, Clippy? Want vergeet AI. Dit is Artificial General Intelligence. AGI. Dat zich kan meten... ...met het menselijk brein. Of zelfs Artificial Super Intelligence. ASI. Nog véél slimmer dan wij.
0:49 Nog even en wij zijn voor AI, wat chimpansees... ..zijn voor ons. Of niet, Clippy? Clippy? Altijd gezeik met Clippy. Of... ...valt het misschien allemaal wel mee? Hangt ervanaf. Vraag je het de... ...zal AI ons niet zo snel inhalen.
1:36 Dus world domination? Of sterker nog... Straks meer. Eerst even kort, Clippy. Ken je hem nog? Een vroege chatbot uit de 90's. Nog niet bepaald het niveau van Chat-GPT. Voor het laatste gespot in Microsoft Office 2003. Toevallig hetzelfde jaar dat de Zweedse filosoof Nick Bostrom... ...de 'paperclip maximizer' introduceerde.
2:24 Een klassiek gedachte-experiment... ...over de gevaren van AGI. Gaat over een artificieel intelligent wezen met maar één doel. Een ogenschijnlijk heel onschuldige taak: zo veel mogelijk paperclips maken. En hij wordt er steeds beter in, want hij maakt zichzelf steeds slimmer en efficiënter. Meer en meer paperclips. Uiteindelijk zo slim dat-ie alle grondstoffen op aarde voor paperclips uitput. En mensen ziet-ie als nuttige slaven in paperclipfabrieken. Ja, nu hebben ze spijt en willen ze hem uitzetten. Maarja, dan staan ze dus dat ene doel in de weg. Dus elimineren die handel. Lang verhaal kort: einde mensheid en een planeet vol paperclips. Aha, daarom ben jij hier. Een gedachte-experiment dus.
3:09 Maar volgens dit rapport: AI 2027... ...met een bindertje, want paperclips vertrouw ik niet meer... ...is zo'n scenario... ...akelig dichtbij. Maakt de tongen los. Ook hier in Nederland. Het manipuleert mensen en systemen om zijn eigen doelen te bereiken. Dit is het absolute horrorscenario, met veel doden en een samenleving in chaos. Zelfs tot in het Witte Huis. En die guy is Daniel Kokotajlo.
3:55 Een van de 100 meest invloedrijke figuren in de AI volgens TIME Magazine. Ooit onderzoeker bij OpenAI... ...maar vertrok vanwege hun roekeloze race naar supermenselijke intelligentie. Vindt-ie gevaarlijk. Check deze video voor AI 2027 in detail. Of lees het gewoon zelf. Van mij krijg je nu in ieder geval de korte versie. Komt-ie. Volgens alle grote tech bro's is AGI, net zo slim als mensen dus, er binnen vijf jaar. En ligt zelfs superintelligentie, dus nog veel slimmer dan mensen, ook binnen handbereik. Dit speelt nu.
4:49 Kokotajlo dus niet. Ja, dat toekomstscenario. AI 2027 vertelt het verhaal van een fictief AI-bedrijf... ...OpenBrain, dat maanden voorloopt op de rest. Die tijdlijn begint nu. Midden 2025. We zien de eerste AI agents. Softwaresystemen die zelfstandig taken uitvoeren met AI en minimale menselijke input. OpenBrain bouwt 's werelds duurste AI en de grootste datacenters ooit. Dan 2026. China wordt wakker... ...en nationaliseert en centraliseert al hun AI-activiteiten op één plek. Met een felle strijd om de meest geavanceerde chips uit Taiwan. China overweegt zelfs een invasie. En gaat op spionagetour bij OpenBrain.
5:38 Het Amerikaanse leger bemoeit zich met het bedrijf. Want dit is nu een kwestie van nationale veiligheid. En dan 2027. Met een cyberoorlog. Want AI kan nu al beter hacken dan mensen. En zelfs beter programmeren. En dus ook zichzelf exponentieel naar betere versies kopiëren. Nu gaat het hard. De VS en China belanden in een AI-wedloop. Halverwege 2027 heeft AI definitief de mens ingehaald. Maar wel met zogeheten 'misaligned goals'. Dus dat het niet meer doet waarvoor het door mensen bedacht is... ...maar het een eigen plan trekt. Toch, Clippy? Oke. Even pauze. Hier splitst deze tijdlijn zich op in twee mogelijke scenario's.
6:25 Eentje met echt zo'n pauzeknop. De minst apocalypstische. Slowdown. We houden de AGI een soort van 'in toom'. De VS en China sluiten een deal en de oorlog blijft uit. Klinkt goed. Er volgt zelfs een soort paradijs op aarde met ongekende vooruitgang en extreme welvaart. Zo ziet de wereld eruit over ongeveer tien jaar. Is even leuk maar... ...AI bepaalt onze toekomst, trekt steeds meer een eigen plan... ...en slechts een klein groepje supermachtige mensen heeft de controle over die intelligentie. En die race mondt wellicht alsnog uit in oorlog. Volgens de auteurs het optimistische scenario. Dan die andere. De race. De escalerende wedloop, waarin wij de controle op AI verliezen.
7:13 En we het steeds agressiever toepassen en militariseren. Maar dan. Mensen zijn een sta in de weg geworden. En dus laat over tien jaar de nieuwste superintelligente agent biologische wapens op ons los. Bijna iedereen meteen dood. En die paar overlevenden die er nog zijn, worden alsnog weggevaagd met drones. Doet dit je ergens aan denken? Ja. Maar... Ja, dat komt nu. Tijd voor een stukje relativering. En een beetje tegenwicht aan het apocalyps-konijnenhol.
8:06 Oke, wacht. Laat ik even benadrukken dat dit geen wetenschap is. Ze zeggen onwijs veel onderzoek te hebben gedaan voor dit verhaal. En al deze graphics zien er heel gelikt uit. Waardoor het lijkt op het... Het werk van zeer gerenomeerde onderzoekers. Maar eerlijk het is... En dat zeg ik niet. Dit zeggen ze zelf. Quote: het is grotendeels giswerk. Roept de vraag op.
9:06 Nee, daar moet je even goed naar zoeken. Heb ik gedaan. En dan merk je dat in de echte wetenschap AGI of ASI niet heel serieus wordt genomen. Wel dat AI in heel veel taken veel beter kan zijn dan wij en dat gebeurt ook al. Maar niet in de zin van dat het coplexe menselijk intelligentie met een eigen bewustzijn zou kunnen overtreffen. Neem de schrijvers, een promovendus en een professor, van dit boek 'The AI Con'. Oftewel de AI-oplichterij. Volgens hen zijn zowel de utopische AI-toekomstvisie...
9:53 ...als de dystopische apocalyps variant... ...twee kanten van dezelfde munt. Ah! Ist-ie weer. Dit verhaal ken je. Zij zeggen: AGI, pure hype. Nederlandse wetenschappers zeggen hetzelfde.
10:42 Ja, nee toch wel. De Volkskrant vroeg hen of AI de menselijke intelligentie zal overtreffen. Neem AI-hoogleraar Iris van Rooij. Ook zij zegt: pure hype. Gaat niet gebeuren. In ieder geval niet voordat de zon uitdooft. Een ander zegt: onzin! Weer een ander: sciencefiction. Of noemt het een simplistische blik op 'menselijke intelligentie'. Oke. Maar wat zit er dan achter? Daar heeft deze cognitief wetenschapper wel een antwoord op. In dit kritische stuk over AI 2027. Volgens hem pure fictie en vooral leuk voor Netflix. En dat angstaanjagende verhaal van onvermijdelijke superintelligentie is vooral... ...lekkere marketing voor de techbedrijven. Oftewel: Sam Altman loopt lachend naar de bank.
11:28 Ik denk zeker dat het kan. - Wauw. Kortom. Bangmakerij over een apocalyps... Is... ...business. Om die reden kreeg ook het minicollege van een kwartier over het... Het moment dat AI slimmer wordt dan wij mensen. Hun project heet AI 2027. Een veeg uit de pan van deze universitair hoofddocent informatica. Volgens haar is het ook pure PR van techbedrijven, die met dit narratief grote sommen geld ophalen. Ook de schrijvers van AI 2027 hebben hier een belang. Wil je weten hoe het eruit ziet, dan kun je AI 2027 lezen. Ja, dan klinkt dit...
12:19 ...ineens heel anders. Hier zie je hun voorspellingen. Volgens Altman van OpenAI gebeurt het binnen de termijn van de huidige president, Trump. Musk zegt al in de komende twee jaar. En volgens Geoffrey Hinton, die de 'Godfather van AI' wordt genoemd... ...ergens in de komende twintig jaar. Maar hoe je menselijk bewustzijn precies definieert? Of intelligentie? Dat zeggen ze er niet bij. Dat is ook veel meer een filosofische discussie en dan blijkt dat AGI en ASI helemaal geen... ...sluitende definities hebben. Weten de tech bro's zelf ook.
13:18 Dus ja. Het is een bekend fenomeen in de techwereld om de impact van hun technologieën te overschatten. Terwijl ze de complexiteit van het menselijke brein lijken te onderschatten. En die hype leidt af van de serieuze uitdagingen van AI, dat zich razendsnel ontwikkelt. Op de arbeidsmarkt bijvoorbeeld. Misinformatie en propaganda. Of wat dacht je van auteursrecht?
14:08 Vooringenomenheid in AI-modellen. En last but not least: de enorme milieu-impact. Oftewel... Maar toch... Nog even terug naar de vraag. Gaat AI de mensheid uitroeien? Hangt er dus van af wie je het vraagt. En het is heel goed om je daar bewust van te zijn. Toch, Clippy?
14:54 Clippy?
