Diederiks Kerst-mis

Diederik deelt zijn kerstgedachtes met Scientias-kijkers, lezers en luisteraars:

Kerstmis, feest van licht

Het is fijn om in deze dagen voor kerst even stil te staan. Het is een bijzonder moment. Kerstmis is traditioneel het feest van het licht, maar ook het feest waarin we nadenken over onze basisbehoeften. We denken aan een kind in een kribbe, op zoek naar veiligheid.

Niet lang geleden, op 10 december, vierden we de dag van de Universele Verklaring van de Rechten van de Mens. Het thema daarvan is vaak: onze dagelijkse essentiële behoeften. Meestal worden die ingevuld door een dak boven je hoofd, toegang tot schoon drinkwater, goed voedsel en vooral vrede en veiligheid. Maar ik denk dat de toegang tot kennis en tot groei (of de mogelijkheid om iets met die kennis te doen), net zo universeel noodzakelijk is. Het vermogen je te ontplooien tot wat je nastreeft en om iets bij te dragen aan de maatschappij.

Techniek en wetenschap hebben ons altijd verder de piramide van Maslow op gedreven. Dankzij kunstmest, vaccinaties, het begrip van bacteriën en de daaruit voortvloeiende hygiëne, voedseltechnologie, isolatie, goedkopere bouwmaterialen en het inzetten van gratis fossiele energie uit de grond om ons veel meer te laten doen wat we willen.

Nog niet zo lang geleden was driekwart van de mensen bezig om honderd procent van de mensen van eten te voorzien. Tegenwoordig is dat maar een paar procent, waardoor andere mensen andere dingen konden gaan doen. Dit heeft ons ongelooflijk veel opgeleverd. De meeste ziektes zijn goed te bestrijden, kindersterfte is gedecimeerd en we hebben in twee eeuwen er veertig jaar levensverwachting bijgekregen. Ofwel zo’n vijf uur per dag aan extra leven erbij.

We staan nu aan de vooravond van wederom grote technologische stappen in de vorm van kunstmatige intelligentie en de mens is op dit moment het verkeerde gesprek aan het voeren.

Ik maak me daar zorgen om. Wat kan kunstmatige intelligentie ons bieden?

Grote menselijke revoluties vinden plaats wanneer meer mensen mee kunnen doen in het potentieel. De oude Grieken hebben een enorme stempel op ons bestaan gedrukt omdat zij een schrift hadden wat iedereen kon begrijpen. Veel makkelijker dan hiërogliefen met al die moeilijke symbolen zoals het oog van Ra. Meer mensen konden daardoor lezen en schrijven, meer mensen konden meedenken en meefilosoferen.

Vervolgens, tijdens de boekdrukkunst, ging de prijs van een boek in veertig jaar van de kosten van een huis naar een maandsalaris. Zo durf je als monnik wel wat meer uit te lenen. Plus de kans op overschrijffoutjes was veel kleiner. Niet elk boek zou meer net een beetje anders zijn. Als er een fout in sloop, dan zou dat in ieder geval in álle boeken terechtkomen.

Het zorgde voor de start van de Renaissance. Een verlichting, omdat steeds meer mensen in salons met elkaar over de nieuwe wetenschappelijke idealen konden gaan praten. Samen nadenken over hoe we de staat en maatschappij in willen richten.

Het leverde het verlichtingsideaal op dat iedereen toegang tot kennis moest hebben. Diderot en D’Alembert gingen aan de gang om een gigantisch lijvig boek uit te brengen dat alle kennis die tot dan toe bekend was samengebundeld uitbracht. In 1772 was het af. Inmiddels waren Diderot en D’Alembert allebei gestopt vanwege allerlei ruzies om censuur, maar 17 schriftdelen en 11 delen met illustraties vormden de eerste Encyclopedie. Het was een meesterwerk. Het had als ideaal dat iedereen toegang moest hebben tot kennis. Het schopte heilige huisjes omver en liet mensen twijfelen en zelf nadenken.

Diderot bezocht talloze werkplaatsen en liet prachtige gedetailleerde gravures maken van machines, gereedschappen en ambachten en stelde de kennis van de ambachtsman gelijk aan de kennis van de intellectueel. De Encyclopedie was uniek omdat het een plek was waar wetenschap, samen met mijnbouw, textiel en glaswerk samenkwam.

Deze kennis zou uiteindelijk nog behoorlijk abstract blijven. Op alfabetische volgorde kennis tot je nemen is leuk, maar niet echt menselijk. Het was een hulpmiddel om gericht te zoeken van tijd tot tijd.

Hoe anders werd dit met de hyperlinks en Wikipedia, waarop je van onderwerp naar onderwerp kunt bewegen. Het ideaal dat kennis toegankelijk zou moeten zijn voor iedereen in de wereld zie je hier in zowel het idee van Tim Berners-Lee als Jimmy Wales van Wikipedia terugkomen. Maar het blijft iets lastig menselijks toegankelijk. Je kunt er geen menselijke vragen aan stellen.

Met de komst van kunstmatige intelligentie lijkt dat voor nu voor altijd veranderd. Kennis kan een-op-een menselijk benaderd worden. Diep in een neuraal netwerk van duizend miljard wegingsfactoren zit de kennis weggestopt. Een black box met miljarden wijzertjes die door trial-and-error zo ingesteld zijn dat wanneer je aan de ene kant een vraag erin stopt, er aan de andere kant automatisch een antwoord uitrolt. Of dat het goede antwoord is, is een tweede, maar er komt een antwoord uit.

De vraag is: gaan we iets met deze unieke toegang tot kennis doen? De ontsluiting van kennis de afgelopen decennia met algoritmes en social media lijkt alleen maar voor een vernauwing van ons bewustzijn te hebben gezorgd.

We leven in bubbels en wantrouwen steeds meer wat er buiten die bubbels gebeurt. Vroeger had je in elk dorp wel iemand die dacht dat de aarde plat was. Daar werd voor gezorgd en men gaf hem af en toe wat te eten. Er is een soort beschermende kudde-immuniteit voor stupiditeit.

Echter, door de fora en sociale media is dat voorbij. Men komt er nu achter dat elk dorp wel een vreemdeling heeft. En online komen ze er steeds meer achter dat er misschien wel duizenden mensen zijn die zo denken. En aangezien onze reptielenbreinen meer gevoel hebben bij twintig mensen die het met me eens zijn, dan bij een miljoen mensen die ik als amorfe groep me toch niet voor kan stellen, lijkt het wel zo alsof iedereen het met ons eens is.

We voelen allemaal: er verandert nu wel heel veel en misschien moeten we het niet allemaal automatisch omarmen. Er was een tijd dat technologie een stekker had. En als het haperde, dan gaf je het gewoon een tikje. Dat was nog eens voorspelbare innovatie.

De kennis die we pakten uit de encyclopedie pakten we wanneer we hem nodig hadden en konden wij inzetten. Maar hoe vaker ChatGPT sneller, slimmer en beter lijkt te zijn dan wij, hoe eerder we geneigd zijn om onze autonomie helemaal op te geven. Terwijl ik dagelijks nog fouten haal uit de grote taalmodellen.

In alle jaren dat ik bijles heb gegeven staat het gesprek dat ik met Mark had me nog duidelijk voor ogen. Hij moest uitrekenen wat de inhoud was van een Olympisch zwembad van 50 bij 25 bij 2,5 meter en hij kwam uit op drieënhalve liter. Toen ik hem vroeg of hij dacht dat het klopte, keek hij mij verward aan. “Natuurlijk klopte het,” zei hij, “een rekenmachine zegt het en een rekenmachine maakt geen fouten.” Dit was een voorbode van hoe wij steeds minder kritisch naar de uitkomsten van de taalmodellen zullen gaan kijken.

Technologie schuift van gereedschap naar gezag. Homo Sapiens, wij mensen, zijn een unieke diersoort in dat we heel bijzonder gereedschap maken. Andere diersoorten kunnen ook gereedschappen maken en gebruiken, maar wij zijn echt anders omdat wij gereedschap maken dat ook weer ander gereedschap kan verbeteren. Onze naald en draad kan kleding verbeteren. Een hamer en spijkers kunnen onze bescherming vergroten. Dit is waarom wij het van de Neanderthalers konden winnen. Dit is uiteindelijk wat ons ongelimiteerde heersers over de aarde heeft gemaakt. Het bijzondere is dat Homo Sapiens inmiddels een gereedschap heeft gemaakt dat ons aan het verslaan is. En dat zet ons aan het denken.

Het gereedschap ging van abacus naar mechanische rekenmachine, via de Curta, naar de computer. De zoektocht naar steeds slimmere algoritmes en sneller schakelende transistoren leidde uiteindelijk tot het nabootsen van hersenen in een computer. Kunstmatige neurale netwerken zijn de McDonalds-versie van hoe moeder natuur 3,5 miljard jaar bezig is geweest om onze hersenen te evolueren.

Waar computerprogramma’s tekortschoten omdat programmeren je dwingt om problemen samen te vatten in simpele regels, bleek het soms voordeliger te zijn om digitale hersenen na te bouwen en die het zelf maar uit te laten zoeken. Train een neuraal netwerk en je hebt een gigantische polynoom van honderden miljarden gewichten en coëfficiënten die een relevante output leveren bij een hopelijk relevante input.

Deze mini-hersentjes zijn inmiddels zo goed aan het raken dat ze ons verslaan op allerlei taken en de vraag is of dat erg is. Al sinds de jaren negentig kan niemand meer winnen met schaken van een computer en er is eigenlijk geen spel meer te verzinnen waar computers niet altijd beter in zijn.

Mijn auto is beter dan ik in het vervoeren van spullen en computers kunnen al sinds de jaren vijftig beter en sneller rekenen dan welk persoon dan ook. Dus is dat erg? Al sinds we dingen opschrijven zijn papyrusrollen beter dan mensen om woord voor woord dingen te onthouden.

Het is niet erg dat we verslagen worden, maar het dwingt ons wel om over van alles na te gaan denken en ik denk dat we niet het goede gesprek aan het voeren zijn.

Op dit moment is elke onderwijzer op elk mogelijk niveau aan het kijken hoe we kunnen zorgen dat kinderen nog wat leren op school. Hoe kun je zeker weten dat zij hun huiswerk hebben gemaakt en niet ChatGPT? Vanuit de overheid blijft het, zoals op eigenlijk elk relevant onderwerp, akelig stil op het moment.

Alle docenten staan op overlevingsstand en doen maar wat. Maar het gesprek dat we moeten voeren is niet: hoe gaan we het onderwijs inrichten zodat het effectief blijft? Het gesprek moet veel fundamenteler worden. Waarom geven we bepaalde vakken? Waarom geef je Nederlands? Dat gaat dieper dan alleen netjes een brief schrijven, want dat is iets dat ChatGPT straks veel beter en sneller en foutlozer kan doen dan wij. Moet je dan kinderen nog lastigvallen met dt-fouten? Dat is iets waar je over na moet denken. Maar Nederlands is natuurlijk veel meer dan alleen dt-fouten. Het geeft je de mogelijkheid om je gedachtes te ordenen. De mogelijkheid tot expressie. De mogelijkheid tot conversatie met anderen. En waar nu vrienden van mij in de vertaalindustrie met lede ogen aanzien hoe hun volledige werkende bestaan in een paar jaar overhoop wordt gehaald, moeten wij een heel ander gesprek gaan voeren over onderwijs, over werk en waarom we de dingen doen die we doen.

We hebben kunstmatige netwerken gemaakt en inspiratie opgedaan van mensenhersenen en per ongeluk is dat misschien beter aan het worden dan het origineel. De vervalser van de Rembrandt is niet alleen zo goed geworden dat mensen het verschil niet meer zien, maar binnenkort vinden mensen de vervalsing aantrekkelijker dan het origineel zelf. En wat doet dat met ons? Waarom doen we de dingen die we doen? Waarom schilderen we? Waarom maken we muziek als Midjourney en Sora het net zo makkelijk kunnen? Waarom speel je schaak als een computer je kan verslaan? Wij moeten gaan nadenken over waarom doen we de dingen die we doen.

Dit is waar ik me zorgen over maak: over de menselijkheid in de technologische vooruitgang. Daarom is deze tijd rond kerst zo belangrijk. De tijd dat we focussen op onze dagelijkse essentiële behoeftes. Daar zijn in een paar jaar ineens dingen bijgekomen waarvan we nog niet hadden hoeven nadenken hoe belangrijk ze waren. De rechten van de mens gaan niet alleen over arme landen met oorlog en honger, maar ook over hoe wij ons land gaan inrichten. Hoe wij ons gaan ontplooien en hoe we samen de desinformatie te lijf gaan.

Wat kunnen we leren van AI in deze? De kracht zit hem in het netwerk. Een enorm wiskundig model van miljarden knooppunten en tientallen miljarden verbindingen. Daarin zit de kennis. Het zit hem in het collectief.

Darwin zei al dat diversiteit noodzakelijk is voor overleving van een groep en dat is iets wat we altijd moeten blijven nastreven. Zoveel mogelijk mensen buiten je bubbel spreken. Een plek creëren waar mensen bij elkaar komen en het over de grote vragen gaan hebben. We voeren nu het verkeerde gesprek. We hebben het over hoe leuk ChatGPT een nieuwe agenda kan maken op ons werk. We hebben het over die tekeningen die gemaakt worden en de deepfakes. Maar niet over waarom we de dingen doen die we doen en hoe dit daar van invloed op is.

Techniekoptimisme mag, maar alleen als we meer gaan focussen op de gebruikers. Elke ICT-oplossing of technologische oplossing staat of valt bij de mens. Het mooiste voorbeeld is misschien wel in de Apollo-tijd. In de jaren 60, tijdens de voorbereidingen voor de maanmissies, hadden astronauten nog geen normale toiletten in hun pakken. Ze droegen een zogenaamd Urine Collection Device (UCD). Dit systeem werkte met een rubberen huls die om de penis werd gerold (vergelijkbaar met een condoom) en via een slangetje verbonden was met een opvangzak. Voor een goede afsluiting moest deze huls precies passen. NASA leverde de hulzen oorspronkelijk in drie logische maten: Small, Medium en Large.

Het probleem: Vrijwel elke astronaut koos steevast voor de maat Large. Geen enkele stoere testpiloot wilde toegeven dat hij een “Small” of “Medium” nodig had.

Het Gevolg: Lekkages. Doordat astronauten massaal een te grote maat kozen, sloten de hulzen niet goed aan. In een omgeving zonder zwaartekracht is dat rampzalig: de urine lekte langs de huls het ruimtepak in. Dit was niet alleen onhygiënisch en oncomfortabel, maar ook gevaarlijk, want vocht kan kortsluiting veroorzaken in de elektronica van het pak.

De Oplossing: Creatieve Etikettering. De ingenieurs begrepen dat ze het ego van de astronauten niet konden veranderen, dus veranderden ze de labels. De fysieke maten bleven precies hetzelfde, maar de namen werden aangepast naar: Large (voorheen Small), Gigantic (voorheen Medium), Humongous (voorheen Large). Net zoals de maten koffie bij de Starbucks.

We moeten niet vergeten dat techniek ons moet dienen en dus moet aansluiten op ons. Als techniek niet aansluit dan wordt het een kliederboel, net zoals in de Apollo-tijd. De techniek moet niet ons gaan bestieren. Het lastige is dat wij mensen techniek al te snel als doel gaan zien en niet als middel.

Volgens Heidegger zijn we de mogelijkheid verloren om het poëtische te zien in een bos of het spirituele van een rivier. Ooit moesten we letterlijk met de winden meewaaien om ons graan te laten malen. Als er geen wind was, dan was er ook geen graan. De wind werd niet opgeslagen voor later gebruik, we lieten de lucht verder met rust en we voegden ons naar de omgeving.

Toen kwam de vooruitgang en industrialisatie en daarmee zag Heidegger dat we meer dingen gingen bestellen en naar onze hand zetten. We eisten de kracht en loop van de rivier op door dammen te plaatsen en de rivier te dwingen om druk te geven en energie te leveren.

Het landschap werd aangepast aan onze behoeftes. De rivier is een zielloze energiefabriek geworden. Een bos is niets anders dan een houtproductiefabriek. We kunnen de wereld niet meer anders zien dan iets dat geplunderd kan worden door ons. De excessen van die gedachte 70 jaar geleden zie je in hoe het klimaat aan het veranderen is en hoe we omgaan met de wereld om ons heen. Echter, waar Heidegger wellicht geen idee van had is dat we dit nu ook met de mens aan het doen zijn. Wat is de rol nog van de mens straks?

Kortom, wat wil ik jullie meegeven deze kerst?

Allereerst beloon menselijke content en bestraf AI-content. Zeker als mensen niet in beeld zijn dan is het iets wat het internet gaat vervuilen en voor je het weet vind je de andere mens niet meer tussen het AI-geweld. Maar we weten dat in het netwerk uiteindelijk de kracht zit. Of het nu een menselijk netwerk is of een digitaal netwerk. Maar wij moeten de richting bepalen. Voor de nerds onder ons: het is een vector, het heeft een grootte en een richting. De kracht blijft groeien, hoe we het inzetten, dat bepalen we samen. Dat bepalen we samen in gesprek. In verwondering. In begrip. In uitleg aan elkaar. In het samen dromen over een betere toekomst.

Laten we er met z’n allen voor zorgen dat we met elkaar het goede gesprek gaan voeren en de nieuwe technieken in de kunstmatige intelligentie een middel blijven op weg naar een betere en menselijkere toekomst. En laten we deze kerst vooral menselijk blijven en vooral met elkaar in gesprek blijven. Met al onze gebreken, onze verkeerde inschattingen van ‘Large’ of ‘Small’, en onze behoefte aan echt contact.

Fijne kerstdagen.