De letter A lijkt te verdwijnen uit AI

Wie had dat gedacht? Dat een van de AI-pioniers van Silicon Valley ooit nutsbedrijven als voorbeeld zou zien. Niet bepaald een avontuurlijke en innovatieve hoek van de economie. Maar Sam Altman, topman van OpenAI, legde vorige week in een openbaar interview uit waarom het bedrijf achter ChatGPT in de voetsporen wil treden van de leveranciers van gas, water en licht.

Hij kan er naast zitten, zei Altman zelf. Maar hij schat dat eind 2028 een groter deel van „de cognitieve capaciteit van de wereld” zich binnen in datacenters bevindt dan daarbuiten. En dat komt goed uit, want hij wil vanuit die datacenters „de wereld overspoelen met intelligentie”. Het woord ‘kunstmatig’ liet hij gemakshalve weg, alsof het verschil tussen menselijke en kunstmatige intelligentie er niet meer toe doet.

Altman wil dat mensen AI „overal voor gaan gebruiken, dat de volgende generatie er niet meer over nadenkt, dat iedereen op die manier toegang heeft tot zo veel genieën als hij of zij nodig heeft, op welk terrein dan ook”. En met „genieën” bedoelt hij geen mensen, maar chatbots. Want dat is zijn business.

En dan komt de aap uit de mouw. En met „aap” bedoel ik geen dier, maar een verdienmodel. „We zien een toekomst voor ons waarin intelligentie een nutsvoorziening is, als elektriciteit of water, die mensen bij ons kunnen kopen.”

Kortom, intelligentie uit de kraan. Met in de meterkast, naast de stroom- en watermeter, een meter die voor de maandelijkse rekening je cognitief verbruik bijhoudt. „De vraag zal de lucht in schieten. We gaan de markt overstromen.”

De plaats van de mens

Terwijl ik hard probeer hierbij niet steeds te denken aan het klassieke liedje van Annie M.G. Schmidt en Harry Bannink ‘Hendrik Haan uit Koog aan de Zaan heeft de kraan open laten staan’ (Denkt u toch eens even, niemand meer in leven! Allemaal verzopen), vraag ik me één ding af. Wat is nog de plaats voor de mens in zo’n wereld van overvloedige ‘intelligentie’, permanent beschikbaar tegen vast danwel flexibel tarief?

Zijn we niet met z’n allen, inclusief bedrijven en instellingen, verblind door de voorspelde zegeningen van AI bezig een nieuwe fuik van afhankelijkheid in te zwemmen?

Het recept is bekend: nu is het nog gratis of goedkoop, maar als we niet meer zonder kunnen zullen we er fors voor moeten betalen. Met euro’s, persoonlijke data, en in dit geval ook met fatale verwaarlozing van eigen denkvermogen en creativiteit, want die vaardigheden besteden we immers uit aan Altman & Co. Hoe erg je daarmee de mist in kan gaan, blijkt uit de recente onthulling dat voormalig NRC-hoofdredacteur Peter Vandermeersch op zijn blog en in zijn nieuwsbrief tientallen door AI ‘verzonnen’ citaten als echte citaten heeft gepresenteerd.

Cognitieve overgave

De mens heeft de neiging technologie vaak meer te vertrouwen dat het eigen oordeel. Je weet dat je rechtsaf moet, maar als de TomTom zegt dat je naar links moet doe je toch maar dat laatste. Twee Amerikaanse academici hebben daarvoor de fraaie term cognitive surrender (cognitieve overgave) bedacht, las ik in een column van Sarah O’Connor in de Financial Times: je geeft de cognitieve controle uit handen en neemt het oordeel van AI over alsof het uit je eigen brein is ontsproten. Want AI zal het wel beter weten.

En wat als de AI de mist in gaat? Wie is er dan verantwoordelijk? Die vraag is extra actueel nu de VS en Israël AI inzetten om doelwitten in Iran te selecteren die ze kunnen bombarderen. De uiteindelijke beslissing heet nog altijd in handen van een mens te zijn. Maar wat stelt de rol van die van uiteindelijke beslisser voor, als de mens in kwestie het advies van de AI niet echt kan controleren of goed kan wegen, bij gebrek aan tijd of informatie? Is het dan wel redelijk om de mens verantwoordelijk te houden, als na het bombardement blijkt dat de vermeende kazerne in werkelijkheid een school of ziekenhuis was?

Voor de penibele positie waar de mens zo in terechtkomt blijkt ook een mooi begrip te zijn gemunt, schrijft O’Connor. Zoals een auto een kreukelzone heeft die bij een botsing de eerste klap moet absorberen, zo zal de mens in het tijdperk van AI vooral nog dienen als een ‘morele kreukelzone’: een menselijk schakeltje in de beslisketen op wie zonodig de morele en juridische verantwoordelijkheid voor het falen van een heel systeem kan worden afgewenteld.