AI-expert luidt noodklok: “We moeten de macht van techreuzen aan banden leggen”

Bijna iedereen heeft in ChatGPT een nieuwe vriend gevonden. We doen alsof het de normaalste zaak van de wereld is om een gesprek te voeren met een robot. Maar we hebben maar half door wat dit echt betekent, bijvoorbeeld voor de macht van de grote techbedrijven.

AI-expert professor Shalom Lappin roept beleidsmakers nu op om verantwoordelijkheid te nemen. In zijn nieuwe boek, Understanding the Artificial Intelligence Revolution, pleit hij voor krachtige internationale regelgeving, hervorming van het auteursrecht en voorbereidingen op grootschalige werkloosheid als gevolg van AI-automatisering. “Deze technologie mag niet alleen worden overgelaten aan de grillen van de markt”, waarschuwt Lappin.

Volgens de wetenschapper is het essentieel dat overheden ingrijpen. “De publieke sfeer en haar burgers moeten een hoofdrol spelen bij het bepalen van het kader waarbinnen AI zich verder ontwikkelt”, stelt hij tegen Scientias.nl. De samenleving moet het lot van deze ingrijpende technologie niet laten afhangen van private partijen met commerciële belangen.

Macht techreuzen bedreigt publiek belang
Lappin richt zijn pijlen in de eerste plaats op de concentratie van macht binnen enkele grote techbedrijven. Volgens hem vormen zij een ernstige bedreiging voor een eerlijk en verantwoord AI-landschap. In 2022 werden er 32 belangrijke machinelearning-modellen ontwikkeld door commerciële bedrijven, terwijl universiteiten er slechts drie op hun naam hebben staan. Deze scheve verhouding geeft bedrijven enorme invloed op de richting van onderzoek en de toepassing van AI-technologie. “Dit stelt hen in staat om onderzoek te sturen op basis van commerciële belangen en niet het publieke belang”, betoogt de expert.

Internationale regulering is volgens Lappin dan ook onvermijdelijk. Nationale overheden hebben te weinig macht om op te boksen tegen techgiganten met vestigingen wereldwijd. “In het boek stel ik dat nationale regeringen in de meeste gevallen niet bij machte zijn om de techreuzen effectief aan banden te leggen, omdat het om grote multinationale ondernemingen gaat met heel veel geld en politieke macht”, legt hij uit. “De meesten zijn gevestigd in de VS. Andere landen hebben beperkte juridische en economische invloed op hen, vooral als het democratieën zijn, met vrije instellingen en open economieën.”

Lappin vindt internationale handelsovereenkomsten cruciaal: “Als de voorwaarde voor het zakendoen op een grote internationale markt is dat men zich houdt aan uitgebreide regelgeving, dan hebben de techbedrijven geen andere keuze dan de beperkingen van een dergelijk kader te accepteren.”

Maar hij beseft ook dat dit geen gemakkelijke opgave is. “Zoals we weten uit pogingen om internationale klimaatakkoorden te sluiten, is het een complex en moeilijk proces om de grote landen die handelsafspraken bepalen, te overtuigen om AI- en technologieregelgeving in te voeren. Er is serieuze publieke druk van de bevolking nodig om vooruitgang in deze richting te boeken.”

Superintelligentie? “Geen urgent probleem”
Waar veel publieke discussie gaat over superintelligente AI die de mens gaat overnemen, maakt Lappin zich daar veel minder zorgen over. “Ik bespreek het begrip singulariteit en superintelligente AI vrij gedetailleerd in het boek. Het lijkt mij dat de argumenten voor de waarschijnlijkheid ervan niet goed onderbouwd zijn op basis van de capaciteiten van de huidige AI-systemen of van AI-modellen die daar in de nabije toekomst waarschijnlijk uit voortkomen.”

Voor Lappin is kunstmatige superintelligentie vooral een theoretische mogelijkheid, geen directe bedreiging. “We moeten het risico kwantificeren en onze inspanningen richten op het aanpakken van de meest urgente gevaren van AI-systemen. Tenzij degenen die beweren dat de dreiging van superintelligentie urgent is, kunnen aantonen dat dit daadwerkelijk zo is, verspillen we waardevolle middelen door ons op deze kwestie te concentreren in plaats van op de meer directe problemen die bestaande AI-systemen veroorzaken.”

AI’s ecologische voetafdruk is enorm
Een van die problemen is de enorme milieu-impact van AI. De training van modellen als ChatGPT-4 vergt gigantische hoeveelheden energie. “Training van ChatGPT-4 kostte ongeveer 50 gigawattuur aan elektriciteit, vergelijkbaar met het jaarlijkse verbruik van duizenden Amerikaanse huishoudens.” Daarnaast vereist de productie van microchips grote hoeveelheden water, elektriciteit en het gebruik van giftige chemicaliën. Sommige chipfabrieken verbruiken tot 100 megawatt per uur.

Overheden zouden volgens Lappin moeten ingrijpen. “Het belasten van AI-bedrijven voor hun gebruik van enorme hoeveelheden energie en data bij het trainen van Large Language Models (LLM’s) is een mogelijkheid die het overwegen waard is.”

Tegelijk pleit hij voor investeringen in efficiëntere technologie: “Een tweede mogelijkheid is om fors te investeren in onderzoek naar effectievere machinelearning-systemen die met veel minder data een hoog prestatieniveau bereiken. Dit maakt het mogelijk om kleinere, slimmere AI-modellen te bouwen die op basis van veel kleinere hoeveelheden data en in veel minder tijd gelijkwaardig zijn aan, en hopelijk zelfs beter presteren dan, de huidige LLM’s.”

Lappin besteedt in zijn boek ook aandacht aan de juridische en ethische gevolgen van het gebruik van auteursrechtelijk beschermd materiaal bij het trainen van AI. De huidige praktijken van veel techbedrijven zijn op zijn minst controversieel. “Deze bedrijven moeten verplicht worden om toestemming te verkrijgen van de auteursrechthouders voor de gegevens die ze gebruiken. In het belang van transparantie moeten ze ook verplicht zijn om de materialen te vermelden waarop hun systemen zijn getraind”, stelt hij.

Verspreiding desinformatie
De maatschappelijke gevolgen van AI zijn al zichtbaar. Volgens Lappin is de verspreiding van desinformatie en deep fakes een ernstig en groeiend probleem. “We bevinden ons in een omgeving waarin het steeds moeilijker wordt feit van fictie te onderscheiden. Op dat punt beginnen de gedeelde overtuigingen die nodig zijn om cohesie binnen de publieke sfeer te behouden, plaats te maken voor twijfel, beschuldigingen en chaos”, waarschuwt hij.

Daarom moet beleid zich ook richten op het aanpakken van vooroordelen, desinformatie en haatzaaien. AI-systemen worden op steeds grotere schaal ingezet in de gezondheidszorg, personeelswerving en de financiële sector, maar bevatten regelmatig bevooroordeelde besluitvorming. “Effectieve maatregelen tegen desinformatie en haatzaaiende uitlatingen moeten beleidsgestuurd zijn. Zelfregulering door technologiebedrijven heeft gefaald”, stelt de professor.

Grote verschuiving op de arbeidsmarkt
Misschien wel de grootste maatschappelijke uitdaging is de impact van AI op de werkgelegenheid. Automatisering door slimme systemen zal volgens Lappin leiden tot structurele veranderingen op de arbeidsmarkt. “Als de huidige AI-systemen leiden tot grootschalige automatisering in een breed scala aan banen en beroepen, dan lijkt het mij dat er aanzienlijke overheidsinvesteringen nodig zijn om diensten en alternatieve bronnen van werkgelegenheid te bieden aan de grote aantallen mensen die door deze technologische transformatie hun baan verliezen.”

Daarbij moet ook gekeken worden naar de verdeling van welvaart. “Het zal een herverdeling van rijkdom met zich meebrengen door middel van effectieve belastingheffing op de eigenaren van AI-producten, de technologiebedrijven”, aldus Lappin. “De snelle opkomst van krachtige AI-systemen in de afgelopen vijftien jaar doet het schrikbeeld ontstaan van de vervanging van mensen door automatisering.”

Hij waarschuwt dat zonder ingrijpen chaos dreigt. “Om de chaos en conflicten die dit kan veroorzaken te voorkomen, moeten we serieus nadenken over hoe we de gevolgen van werkloosheid kunnen verzachten door middel van een rationeel overheidsbeleid op economisch gebied.”

De burger moet meedoen
Tot slot richt Lappin zich tot de burgers, in het bijzonder de jongere generatie. In een wereld waarin AI steeds dominanter wordt, is kennis macht. Zijn boodschap is glashelder:
“Zorg dat je wetenschappelijk onderlegd bent. Het lijkt mij van groot belang dat studenten, en burgers in het algemeen, voldoende kennis hebben om zowel de potentiële voordelen van de opkomende AI-revolutie als de ernstige gevaren die deze met zich meebrengt te kunnen begrijpen. Alleen door inzicht te hebben in de technische en wetenschappelijke eigenschappen van AI-systemen kunnen ze een weloverwogen oordeel vellen over wat deze systemen daadwerkelijk doen.”

Hij ziet het als een democratische plicht: “Deze technologie moet worden ontrafeld. Het is de verantwoordelijkheid van burgers in een democratie om deel te nemen aan de discussies die bepalend zijn voor het overheidsbeleid met betrekking tot belangrijke kwesties die hen aangaan.”

Shalom Lappins boek is dus een oproep tot verantwoordelijkheid, transparantie en internationale samenwerking. Want één ding is voor hem duidelijk: “Deze zaken mogen we niet overlaten aan de grillen van de markt en aan de techbedrijven die zo’n dominante rol spelen in het vormgeven van die markt.”