AI-experts en andere prominenten willen voorlopig verbod op ontwikkeling van ‘superintelligentie’

Wat het precies is, weet niemand nog. Maar toch investeren technologiebedrijven als OpenAI en Meta vele miljarden in de ontwikkeling van ‘superintelligentie’, ook wel ‘Artificial General Intelligence’ genoemd, of AGI. Terwijl allerlei anderen – en niet de minsten – juist hardnekkig blijven waarschuwen voor de gevaren van deze vorm van kunstmatige intelligentie, die de mens in de meeste opzichten voorbij zou streven.

Woensdag ondertekenden een reeks prominente (vooral Amerikaanse) wetenschappers en AI-experts, ondernemers, voormalige politici en militairen, beroemdheden en enkele honderden anderen een dringende oproep om de ontwikkeling van deze schimmige maar veelbesproken innovatie voorlopig te verbieden.

Onder hen Nobelprijswinnaar Geoffrey Hinton (die een sleutelrol heeft gespeeld bij de ontwikkeling van kunstmatige intelligentie), Steve Wozniak (mede-oprichter Apple), Susan Rice (nationale veiligheidsadviseur onder Obama), Mike Mullen (hoogste militair onder George W. Bush en Obama), Stephen Fry (acteur en schrijver), Glenn Beck (conservatief radio- en tv-presentator), Mary Robinson (oud-president van Ierland), prins Harry en Meghan Markle. Ook enkele Chinese wetenschappers hebben getekend, onder wie de oud-topman van het Chinese techbedrijf Baidu, Ya-Qin Zhang.

Het verbod waar de groep toe oproept zou pas opgeheven mogen worden, als er „brede wetenschappelijke consensus is dat dit veilig en beheersbaar kan gebeuren” en als „de publieke opinie wordt meegenomen”. De ondertekenaars maken zich zorgen dat kunstmatige superintelligentie leidt tot „machteloosheid en overbodigheid van de mens in de economie, verlies aan vrijheid, burgerrechten, waardigheid en controle, risico’s op het gebied van nationale veiligheid en potentieel zelfs het uitsterven van de mensheid.”

De verklaring is gecoördineerd door het Future of Life Institute, dat in 2023 al eens een open brief van prominenten naar buiten bracht, waarin (deels dezelfde) AI-onderzoekers en ondernemers pleitten voor een moratorium van zes maanden op de ontwikkeling van ‘gewone’ AI. Aan die oproep werd geen gehoor gegeven, zelfs niet door sommige van de ondertekenaars, onder wie Elon Musk, die zich rond die tijd juist volop in de verdere ontwikkeling van AI stortte.

Liveblog Economieblog

Nederlander eet minder vlees, maar nog steeds ongezond veel