Medewerkers Google vragen hoogste baas AI-gebruik door Amerikaans leger aan banden te leggen

Zo’n 560 werknemers van Google roepen in een open brief hun hoogste baas op te voorkomen dat het Amerikaanse ministerie van Defensie AI-systemen van het techconcern inzet voor vertrouwelijke militaire doeleinden.

„We willen dat AI de mensheid ten goede komt, we willen niet dat het op onmenselijke of uiterst schadelijke manieren wordt gebruikt”, aldus de brief die maandag naar ceo Sundar Pichai ging. „Dit omvat onder meer dodelijke autonome wapens en massasurveillance, maar reikt ook verder dan dat.”

Veel ondertekenaars werken voor Google’s AI-tak DeepMind. Ze zeggen zich grote zorgen te maken. „Als mensen die aan AI werken, weten we dat deze systemen de macht kunnen centraliseren en dat ze fouten maken. Wij vinden dat onze betrokkenheid bij deze technologie een verantwoordelijkheid met zich meebrengt om de meest onethische en gevaarlijke toepassingen ervan aan het licht te brengen en te voorkomen.” Ook achttien leden uit het hogere management hebben de brief ondertekend, aldus de Britse krant Financial Times.

Te laat

Mogelijk komt de brief van de medewerkers te laat. Technologie-nieuwssite The Information meldt dinsdag dat Google en het Pentagon al een contract hebben gesloten. Daarin zou staan dat het Pentagon AI van Google binnen geheime systemen mag toepassen. Hoewel het contract geen betrekking zou hebben op gebruik voor binnenlandse surveillance of autonome wapens, is in het contract opgenomen dat Google niet het recht heeft om „wettige operationele besluitvorming” van de overheid te beperken of te blokkeren.

Juist die formulering stond dit jaar centraal in de vete tussen AI-bedrijf Anthropic en de regering-Trump. Het ministerie van Defensie eiste dat het bedrijf onbeperkt toegang tot zijn modellen zou geven voor „alle wettige doeleinden”. Volgens Anthropic zou dat het gebruik voor autonome wapens en massasurveillance toelaten.

Toen Anthropic dat laatste probeerde te voorkomen door extra veiligheidsgaranties te eisen, schortte de regering-Trump alle contracten met het bedrijf op. De rechter beoordeelt nu of de regering daarmee binnen de wet handelde.

De vraag is wat deze en toekomstige Amerikaanse regeringen precies verstaan onder „wettige doeleinden”. Trump dreigde „alle bruggen en energie-installaties” in Iran te bombarderen – een stap die volgens veel juristen zou neerkomen op een oorlogsmisdaad. Ook de lange reeks Amerikaanse aanvallen op bootjes van vermeende drugsmokkelaars in het Caribische gebied zijn volgens critici in strijd met het internationaal recht.

Google-medewerkers hadden in het verleden succes in hun verzet tegen samenwerking met het Amerikaanse leger. In 2018 ondertekenden duizenden werknemers een petitie tegen deelname van Google aan het Maven-project van het Pentagon, waarbij kunstmatige intelligentie werd gebruikt om objecten in dronebeelden te identificeren. Het contract daarvoor tussen Google en het Pentagon werd daarna niet verlengd.