Een beslissing die Google in één klap 10 miljard kost: het stapt uit Project Maven

2 juni 2018

Het is wellicht de duurste ethische beslissing is die een bedrijf ooit heeft genomen: Google stapt uit Project Maven. Dat is het programma waarbij Google artificiële intelligentie ontwikkelt voor het Pentagon, die gebruikt om te bepalen wie er moeten worden gedood tijdens militaire missies met bijvoorbeeld drones.

Google heeft beslist het contract met het Pentagon, dat afloopt in 2019, niet te verlengen. Diane Greene, hoofd van Google Cloud, zou die beslissing vrijdag met werknemers hebben medegedeeld. Google heeft geen commentaar gegeven over de mediaberichten over stopzetting van de samenwerking, maar ze zou er zijn gekomen uit ethische overwegingen.

De internetgigant en het Amerikaanse ministerie van Defensie werken samen aan Project Maven, waarbij videobeelden van drones worden geanalyseerd. Het project is omstreden omdat de data die worden verkregen worden gebruikt om bijvoorbeeld te bepalen wie er moeten worden gedood tijdens militaire missies. Google leverde de kunstmatige intelligentie om de dronebeelden te analyseren.

Het leger heeft hoge verwachtingen van het systeem, waarvan het de bedoeling is dat het op een steeds grotere schaal zal worden gebruikt. "We bereiden ons voor op een toekomst waarin mens en machine als één team samenwerken", zei luitenant-generaal John Shanahan vorig jaar december tegen nieuwssite Defense One.

Personeel wil niet

Maar bij Google leidde het project tot interne verdeeldheid. Er zouden al zeker twaalf mensen opgestapt zijn vanwege het project. Een interne petitie binnen Google leverde duizenden handtekeningen op en er is een brief naar topman Sundar Pichai gestuurd. In de brief zeggen medewerkers van Google dat het bedrijf zich volgens hen niet moet bezighouden met oorlog en dat ze willen dat het project wordt stopgezet.

Niet alleen de werknemers zijn tegen Project Maven. Meer dan 90 academici, gespecialiseerd op het gebied van kunstmatige intelligentie, ethiek en computerwetenschap van de internationale commissie voor controle op bewapende robots (ICRAC) hebben een open brief gepubliceerd waarin ze Google opriepen om het project te stoppen. Daarnaast willen ze dat het bedrijf meewerkt aan de totstandkoming van een internationaal verdrag dat autonome wapensystemen verbiedt.

10 miljard

Drie jaar geleden werd ook al open brief gepubliceerd waarin onderzoekers op het gebied van kunstmatige intelligentie en robotisering oproepen om geen autonome systemen te ontwikkelen. De brief werd onder meer door Elon Musk en de onlangs overleden Stephen Hawking ondertekend.

Als Google was doorgegaan met Project Maven had het volgens Defense One kans gemaakt op een contract met het ministerie van Defensie ter waarde van 10 miljard dollar. Ook Amazon en Microsoft zijn volgens de nieuwssite in de race voor het contract.

Lees meer

Dit al gelezen?