Ruim vijfhonderd Google-medewerkers protesteren tegen defensiecontracten

“We willen dat AI de mensheid ten goede komt, niet dat het wordt gebruikt op onmenselijke of extreem schadelijke manieren”, staat in de brief die volgens FT door meer dan 560 medewerkers van Google is ondertekend. “Dit omvat dodelijke autonome wapens en massasurveillance, maar gaat nog verder.”

De stap volgt op een geschil tussen de Amerikaanse regering en AI-bedrijf Anthropic. Het Pentagon wilde onbeperkt gebruikmaken van de AI-systemen van Anthropic, dat veel opzien baart met haar geavanceerde modellen. Maar Anthropic stelt als voorwaarde dat haar technologie niet wordt ingezet voor het massaal in de gaten houden van de Amerikaanse bevolking en volledig autonome wapens.

Daarop nam de Amerikaanse overheid maatregelen tegen Anthropic door het bedrijf te beschouwen als veiligheidsrisico binnen de toeleveringsketen. President Donald Trump gaf alle federale instanties opdracht om onmiddellijk te stoppen met het gebruik van de artificiële intelligentie van Anthropic. Ook OpenAI kreeg eerder al kritiek van haar eigen onderzoekers na een deal met de Amerikaanse overheid, kort na het verbod op Anthropic. Sam Altman, de CEO van OpenAI, heeft daarvoor later zijn excuses aangeboden.

Initiatief van DeepMind

Volgens Financial Times reageert het personeel van Google op berichten dat Google op het punt staat afspraken te maken met het Amerikaanse ministerie van Defensie. Die afspraken zouden het mogelijk maken dat AI-tool Gemini wordt gebruikt in geheime operaties zonder de voorwaarden die Anthropic eiste.

“De enige manier om te garanderen dat Google niet in verband wordt gebracht met dergelijke schade, is door alle geheime opdrachten af te wijzen”, staat in de brief.

Volgens betrokkenen was de brief het initiatief van medewerkers van DeepMind, het AI-lab van Google. Twee vijfde van de ondertekenaars werkt in de AI-divisie en een vergelijkbaar deel bij de Cloud-tak. Onder de ondertekenaars bevinden zich meer dan achttien leidinggevenden op hoog niveau. Ongeveer twee derde van hen koos ervoor om met naam en toenaam te ondertekenen.

Jeff Dean, de hoofdwetenschapper van DeepMind, heeft zich tot nu toe het meest uitgesproken over de kwestie. Hij verklaarde in februari dat massasurveillance een inbreuk vormt op de grondwet en een verstikkend effect heeft op de vrijheid van meningsuiting. Bovendien bleef hij achter een eerdere belofte uit 2018 staan om dodelijke autonome wapens te verbieden.

‘Don’t be evil’

Google is al eerder geconfronteerd met protesten tegen militaire banden. In 2018 namen verschillende medewerkers ontslag en tekenden duizenden een petitie tegen Project Maven, waarbij AI werd gebruikt om drone-aanvallen te verbeteren. Google verlengde dat contract destijds niet en beloofde geen AI te ontwikkelen voor wapens of surveillance. Vorig jaar liet het bedrijf dit standpunt echter stilletjes varen door passages uit de ethische principes te schrappen die beloofden geen technologie te ontwikkelen die direct letsel aan mensen toebrengt. Demis Hassabis, de mede-oprichter van Google DeepMind verklaarde toen dat de wereld is veranderd en dat Amerikaanse techbedrijven de plicht hebben om te helpen bij de landsverdediging.

De brief aan Pichai concludeert dat het maken van de verkeerde keuze nu onherstelbare schade zou toebrengen aan de reputatie en de rol van Google in de wereld. Sinds 2000 leeft bij Google een onofficieel motto: “Don’t be evil“. In de aanloop naar de beursgang van Google in 2004 werd die tekst opgenomen in het prospectus. Het werd ook een onderdeel van de gedragscode van Google. In 2018, met de vorming van het moederbedrijf Alphabet, veranderde “Don’t be evil” in de gedragscode al in het minder expliciete “Do the right thing“.

In samenwerking met Data News