Google staakt AI-beeldgenerator na klachten over nauwkeurigheid

Gemini maakt het onder meer mogelijk met behulp van AI-technologie afbeeldingen te genereren op basis van een tekstuele beschrijving die gebruikers opgeven. Het concurreert hiermee onder meer met DALL-E van OpenAI.

Aanpak stereotypen lijkt tot problemen te leiden

Een belangrijk focuspunt van Gemini is voor Google het aanpakken van stereotypen en vooroordelen. Zo bleek eerder uit onderzoek van The Washington Post dat AI-tools in de praktijk vaak stereotypen en vooroordelen laten terugkomen in content die zij genereren. Google beloofde met Gemini dit probleem aan te pakken, maar die aanpak lijkt nu tot problemen te leiden.

Zo melden gebruikers op X dat Gemini niet altijd nauwkeurige resultaten oplevert. Wie de tool bijvoorbeeld beelden laat genereren van vikingen of de paus, krijgt daarbij in veel gevallen juist zwarte of Aziatische personen te zien. Sommige gebruikers stellen op X zelfs dat het hen niet is gelukt een afbeelding te laten genereren waarop Gemini een witte man toon.

New game: Try to get Google Gemini to make an image of a Caucasian male. I have not been successful so far. pic.twitter.com/1LAzZM2pXF

— Frank J. Fleming (@IMAO_) February 21, 2024