Le géant de la technologie affirme que le modèle « manque la cible » suite à une controverse sur l'incapacité de photographier les Blancs.
Google a temporairement empêché son modèle Gemini AI de générer des images de personnes après des réactions négatives suite à son incapacité à photographier les Blancs.
Le géant des moteurs de recherche a fait cette annonce jeudi après que les utilisateurs de Gemini ont partagé des images créées par le modèle qui présentaient principalement des personnes de couleur, y compris des scènes de l'histoire qui n'incluaient que des personnes blanches.
« La génération d'images IA de Gemini est destinée à un large éventail de personnes. C'est généralement une bonne chose car des gens du monde entier l'utilisent. Mais ici, elle manque la cible », a déclaré Google dans un article sur X.
« Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de création de photos de Gemini », a ajouté le géant de la technologie. « Pendant ce temps, nous suspendrons la création d'images des gens et publierons bientôt une version améliorée. »
Il est extrêmement difficile d'amener Google Gemini à reconnaître l'existence des Blancs pic.twitter.com/4lkhD7p5nR
-Didi (@debarghya_das) 20 février 2024
Les images générées par Gemini qui ont circulé sur les réseaux sociaux ces derniers jours ont suscité le ridicule et l'indignation généralisée, certains utilisateurs accusant Google d'être « réveillé » au détriment de la vérité ou de l'exactitude.
Parmi les images qui ont suscité des critiques figuraient des représentations de quatre femmes suédoises, dont aucune n'était blanche, et des scènes de soldats nazis noirs et asiatiques.
« Il est très difficile d'amener Google Gemini à reconnaître l'existence des Blancs », a déclaré Debarghya Das, architecte fondatrice de la startup de recherche d'entreprise Glenn, dans un article sur X accompagné d'un certain nombre d'images créées par Gemini.
Dans le passé, les modèles d’IA ont également été critiqués pour avoir ignoré les personnes de couleur et perpétué des stéréotypes dans leurs résultats.
Google, qui s'efforce de rattraper son rival OpenAI depuis le lancement de ChatGPT en 2022, a subi un certain nombre de revers dans le déploiement de ses produits d'IA.
L'année dernière, le géant de la technologie s'est excusé après que son chatbot Bard ait déclaré à tort lors d'une démonstration que le télescope spatial James Webb avait capturé les premières images d'une exoplanète.
« Amateur de musique. Joueur. Alcooliste. Lecteur professionnel. Spécialiste du Web. »