Google s’est excusé vendredi en affirmant que son équipe « s’était trompée » avec une nouvelle fonctionnalité de génération d’images pour son Chatbot Gemini IA après que diverses images créées sans personnes blanches soient devenues virales, un dirigeant de l’entreprise a fermement nié avoir délibérément voulu que Gemini refuser de créer des images d’un groupe particulier de personnes.
« Ce n’était pas ce que nous avions prévu. Nous ne voulions pas que Gemini refuse de créer des images d’un groupe en particulier. Je veux qu’il crée des images historiques ou autres inexactes », a déclaré Prabhakar Raghavan, vice-président principal de Google.
Dans un article de blog, Raghavan, qui supervise les domaines de l’entreprise qui lui rapportent la plus grande partie de son argent, y compris Recherche Google et son activité publicitaire— a clairement admis que le générateur d’images de Gemini « s’était trompé » et que l’entreprise essaierait de faire mieux. Les images historiquement inexactes des Gémeaux Soldats nazis noirs et Vikings noirs ainsi que son apparent refus de générer des images de personnes blanches, que certains considéraient comme raciste.
Selon Raghavan, tout cela s’est produit parce que Google ne voulait pas que Gemini commette les mêmes erreurs que d’autres générateurs d’images avaient commises dans le passé. passé, comme la création d’images violentes, d’images sexuellement explicites et de représentations de vraies personnes.
“Alors, qu’est-ce qui n’a pas fonctionné ? En bref, deux choses. Premièrement, notre réglage pour nous assurer que les Gémeaux montraient qu’un certain nombre de personnes n’avaient pas tenu compte pour les cas qui devraient clairement pas montrer une gamme », a écrit Raghavan, en soulignant le sien. « Et deuxièmement, au fil du temps, le modèle est devenu bien plus prudent que nous ne l’avions prévu et a refusé de répondre entièrement à certaines invites, interprétant à tort certaines invites très anodines comme étant sensibles.
Le vice-président de Google a ajouté que ces deux facteurs ont amené les Gémeaux à surcompenser dans certains cas et à être trop conservateurs dans d’autres. , cela a conduit à la création d’images « embarrassantes et fausses ».
Google a désactivé la capacité de Gemini à générer des images de personnes jeudi et a annoncé qu’il publierait bientôt une version améliorée. Cependant, Raghavan semblait de mettre en doute la partie du « bientôt », en affirmant que l’entreprise s’efforcerait d’améliorer de manière significative la fonctionnalité grâce à des tests approfondis avant de la activer de retour.
Raghavan a déclaré qu’il ne pouvait pas promettre que Gemini ne produirait pas de résultats plus embarrassants, inexacts ou offensants à l’avenir, mais a ajouté que Google continuerait à intervenir pour résoudre ce problème.
« Une chose à garder à l’esprit : Gemini est conçu comme un outil de créativité et de productivité, et il n’est pas toujours fiable, en particulier lorsqu’il s’agit de générer des images ou du texte sur des événements actuels, des actualités en évolution ou des sujets d’actualité, cela fera des erreurs », a déclaré Raghavan.
