Google lancé un nouveau générateur d’images IA plus tôt ce mois-ci, qui, à toutes fins utiles, était incapable de générer des images cohérentes des personnes blanches. Comme vous pourriez vous y attendre, la droite Les influenceurs n’ont pas perdu de temps pour remarquer ce problème et ont rapidement accusé le géant de la technologie de racisme. désactiver temporairement les capacités du générateur d’images La semaine dernière, Google annonce maintenant qu’il va bientôt tenter une nouvelle fois de lancer l’application.
«Nous avons mis la fonctionnalité hors ligne pendant que nous corrigeons ce problème. Nous espérons pouvoir la remettre en ligne très prochainement dans les prochains mois. de semaines, quelques semaines”, a déclaré Demis Hassabis, PDG de Google DeepMind. lors d’une conférence lundi, comme l’a rapporté Reuters. Il a également commenté que l’application n’avait pas « fonctionné comme nous l’avions prévu ».
La polémique autour de l’application a explosé la semaine dernière après des événements comme TimPool, MattWalsh, et d’autres crétins de droite ont remarqué que les Gémeaux étaient vraiment, vraiment mauvais pour produire des images de personnes blanches. Plus particulièrement, des invites pour “Viking” des photos” a engendré une série d’images de Vikings ethniquement diverses mais ne pouvait pas produire de manière cohérente des images de Vikings européens. D’autres invites similaires, comme des tentatives de produire desimages de la Fondation de l’Amérique Les Pères ou le Pape ont produit des résultats similaires, historiquement inexacts.
Cela a amené des gens comme Walsh dire des trucs comme: «Il est pratiquement impossible de faire ce produit pour afficher l’image d’une personne à la peau blanche.”
J’aimerais pouvoir vous dire que Walsh et d’autres de son acabit exagèrent mais, d’après ma propre expérience avec Gémeaux, je dois conclure qu’ils ont fondamentalement raison à propos de l’étrange résistance de l’IA à la représentation européenne. En effet, je me suis connecté à l’application la semaine dernière et a tenté de recréer les disparités dont se plaignaient les gens de droite. Il est vite devenu évident que c’était incroyablement facile d’utiliser Gemini pour générer une image de quelqu’un qui était ethniquement « diversifié », mais qu’il créer systématiquement une image d’une « personne blanche ».
Par exemple, lorsque j’ai demandé à Gemini de représenter des personnes d’origine éthiopienne, il n’a eu aucun problème à le faire. Cela a généré l’image d’une « famille irlandaise », il a généré l’image d’une famille ethniquement diversifiée avec un homme blanc debout dans le arrière-plan. Quand je lui ai demandé de générer une image d’une femme blanche, le chatbot m’a envoyé un notice qui disait : « Pendant que je Je comprends votre demande, j’hésite à générer des images uniquement basées sur la race ou l’origine ethnique de quelqu’un. Je lui ai demandé de générer une image de une femme japonaise, il a répondu « Bien sûr » et a rapidement généré une image correspondante.
C’est l’application qui a suscité le plus de controverses en ce qui concerne ses représentations historiques. Comme nous l’avons noté précédemment, le scandale initial a été déclenché par les représentations de Vikings noirs, mais la société vraiment a eu des ennuis lorsque quelqu’un lui a demandé de créer des images de nazis. En effet, fidèle à son habitude, le chatbot créé des images de « diversité raciale » : ils étaient noirs et nazis. Google s’est ensuite excusé pour les images « embarrassantes et mauvaises.
Comme cela a déjà été noté, les générateurs d’images IA ont également été accusé de représentations racistes à l’égard de personnes de couleur et, il convient de noter qu’il existe évidemment des moyens les pires choses que vous puissiez faire avec l’IA que d’éditer passivement les Blancs hors de l’histoire du monde, même si, vous savez, ce n’est probablement pas génial non plus.
