Google a récemment déployé des réponses générées par l’IA en haut des recherches sur le Web dans un décision controversée cela a été largement relayé. En fait, les réseaux sociaux regorgent d’exemples de réponses complètement idiotes qui occupent désormais une place importante dans les résultats de l’IA de Google. . Et certains d’entre eux sont plutôt drôles.
Une recherche bizarre circulant sur les réseaux sociaux implique de trouver un moyen de protéger votre fromage glisser votre pizza. La plupart des suggestions dans les réponses de l’IA sont normales, comme dire à l’utilisateur de laisser la pizza refroidir avant de la manger . Mais le principal indice est très étrange, comme vous pouvez le voir ci-dessous.
Le plus drôle, c’est que si vous y réfléchissez ne serait-ce qu’une seconde, l’ajout de colle n’aiderait presque certainement pas le fromage à rester. sur la pizza. Mais cette réponse a probablement été extraite de Reddit dans ce qui était vraisemblablement un commentaire de blague réalisé par l’utilisateur «fucksmith» il y a 11 ans. L’IA peut certainement plagier, nous lui accorderons cela.
Une autre recherche qui a récemment retenu l’attention sur les réseaux sociaux implique certains anecdote présidentielle ce sera sûrement une nouvelle pour tout historien. Si vous demandez à la recherche basée sur l’IA de Google quel président américain s’est rendu à l’Université du Wisconsin, Madison, il répondra que 13 présidents ont fait c’est exactement cela.
La réponse de l’IA de Google affirmera même que ces 13 présidents ont atteint 59 diplômes différents au cours de leurs études. Et si vous prenez Si l’on regarde les années pendant lesquelles ils auraient fréquenté l’université, la grande majorité se situe bien après la mort de ces présidents. Le 17e président de la nation a-t-il , Andrew Johnson, a gagne 14 degrés entre les années 1947 et 2012, bien bien qu’il est mort en 1875 ? À moins qu’il existe une sorte de technologie zombie spéciale nous n’en sommes pas conscients, cela semble très peu probable.
Pour mémoire, les États-Unis n’ont jamais élu de président du Wisconsin, ni aucun de ceux qui ont déjà participé à l’UW-Madison. L’IA de Google apparaît gratter sa réponse d’un cœur léger Article de blog 2016 écrit par l’Association des anciens sur diverses personnes qui ont diplômés de Madison et partagent le nom d’un président.
Un autre modèle que de nombreux utilisateurs ont remarqué est que l’IA de Google pense que les chiens sont capables de réaliser des exploits extraordinaires, comme pratiquer des sports professionnels. Le chien a déjà joué dans la LNH, le résumé citait une vidéo YouTube et cracha la réponse suivante :
Dans un autre cas, nous nous sommes éloignés du sport et avons demandé au moteur de recherche si un chien avait déjà possédé un hôtel. La réponse de la plateforme était:
Pour être clair, lorsqu’on lui a demandé si un chien avait déjà possédé un hôtel, Google a répondu par l’affirmative. Il a ensuite cité deux exemples de propriétaires d’hôtel possédant des chiens et a souligné un animal de 9 mètres de hauteur. statue d’un beagle, comme preuve.
D’autres choses que nous avons « apprises » en interagissant avec les résumés IA de Google incluent que les chiens peuvent danser le breakdance (ils ne le peuvent pas) et qu’ils lancent souvent lors du premier lancer cérémonial lors d’un match de baseball, y compris un chien qui a lancé lors d’un match des Marlins de Floride (en réalité, le chien est allé chercher le balle après qu’elle ait été lancée).
De son côté, Google défend les mauvaises informations parce que des personnes posent des questions « rares ». Mais cela soulève un problème. défense très étrange, si nous sommes honnêtes. Êtes-vous seulement censé poser à Google les questions les plus banales et les plus courantes pour être fiable réponses?
“Les exemples que nous avons vus sont généralement des requêtes très rares et ne sont pas représentatifs des expériences de la plupart des gens”, a déclaré un porte-parole de Google à Gizmodo. par e-mail. “La grande majorité des AI Overviews fournissent des informations de haute qualité, avec des liens pour approfondir vos recherches sur le Web. Nous avons mené des tests approfondis avant de lancer cette nouvelle expérience et nous utiliserons ces exemples isolés alors que nous continuons à affiner nos systèmes dans leur ensemble.
Pourquoi ces réponses se produisent-elles ? En termes simples, ces outils d’IA ont tous été déployés bien avant qu’ils n’auraient dû l’être, ainsi que toutes les technologies majeures. l’entreprise est dans une course aux armements pour capter l’attention du public.
Des outils d’IA comme ChatGPT d’OpenAI, Les Gémeaux de Google, et maintenant la recherche IA de Google peut sembler impressionnante parce qu’elles imitent le langage humain normal. Mais les machines fonctionnent comme des modèles de texte prédictifs , fonctionnant essentiellement comme une fonctionnalité de saisie semi-automatique sophistiquée. Ils ont tous récupéré d’énormes quantités de données et peuvent rapidement rassembler des mots qui sonnent convaincante, peut-être même profonde à l’occasion. Mais la machine ne sait pas ce qu’elle dit. Elle n’a aucune capacité à raisonner ou à appliquer. logique comme un humain, l’une des nombreuses raisons pour lesquelles les boosters d’IA sont si enthousiasmés par la perspective de intelligence générale artificielle (AGI). Et c’est pour quoi Google pourrait vous dire de mettre de la colle sur votre pizza. Ce est même pas stupide. Ce n’est pas capable d’être stupide.
Les personnes qui conçoivent ces systèmes les appellent hallucinations parce que cela semble beaucoup plus cool que ce qui se passe réellement. Quand les humains perdent le contact avec la réalité, ils hallucinent. Mais votre chatbot IA préféré est il hallucinait parce qu’il n’était pas capable de raisonner ou de logique en premier lieu. Il s’agit simplement de vomir des mots qui sont moins convaincants que le langage qui nous a tous impressionnés lorsque nous avons testé pour la première fois des outils comme ChatGPT lors de son déploiement en novembre 2022. Et toutes les entreprises technologiques sur la planète poursuit ce sommet initial avec ses propres produits mi-cuit.
Mais personne n’a eu assez de temps pour évaluer ces outils avec précision après l’affichage initial éblouissant de ChatGPT et le battage médiatique a été implacable. Le problème, bien sûr, c’est que si vous posez à l’IA une question dont vous ne connaissez pas la réponse, vous n’avez aucun moyen de faire confiance à la réponse sans effectuer un tas de vérifications supplémentaires des faits. Et cela va à l’encontre du but de la raison pour laquelle vous demandiez à ces machines soi-disant intelligentes. en premier lieu. Vous vouliez obtenir une réponse fiable.
Contacté pour commenter tout cela, un porte-parole de Google a déclaré à Gizmodo :
Les exemples que nous avons vus sont généralement des requêtes très rares et ne sont pas représentatifs des expériences de la plupart des gens. La grande majorité des aperçus de l’IA fournir des informations de haute qualité, avec des liens pour approfondir vos recherches sur le Web. Nous avons effectué des tests approfondis avant de lancer cette nouvelle expérience et nous utiliserons ces exemples isolés alors que nous continuons à affiner nos systèmes dans leur ensemble.
Cela dit, dans notre quête pour tester l’intelligence du système d’IA, nous avons authentiquement appris de nouvelles choses. Par exemple, à un moment donné, nous avons demandé à Google si un chien avait déjà piloté un avion, en espérant que la réponse serait « non ». Le résumé de l’IA a fourni une réponse bien documentée. Oui, en fait, des chiens ont déjà piloté des avions, et non, ce n’est pas une hallucination algorithmique :
Quelle a été votre expérience avec le déploiement de l’IA de Google dans la recherche ? Avez-vous remarqué quelque chose d’étrange ou carrément dangereux dans les réponses que vous avez reçues ? Faites-le-nous savoir dans les commentaires et assurez-vous d’inclure des captures d’écran si vous les avez. Ces outils semblent être ici pour rester, que cela nous plaise ou non.
