Les erreurs de l'IA de Google : expressions hallucinantes et dictons populaires

La dernière tendance en matière d’IA est hilarante. Un utilisateur a découvert qu'il était possible de saisir une fausse phrase dans la recherche Google et d'y ajouter le mot « signification ». Ensuite, la fonctionnalité « Aperçu de l'IA » de Google générera une signification pour cette phrase en fonction de votre imagination.

L’historien Greg Jenner a lancé cette tendance avec une publication sur Bluesky demandant à Google d’expliquer la signification de l’expression « on ne peut pas lécher un blaireau deux fois ». La fonctionnalité « Aperçu de l’IA » a utilement expliqué que l’expression signifie qu’on ne peut pas tromper quelqu’un une seconde fois après qu’il a déjà été trompé une fois – une explication plausible, mais qui ignore le fait que le terme n’existait pas avant que cette requête ne devienne virale.

Depuis lors, les gens se sont beaucoup amusés à faire en sorte que la fonctionnalité Aperçu de l'IA explique des termes tels que « un calmar dans un vase ne dira pas de mal de vous » (Sens Quelque chose en dehors de son environnement naturel ne pourrait apparemment pas lui faire de mal) ou « Vous pouvez emmener votre chien à la plage, mais vous ne pouvez pas le faire naviguer jusqu'en Suisse » (C'est, selon la fonctionnalité « AI Overview », est une déclaration assez simple sur la difficulté des voyages internationaux avec des animaux de compagnie.

Cependant, cela ne fonctionne pas dans tous les cas, car certaines requêtes ne renvoient pas les résultats de la « vue d'ensemble de l'IA ». Le chercheur en sciences cognitives Gary Marcus a déclaré à Wired : « C'est très incohérent, ce qui est normal avec GenAI. »

Jenner souligne que, si cela peut paraître amusant, cela met également en lumière certains dangers potentiels liés à une trop grande dépendance aux sources générées par l'IA, comme « AI Overview », pour s'informer. Il écrit : « C'est un signal d'alarme : l'une des fonctions essentielles de Google – la possibilité de vérifier une citation, de contrôler une source ou de retrouver une information dont on ne se souvient que partiellement – ​​deviendra beaucoup plus difficile si l'IA privilégie les probabilités statistiques à la vérité. »

Ce n’est pas la première fois que l’on souligne les limites des informations fournies par l’IA, en particulier la fonction Aperçu de l’IA. Lorsque l’article « AI Overview » a été publié, il suggérait de manière tristement célèbre que les gens devraient manger une petite pierre par jour et qu’ils pouvaient mettre de la colle sur leur pizza, bien que ces réponses spécifiques aient été rapidement supprimées.

Depuis lors, Google a déclaré que la plupart des aperçus de l'IA fournissent des informations utiles et factuelles, et qu'il continue de recueillir des commentaires sur son produit d'IA.

Pour l’instant, laissez ceci vous rappeler de vérifier les informations qui apparaissent dans la case « Aperçu de l’IA » en haut des résultats Google, car elles peuvent ne pas être exactes.