Google a commis une erreur en intégrant Nano Banana à Google Earth.

La semaine dernière, Google a lancé Nano Banana 2 , son modèle de génération d'images basé sur l'IA, au sein de son programme d'exploration du monde Google Earth. L'entreprise a présenté cette intégration comme un moyen de créer des infographies sur différents lieux du globe ou de reconstituer des paysages historiques à partir d'images récentes. Les utilisateurs étaient également invités à visualiser la maison de leurs rêves sur des fonds réalistes : si vous envisagiez d'agrandir votre maison ou rêviez d'une résidence secondaire au bord d'un lac, vous pouviez les concrétiser grâce à Nano Banana 2 dans Google Earth.

Cette nouvelle intervient alors que Google s'efforce d'intégrer ses plateformes d'IA à la quasi-totalité de ses produits et services (par exemple, la semaine dernière, l'entreprise a ajouté de nouvelles fonctionnalités Gemini à Google Docs pour les utilisateurs de Workspace). Du point de vue de Google, l'intégration de Nano Banana 2 à Google Earth semblait tout à fait logique. Cependant, il s'est avéré par la suite que cette intégration n'était pas adaptée à Google Earth.

Google Earth abandonne déjà Nano Banana 2

Un jour seulement après le lancement de cette intégration majeure pour Nano Banana 2, Google l'a retirée . L'entreprise a publié une mise à jour de son annonce initiale : « Nous savons que les utilisateurs font confiance à Google Earth pour obtenir une vision fiable du monde. Nous avons constaté que les professionnels de la géomatique utilisent cette fonctionnalité à de nombreuses fins utiles ; cependant, nous avons également vu des captures d'écran d'images générées qui semblent enfreindre nos règles partagées. Par conséquent, nous retirons cette fonctionnalité de Google Earth le temps de mettre en place des contrôles plus stricts. Il est important de noter que les images générées n'apparaissaient pas dans l'interface principale de Google Earth et comportaient un filigrane indiquant qu'elles étaient générées par l'IA. »

Cette déclaration ne décrit pas fidèlement les images générées par les utilisateurs avec cet outil. À mon avis, il ne s'agissait pas simplement d'une « violation » des règles de Google : comme prévu, Internet a utilisé Nano Banana 2 pour créer des images inappropriées et sensibles à partir de lieux réels. Sans surprise, l'une des images les plus diffusées montrait un avion s'écrasant sur le nouveau World Trade Center à Manhattan . D'autres représentaient la tour Eiffel en ruines ou les pyramides égyptiennes s'effondrant dans un gouffre. Si beaucoup ont compris que ces images étaient humoristiques, un nombre bien plus important, en voyant ces images « officielles » de Google Earth en ligne, pourrait imaginer le pire.

Blague à part, le risque de propagation de fausses informations et de désinformation était alarmant. Par exemple, un utilisateur a montré comment il avait utilisé l'outil pour placer des réfugiés côte à côte près de la frontière mexicaine . On imagine aisément une telle image devenir virale, les internautes étant trompés et croyant que cette capture d'écran de Google Earth était une véritable image satellite. Google avait probablement mis en place des contrôles pour empêcher la génération d'images, mais ces restrictions étaient manifestement insuffisantes. Puisque n'importe qui, qu'il ait payé ou non pour les fonctionnalités d'IA de Google , pouvait utiliser Nano Banana 2 avec Google Earth, il suffisait d'ouvrir Google Earth et de manipuler une invite malveillante jusqu'à ce que Nano Banana 2 réagisse.

L'intelligence artificielle générative n'a pas sa place dans un outil comme Google Earth.

Il n'est pas nécessaire d'être un sceptique de l'IA pour comprendre pourquoi c'était une mauvaise idée dès le départ. Pourtant, rares sont les entreprises spécialisées en IA qui font preuve de scepticisme avant d'intégrer des fonctionnalités d'IA générative à leurs produits. Des outils comme Google Earth sont conçus à des fins éducatives. Nous les utilisons pour découvrir le monde, sa géographie et l'aspect des différentes villes et paysages. Personnellement, j'aime passer du temps à faire pivoter mon globe numérique pour explorer de nouveaux endroits, et je place souvent une épingle à un endroit au hasard pour voir à quoi il ressemble grâce à Street View. La raison est simple : je considère Google Earth comme une source d'information précise et fiable sur le monde ; sinon, pourquoi m'en soucierais-je ?

Je ne vois donc aucune logique à ce que Google propose un outil qui, par sa nature même, génère des images inexactes et déformées du monde. L'un de ses arguments de vente était de montrer les lieux sur une carte tels qu'ils apparaissaient autrefois, mais ce n'est pas ce que faisait Nano Banana 2. L'IA s'appuyait plutôt sur ses données d'entraînement pour générer ce qu'elle croyait être une représentation historique de la zone. Si vous lui demandiez de vous montrer à quoi ressemblait Paris en 1726, elle placerait très probablement les bâtiments et édifices publics sur la carte, plutôt que de représenter la Paris d'il y a trois cents ans. On obtient ainsi une illusion historique ; cela peut être divertissant, mais certainement pas éducatif, un peu comme lorsqu'on consulte des contenus historiques de piètre qualité générés par IA sur les réseaux sociaux.

Il en va de même pour les « infographies informatives » générées par l'IA. Des entreprises comme Google aiment promouvoir les capacités de l'IA comme outil pédagogique, et il est certes intéressant de constater que Google Earth peut générer des infographies informatives pour localiser un lieu sur une carte. Cependant, ces infographies ne sont vérifiées par aucune autorité, et certainement pas par un expert : l'image produite par Nano Banana 2 peut être truffée d'inexactitudes et d'hallucinations, et pire encore, elle ne propose aucune source cliquable pour vérifier le travail de l'IA. Les utilisateurs lambda risquent de retenir les informations « tirées » de ces infographies, qu'elles soient exactes ou non.

Dans le pire des cas, cette fonctionnalité servait de machine à diffuser de la désinformation. Si vous vouliez convaincre les gens qu'un événement tragique s'était produit dans une région du monde, il vous suffisait de saisir votre requête : Nano Banana 2 générait alors une image satellite réaliste illustrant votre idée, prête à être facilement partagée sur les réseaux sociaux. À l'heure où la désinformation générée par l'IA se propage rapidement, cela ne fait qu'aggraver le problème, alimentant un incendie déjà bien déclaré. Des entreprises comme Google devraient s'efforcer de distinguer les contenus erronés générés par l'IA des informations véridiques, au lieu de contribuer à leur prolifération.

Il ne s'agit pas d'un argument contre les outils d'IA en général, mais plutôt contre l'intégration de l'IA générative dans un outil pédagogique. Je ne vois pas quel avantage Google espère tirer de la déformation des faits par l'IA, si ce n'est de disposer d'un nouvel exemple à brandir pour se vanter de son « succès » en la matière.