Google a livré un bouton de génération d'images dans Google Earth le jeudi trente juillet, permettant à quiconque de zoomer sur une coordonnée, de taper une consigne et d'obtenir une image photoréaliste rendue sur ce point précis. Elle avait disparu en moins de 48 heures. La raison est celle que vous devinez : des chercheurs et des journalistes ont montré que des scènes fabriquées pouvaient être épinglées à des lieux réels, et la réponse de Google, un filigrane invisible SynthID sur chaque sortie, n'a pas tenu comme défense. C'est cette seconde partie qui intéresse quiconque construit avec des modèles génératifs, car c'est un cas net de métadonnée de provenance techniquement présente et pratiquement inutile.
The short answer
Google a ajouté un contrôle de génération d'images à Google Earth le jeudi trente juillet, animé par le modèle Nano Banana 2, qui produisait des images photoréalistes épinglées à n'importe quelle coordonnée visitée. Des chercheurs et des journalistes ont montré que des scènes fabriquées pouvaient être produites sur des lieux réels, y compris des scénarios de zones de conflit. Google a d'abord invoqué le filigrane invisible SynthID porté par chaque sortie comme garde fou, mais les tests de BBC Verify l'ont trouvé contournable dans certains cas. Google indique retirer la fonction pendant qu'elle travaille à des garde fous plus solides, sans calendrier.
Le modèle n'était pas nouveau. Nano Banana 2 est disponible depuis février et a généré un très grand nombre d'images photoréalistes sans que personne n'y voie un problème. Ce qui a changé jeudi, c'est l'endroit où on l'a pointé.
Le contexte fait toute l'histoire
Mettez un générateur d'images dans un outil autonome et sa sortie ne porte aucune affirmation implicite sur quoi que ce soit. Personne ne regarde un paysage généré en supposant qu'il s'agit de la photographie d'un lieu.
Mettez le même générateur dans une application de cartographie satellite, avec la sortie rendue à une latitude et une longitude précises, et il hérite de deux décennies de présupposé accumulé selon lequel Google Earth vous montre un lieu réel. L'image n'a rien à affirmer. L'interface l'affirme pour elle.
Ce transfert de crédibilité est tout le mécanisme, et c'est pourquoi la fonction a été en difficulté immédiatement. Des chercheurs et des journalistes ont montré en quelques heures que des scènes fabriquées pouvaient être produites sur des coordonnées réelles, y compris des scénarios en zones de conflit. Le cadrage de lancement de Google portait sur l'aménagement paysager et l'urbanisme, et l'entreprise maintient que des professionnels du géospatial s'en servaient ainsi. Les deux choses étaient vraies en même temps.
L'argument SynthID, et pourquoi il n'a pas tenu
La première réponse de Google n'a pas été de retirer la fonction. Elle a été de pointer la provenance : chaque image générée portait un filigrane SynthID, une signature invisible conçue pour survivre aux captures d'écran et à la compression, et chacun pouvait vérifier une image via l'application Gemini ou via Lens dans Search.
Deux problèmes, un technique et un structurel.
Le technique, c'est que les tests de BBC Verify ont trouvé le filigrane contournable dans certains cas. C'est mauvais, mais pris isolément ce serait un bug à corriger.
Le structurel est le vrai problème, et il n'a pas de correctif de la même catégorie. Un signal de provenance ne travaille que si quelqu'un le vérifie. Le chemin que parcourt réellement une image, c'est : générée, capturée en image d'écran, recadrée, publiée, repartagée. À aucun moment de cette chaîne quelqu'un ne s'arrête pour lancer une requête de vérification, et la personne qui en profiterait le plus est par définition celle qui n'a aucune raison de soupçonner qu'elle en a besoin. Un filigrane invisible est un instrument médico légal pour un enquêteur qui a déjà des doutes. Ce n'est pas un contrôle sur la diffusion.
Ce que cela implique si vous livrez des fonctions génératives
La leçon utile porte sur la place dans la chaîne, pas sur Google.
Une provenance attachée au moment de la génération est facultative pour celui qui regarde. Elle exige un acte délibéré de quelqu'un en aval, qui doit d'abord soupçonner un problème, puis savoir qu'un outil de vérification existe, puis aller s'en servir. Chacune de ces étapes perd la majorité de la population.
Une provenance imposée au moment de l'affichage n'est pas facultative. Une étiquette visible incrustée dans les pixels voyage avec la capture d'écran. Une contrainte sur ce que le modèle acceptera de générer pour une consigne donnée s'applique avant que quoi que ce soit n'existe à partager. Une restriction sur les surfaces autorisées à générer, comptes professionnels uniquement par exemple, limite le volume plutôt que d'essayer de le suivre après coup.
Rien de tout cela n'est aussi élégant qu'une signature invisible, et c'est précisément pourquoi la signature invisible est séduisante à construire. Le marché est que l'option élégante ne fonctionne que dans le cas où quelqu'un regarde déjà.
Où en est le dossier
La déclaration de Google est qu'elle a vu des professionnels du géospatial utiliser la fonction pour toute une gamme d'usages utiles, qu'elle a aussi vu des gens partager des images générées qui semblaient enfreindre ses règles, et qu'elle retire la fonction pendant qu'elle travaille à mettre en place des garde fous plus solides.
C'est une pause, pas une annulation, et aucun calendrier ne l'accompagne. La question intéressante pour la remise en service est de savoir sur quelle couche les garde fous atterriront. S'ils arrivent sous forme de filtrage de consignes, la même catégorie d'échec revient dès que quelqu'un trouve une formulation que le filtre ne capte pas. S'ils arrivent sous forme d'étiquetage visible sur l'image rendue, ou de restriction de qui peut générer, la propriété qui rendait cette fonction risquée disparaît vraiment.
Sources et pour aller plus loin
- TechCrunch : Google retire sa fonction Earth AI un jour après son lancement
- Google : transformer n'importe quel lieu avec Nano Banana dans Google Earth
- The Next Web : Google retire son outil d'image IA d'Earth un jour après le lancement
- The National : Google revient sur sa fonction IA controversée dans Google Earth
- Google DeepMind : SynthID
Questions fréquentes
Que faisait exactement cette fonction ?
Elle ajoutait un contrôle de génération d'image à Google Earth. Vous naviguiez vers un lieu, tapiez une consigne textuelle, et le modèle d'images Nano Banana 2 générait une image photoréaliste rendue à ces coordonnées, dans l'interface de la carte. Le billet de lancement de Google la présentait autour de l'idée de transformer un lieu, avec l'aménagement paysager et l'urbanisme comme usages visés, et l'entreprise a déclaré ensuite que des professionnels du géospatial s'en servaient effectivement ainsi. Le problème n'a jamais été la capacité prise isolément. C'est que la sortie arrivait attachée à une coordonnée réelle, dans une application dont toute la proposition de valeur est que ce que vous y voyez est réel.
Que devait faire SynthID, et pourquoi cela n'a pas marché ?
SynthID est le système de filigrane invisible de Google, conçu pour intégrer une signature dans les images générées qui survit aux captures d'écran, au recadrage et à la compression, afin qu'une image puisse ensuite être identifiée comme générée par IA. La première défense de Google s'appuyait dessus : chaque sortie portait le filigrane, et chacun pouvait vérifier une image via l'application Gemini ou Lens dans Search. Deux choses ont cassé cet argument. Les tests de BBC Verify ont trouvé le filigrane contournable dans certains cas. Et plus fondamentalement, presque personne ne lance une étape de vérification sur une image vue dans un fil. Un signal de provenance ne fonctionne que s'il est vérifié, et le chemin par défaut d'une capture d'écran est de ne jamais l'être.
Google a t il dit que la fonction reviendrait ?
Oui, sans date. La déclaration de l'entreprise est qu'elle a vu des professionnels du géospatial utiliser la fonction pour toute une gamme d'usages utiles, qu'elle a aussi vu des gens partager des images générées qui semblaient enfreindre ses règles, et qu'elle retire la fonction pendant qu'elle travaille à mettre en place des garde fous plus solides. La position est donc une pause pour refonte plutôt qu'une annulation. Ce que signifient des garde fous plus solides n'est pas défini, et l'éventail va du filtrage au niveau de la consigne à un étiquetage visible sur l'image, jusqu'à réserver la capacité à des comptes professionnels vérifiés.
En quoi est ce différent d'un autre générateur d'images IA ?
Le modèle n'est pas en cause, et Nano Banana 2 est disponible depuis février. La différence tient au contexte. Une image photoréaliste produite dans un outil d'images autonome ne porte aucune affirmation implicite sur l'endroit où elle a été prise. La même image produite dans une application de cartographie satellite, positionnée à une latitude et une longitude précises, hérite de la crédibilité de cette application. Google Earth a passé vingt ans à établir que ce qu'il vous montre est l'imagerie d'un lieu réel. Placer un générateur dans ce cadre transfère cette confiance automatiquement, et c'est exactement la propriété qui rendait la fonction risquée et qu'aucun filigrane ne traite.
Quelle leçon pratique pour ceux qui construisent avec ces modèles ?
La provenance doit être imposée au point d'affichage, pas attachée au point de génération. Un filigrane intégré dans un fichier est un outil médico légal pour quelqu'un qui a déjà un doute et qui sait qu'il faut vérifier. Il ne fait rien pour le cas ordinaire, à savoir une capture d'écran dans une discussion de groupe, dont la couche de métadonnées a été supprimée par l'acte même de capturer l'écran. Si votre produit génère du contenu synthétique qui pourrait passer pour un enregistrement du réel, les contrôles durables sont l'étiquetage visible incrusté dans les pixels, des contraintes sur ce qui peut être généré au départ, et la limitation des surfaces où la sortie peut être produite. Les signatures invisibles complètent cela, elles ne le remplacent pas.