Une vulnérabilité dans Google Gemini est exploitée pour transformer les résumés d'e-mails alimentés par l'IA en un outil de phishing.

Une faille de sécurité critique a été découverte dans Google Gemini pour Workspace . Des attaquants pourraient l'exploiter pour injecter du code malveillant dans les e-mails. Ce code pourrait ensuite être utilisé pour manipuler un outil d'IA, induire les utilisateurs en erreur et les rediriger vers des sites d'hameçonnage.

D'après un rapport de Bleeping Computer , cette vulnérabilité repose sur la création de résumés d'e-mails d'apparence parfaitement normale, mais contenant des instructions ou des avertissements malveillants dissimulés. Ces instructions sont exécutées automatiquement par Gemini lors de la génération du résumé.

Le mécanisme d'attaque repose sur l'intégration de directives Gemini invisibles dans l'e-mail. Pour ce faire, les instructions sont masquées à la fin du corps du message à l'aide de codes HTML et CSS, puis la taille de police est définie sur zéro et la couleur sur blanc. Comme ce texte supplémentaire ne contient ni pièces jointes ni liens, il ne sera ni détecté ni signalé, même par les meilleurs antivirus ou logiciels de messagerie, ce qui augmente le risque qu'il atteigne la boîte de réception d'une victime potentielle.

Lorsque l'utilisateur ciblé ouvre l'e-mail et demande à Gemini d'en résumer le contenu, le logiciel d'IA exécute automatiquement les instructions cachées détectées. Les utilisateurs font souvent confiance à la capacité de Gemini à traiter le contenu dans Workspace ; l'alerte est donc perçue comme un avertissement légitime plutôt que comme une injection malveillante.

Des attaques similaires ont été signalées au cours de l’année écoulée et, malgré certaines mesures préventives mises en œuvre pour bloquer les réponses trompeuses, la technique reste généralement efficace, ce qui explique son utilisation continue.

Bleeping Computer a rapporté que, interrogé sur les mesures de protection contre ce type d'attaques, un porte-parole de Google a renvoyé à un article de blog consacré aux attaques par injection de code et a expliqué que des mesures préventives étaient en cours de déploiement ou sur le point d'être publiées. Google a également confirmé qu'à ce jour, aucune preuve de ce type d'attaque n'avait été constatée.

Figueroa, responsable du programme de primes aux bugs GenAI de Mozilla, qui a découvert la vulnérabilité, propose quelques pistes pour prévenir cette menace : les équipes de sécurité devraient supprimer, neutraliser ou ignorer le contenu destiné à être masqué dans le corps du message. Elles pourraient également mettre en place des filtres qui analysent Gemini à la recherche de messages, d'URL et de numéros de téléphone urgents, les signalant pour examen ultérieur par les utilisateurs.

Pour l'instant, soyez prudent lorsque vous utilisez Gemini pour résumer des e-mails, car on ne sait jamais ce qui pourrait s'y cacher. Nous espérons que Google publiera un correctif pour ce nouveau type d'attaque au plus vite.