Des prompts cachés manipulent les IA pour générer de fausses synthèses d'emails
Des attaquants exploitent des techniques d'injection de prompts via du code HTML invisible pour tromper des outils d'IA dédiés à la synthèse d'emails. Ces manipulations permettent d'obtenir des résumés erronés ou malveillants sans que l'utilisateur ne s'en aperçoive. La vulnérabilité cible les systèmes automatisés d'analyse de messages, souvent utilisés en entreprise pour filtrer ou résumer les communications. Aucune preuve d'exploitation active à grande échelle n'a été rapportée pour l'instant.
Ce type d'attaque met en lumière les risques liés à l'intégration d'outils d'IA dans des processus critiques, comme la gestion des emails. Un audit offensif permettrait de tester la résistance des solutions automatisées aux manipulations de prompts et d'identifier des vecteurs d'exploitation similaires dans des applications web ou internes.