En bref
L'injection de prompt consiste à glisser des instructions dans le texte lu par un modèle de langage pour détourner son comportement : lui faire ignorer ses consignes, révéler des informations ou utiliser ses outils à la place de l'attaquant. Elle peut être directe (tapée dans la conversation) ou indirecte (cachée dans un e-mail, un document ou une page web que l'IA consulte). C'est le premier risque de l'OWASP Top 10 for LLM Applications.
Directe ou indirecte
- Directe : l'utilisateur écrit lui-même des instructions qui contournent les consignes du système.
- Indirecte : les instructions sont cachées dans un contenu que l'IA traite pour quelqu'un d'autre, par exemple un texte invisible dans une page web résumée par un assistant, ou dans un e-mail lu par un agent qui a accès à la boîte de réception.
L'injection indirecte est la plus dangereuse : la victime n'a rien tapé, elle a seulement demandé à son assistant de lire un contenu piégé.
Limiter le risque
- Donner à l'IA le minimum de droits et d'accès aux données.
- Exiger une confirmation humaine pour toute action sensible.
- Séparer clairement les instructions et les contenus externes, et traiter ces derniers comme non fiables.
- Tester régulièrement avec des scénarios d'injection réalistes.
Questions fréquentes
Un filtre suffit-il contre l'injection de prompt ?
Non. Les filtres réduisent les attaques les plus simples mais se contournent. La protection repose surtout sur la limitation de ce que l'IA peut lire et faire.
Sources
Savoir par où un attaquant entrerait chez vous.
Nos agents IA attaquent réellement votre périmètre, de façon entièrement automatisée, et vous remettent la preuve de chaque faille.
