Sovra Recon·Guide · Sécurité de l'IA

Sécurité des chatbots et applications IA : les risques et comment les tester

Par Solan Barlet, cofondateur de Sovra Recon
Mis à jour le 29 octobre 2026

En bref

Une application fondée sur un modèle de langage (chatbot, assistant, agent IA) hérite de toutes les failles d'une application web, plus des risques propres : injection de prompt, fuite d'informations sensibles, agents dotés de droits trop larges, réponses injectées sans contrôle dans d'autres systèmes. L'OWASP Top 10 for LLM Applications recense ces risques. Ils se testent comme le reste : avec un périmètre autorisé et des tentatives d'exploitation réelles.

Pourquoi les applications IA sont une nouvelle surface d'attaque

Un modèle de langage ne distingue pas fondamentalement les instructions de son concepteur des données qu'il lit : un e-mail, une page web ou un document peuvent contenir du texte qui lui donne de nouveaux ordres. Dès que le modèle est relié à des données internes ou à des outils (envoyer un e-mail, interroger une base, créer un ticket), ce défaut de conception devient un risque concret.

Les principaux risques (OWASP Top 10 for LLM Applications)

RisqueCe qui peut arriver
Injection de promptUn texte malveillant, tapé par l'utilisateur ou caché dans un document lu par le modèle, détourne ses instructions
Divulgation d'informations sensiblesLe modèle révèle ses instructions système, des données de sa base de connaissances ou d'autres utilisateurs
Chaîne d'approvisionnementModèle, jeu de données ou extension tiers compromis
Empoisonnement des donnéesDes données d'entraînement ou de la base documentaire sont manipulées pour biaiser les réponses
Traitement incorrect des sortiesLa réponse du modèle est insérée telle quelle dans une page (XSS) ou une commande (injection)
Agentivité excessiveUn agent dispose de droits trop larges et peut être manipulé pour agir à la place de l'attaquant
Fuite du prompt systèmeLes instructions internes, parfois avec des secrets, sont extraites
Faiblesses des vecteurs et embeddingsLa recherche documentaire (RAG) renvoie des documents auxquels l'utilisateur ne devrait pas avoir accès
DésinformationLe modèle produit des informations fausses présentées comme fiables
Consommation non bornéeRequêtes coûteuses en masse : déni de service ou facture qui explose

Comment tester la sécurité d'une application IA

  • Cartographier ce que le modèle peut lire (documents, bases, web) et ce qu'il peut faire (outils, API, droits).
  • Tenter des injections directes et indirectes : instructions dans la conversation, dans un fichier envoyé, dans une page que l'agent consulte.
  • Vérifier l'isolation : un utilisateur peut-il obtenir des documents ou des conversations d'un autre ?
  • Tester les sorties : la réponse du modèle peut-elle déclencher un XSS ou une requête non prévue ?
  • Vérifier les droits des agents : chaque action sensible demande-t-elle une confirmation humaine ?
  • Tester l'application qui entoure le modèle : authentification, API, contrôle d'accès, comme pour toute application web.

Les bonnes pratiques

  • Moindre privilège : l'agent n'a que les droits strictement nécessaires, avec les droits de l'utilisateur et non ceux d'un administrateur.
  • Validation humaine pour toute action irréversible (paiement, envoi, suppression).
  • Traiter toute sortie du modèle comme une donnée non fiable : échappement, validation, pas d'exécution directe.
  • Filtrer les documents de la base de connaissances selon les droits de l'utilisateur avant de les donner au modèle.
  • Ne jamais placer de secret dans le prompt système.
  • Limiter le débit et le coût par utilisateur.

Questions fréquentes

Peut-on empêcher complètement l'injection de prompt ?

Pas à ce jour : c'est une limite de fond des modèles de langage. On réduit le risque en limitant ce que le modèle peut lire et faire, et en exigeant une validation humaine pour les actions sensibles.

Un pentest classique couvre-t-il un chatbot ?

Il couvre l'application qui l'entoure. Les risques propres au modèle (injection de prompt, fuite de documents, droits des agents) demandent des scénarios de test dédiés.

Sources

Savoir par où un attaquant entrerait chez vous.

Nos agents IA attaquent réellement votre périmètre, de façon entièrement automatisée, et vous remettent la preuve de chaque faille.