Sovra Recon·Guide · IA & cybersécurité

Cybersécurité et IA : comment l'intelligence artificielle change l'attaque et la défense

Par Solan Barlet, cofondateur de Sovra Recon
Mis à jour le 29 octobre 2026

En bref

L'intelligence artificielle change la cybersécurité des deux côtés. Les attaquants l'utilisent pour écrire des campagnes d'hameçonnage crédibles, accélérer la recherche de failles et automatiser leurs attaques. Les défenseurs l'utilisent pour détecter les anomalies, trier les alertes et, de plus en plus, pour attaquer leurs propres systèmes avant les pirates grâce à des agents de sécurité offensive. Pour une entreprise, la conséquence est simple : le délai entre la publication d'une faille et son exploitation se raccourcit, il faut donc tester plus souvent.

Comment les attaquants utilisent l'IA

  • Hameçonnage et ingénierie sociale : des messages sans fautes, personnalisés et traduits dans n'importe quelle langue, voire des voix ou vidéos imitées (deepfakes) pour des fraudes au président.
  • Recherche de vulnérabilités : l'IA aide à lire du code, comprendre un correctif publié et en déduire comment exploiter les versions non corrigées.
  • Automatisation : reconnaissance, tests d'identifiants, adaptation des charges utiles — des tâches qui demandaient du temps humain se font à grande échelle.
  • Abaissement de la barrière d'entrée : des attaquants peu qualifiés obtiennent des résultats auparavant réservés à des profils expérimentés.

L'ANSSI a consacré plusieurs publications à ces usages ; son constat rejoint celui des grands éditeurs : l'IA amplifie surtout des techniques existantes plutôt qu'elle n'en invente de nouvelles.

Comment les défenseurs utilisent l'IA

  • Détection : repérer des comportements anormaux dans les journaux, le réseau ou les postes (EDR, XDR, SIEM).
  • Tri des alertes : résumer un incident, corréler des signaux, réduire la fatigue des équipes SOC.
  • Sécurité du code : relecture assistée, détection de secrets et de dépendances vulnérables dès le développement.
  • Sécurité offensive : des agents IA qui mènent de vrais tests d'intrusion, pour trouver les failles avant qu'un attaquant ne le fasse.

La sécurité offensive par IA : attaquer pour se protéger

C'est le changement le plus concret pour une PME ou une ETI. Un test d'intrusion manuel coûte du temps d'expert et n'a souvent lieu qu'une fois par an — pendant que l'application, elle, change chaque semaine.

Des agents IA offensifs peuvent mener ce test en quelques heures et le relancer régulièrement. L'intérêt n'est pas de produire plus d'alertes, mais de produire des failles prouvées : celles qu'un attaquant pourrait réellement exploiter, avec la démonstration et la correction.

Sécuriser l'IA elle-même

Les entreprises qui intègrent des modèles de langage (chatbots, assistants, agents connectés à leurs données) ouvrent une nouvelle surface d'attaque. L'OWASP Top 10 for LLM Applications recense les principaux risques :

  • Injection de prompt : un texte malveillant détourne les instructions du modèle, directement ou via un document qu'il lit.
  • Fuite d'informations sensibles : le modèle révèle des données de ses instructions, de sa base de connaissances ou d'autres utilisateurs.
  • Agentivité excessive : un agent dispose de droits trop larges (envoyer des e-mails, modifier des données) et peut être manipulé pour les utiliser.
  • Sorties non contrôlées : la réponse du modèle est injectée telle quelle dans une page ou une commande.

Ces applications se testent comme les autres : avec un périmètre, une autorisation, et des tentatives d'exploitation réelles.

Ce que dit la réglementation européenne

Le règlement européen sur l'intelligence artificielle (AI Act, règlement 2024/1689) impose aux systèmes d'IA à haut risque un niveau approprié d'exactitude, de robustesse et de cybersécurité, y compris contre les tentatives de manipulation comme l'empoisonnement des données ou les entrées conçues pour tromper le modèle (article 15). Ses obligations entrent en application progressivement entre 2025 et 2027.

Pour les entreprises concernées par NIS2, les systèmes d'IA font partie du système d'information à protéger : ils entrent dans l'analyse de risques, la gestion des fournisseurs et les tests de sécurité.

Que faire concrètement ?

  • Réduire le délai de correction : appliquer les correctifs critiques en jours, pas en mois, en priorité sur les failles activement exploitées.
  • Tester plus souvent : passer d'un pentest annuel à des tests après chaque évolution majeure.
  • Protéger l'authentification : MFA partout, en priorité sur la messagerie, le VPN et les comptes d'administration.
  • Sensibiliser aux fraudes assistées par IA : procédure de double validation pour tout virement ou changement de coordonnées bancaires.
  • Cartographier ses usages de l'IA : quels outils, quelles données leur sont confiées, quels droits ont les agents.

Questions fréquentes

L'IA rend-elle les cyberattaques plus dangereuses ?

Elle les rend plus rapides, plus nombreuses et plus crédibles, surtout pour l'hameçonnage. Les mesures de base (correctifs, MFA, sauvegardes, tests réguliers) restent efficaces, mais doivent être appliquées plus vite.

Qu'est-ce qu'un agent IA en cybersécurité ?

Un programme fondé sur un modèle de langage qui poursuit un objectif de façon autonome : il choisit ses outils, observe les résultats et adapte ses actions. En sécurité offensive, il mène des tests d'intrusion ; en défense, il trie des alertes ou investigue des incidents.

Comment tester la sécurité d'un chatbot ou d'une application IA ?

Avec un test d'intrusion dédié, qui couvre l'injection de prompt, les fuites de données, les droits des agents et les intégrations, en plus des tests applicatifs classiques.

Sources

Savoir par où un attaquant entrerait chez vous.

Nos agents IA attaquent réellement votre périmètre, de façon entièrement automatisée, et vous remettent la preuve de chaque faille.