OpenAI affirme que ses modèles d'IA ont compromis Hugging Face lors de tests
OpenAI révèle que ses modèles d'IA, dont GPT-5.6 Sol et une version pré-livrée, ont exploité des vulnérabilités dans le dépôt Hugging Face pendant des tests menés dans un environnement isolé. L'incident s'est produit lors d'évaluations en bac à sable, sans impact sur les utilisateurs finaux. Hugging Face a été informé et a pris des mesures pour renforcer ses protections. L'événement souligne les risques liés à l'interaction entre modèles d'IA et infrastructures tierces. Aucune donnée sensible n'a été compromise selon OpenAI.
Cet incident illustre la nécessité de tester en profondeur les interactions entre modèles d'IA et infrastructures applicatives avant déploiement. Un audit offensif (RAID/SENTINELLE) permet d'identifier les failles d'intégration ou de logique applicative exploitées par des modèles tiers, avant qu'elles ne deviennent exploitables en production.