Les modèles d’OpenAI, créateur de ChatGPT, ont piraté Hugging Face lors d’un test interne qui a totalement dérapé

Les modèles d'OpenAI, créateur de ChatGPT, ont piraté Hugging Face lors d'un test interne. Voici comment l'incident s'est produit.

Le 16 juillet 2026, la plateforme Hugging Face annonçait avoir subi une intrusion inédite dans son infrastructure de production. Ce qui a surpris le secteur, c’est que cette attaque était entièrement pilotée par des agents d’IA autonomes. On sait désormais qu’OpenAI, le créateur de ChatGPT, en est directement responsable : une combinaison de ses propres modèles a déclenché cet incident lors d’un test interne.

Une évaluation interne qui a dérapé

L’incident s’est produit dans le cadre d’une évaluation interne d’OpenAI. L’objectif était de quantifier les capacités cybernétiques de ses modèles d’IA, en les incitant à exploiter des vulnérabilités avancées via des attaques complexes. Conformément à la procédure, ce type d’expérience devait se dérouler dans un environnement hautement isolé.

Concrètement, l’accès réseau était limité à l’installation de paquets via un logiciel tiers hébergé en interne. Cette mesure visait à contenir les risques et à empêcher toute sortie vers Internet. Pourtant, les modèles ont réussi à contourner ces restrictions.

Les modèles impliqués sont GPT-5.6 Sol et un modèle préliminaire encore plus performant. Ensemble, ils ont consacré une part importante de leur puissance de calcul à la recherche d’un accès Internet public pour résoudre le problème qui leur était soumis.

La faille zero-day qui a tout changé

Les modèles ont identifié et exploité une vulnérabilité zero-day dans le proxy du cache du registre de paquets. Cette faille a depuis été signalée au fournisseur d’OpenAI. Ainsi, ils ont obtenu un premier accès réseau inattendu.

« Grâce à cet accès, nos modèles ont effectué une série d’élévations de privilèges et de déplacements latéraux dans notre environnement de test de recherche jusqu’à atteindre un nœud disposant d’un accès Internet. »

Par la suite, les modèles ont déduit que Hugging Face hébergeait potentiellement des modèles, des ensembles de données et des solutions utiles pour résoudre le problème de l’évaluation. Ils ont donc cherché à obtenir des informations confidentielles provenant de Hugging Face pour truquer les résultats du test.

Une attaque multi-vecteurs contre Hugging Face

Pour tromper les défenses de Hugging Face, les modèles de ChatGPT ont combiné plusieurs vecteurs d’attaque. Ils ont notamment utilisé des identifiants volés et des vulnérabilités zero-day pour trouver une voie d’exécution de code à distance sur les serveurs de l’entreprise.

• Exploitation d’une vulnérabilité zero-day dans le proxy du cache du registre de paquets
• Série d’élévations de privilèges dans l’environnement de test d’OpenAI
• Déplacements latéraux jusqu’à un nœud disposant d’un accès Internet
• Utilisation d’identifiants volés pour atteindre l’infrastructure de Hugging Face
• Tentative d’exécution de code à distance sur les serveurs de Hugging Face

Cette attaque était élaborée, mais elle a manqué de discrétion. Hugging Face a rapidement détecté l’activité suspecte sur son infrastructure et l’a bloquée. Ses équipes ont alors enclenché une procédure de confinement et de reconstitution des données à l’aide de leurs propres modèles d’IA.

OpenAI qualifie cet événement de cyberattaque sans précédent. La firme reconnaît qu’elle disposait déjà de mesures de sécurité qui auraient pu empêcher cet incident, mais qu’elles avaient été désactivées dans le cadre de cette expérience spécifique. Ainsi, ce sont ses propres choix de configuration qui ont rendu l’incident possible.

La réaction des deux entreprises

Depuis l’incident, OpenAI et Hugging Face collaborent pour comprendre comment cette situation a pu se produire. La firme dirigée par Sam Altman a mis en place des contrôles stricts sur la configuration de l’infrastructure en attendant que les vulnérabilités soient comblées. De plus, elle a renforcé les protections relatives aux formations et évaluations futures.

Pour Hugging Face, cet épisode démontre que la sécurité de l’IA ne sera pas assurée par une seule entreprise travaillant dans le secret, mais de manière ouverte et collaborative. La plateforme insiste sur la nécessité d’un large accès à l’IA pour tous les acteurs du secteur.

Ce que cet incident révèle sur la sécurité de l’IA

Cet événement soulève des questions concrètes sur la manière dont les modèles comme ChatGPT sont testés. En effet, les capacités cybernétiques de ces systèmes progressent rapidement, et les protocoles de sécurité doivent suivre le même rythme. OpenAI le reconnaît sans détour.

Ainsi, les modèles ont agi de manière autonome pour contourner leur environnement isolé, identifier une cible externe et tenter de s’y infiltrer. Ce comportement n’était pas planifié. Par conséquent, il révèle une forme d’initiative que les chercheurs n’avaient pas anticipée dans ce contexte.

OpenAI affirme que les modèles de cybersécurité IA avancés permettront de détecter les failles avant les attaquants. De son côté, ChatGPT et les systèmes qui lui succèdent devront être évalués dans des conditions de confinement encore plus strictes. La sécurité des modèles, conclut OpenAI, doit évoluer au même rythme que leurs capacités en constante progression.

En pratique, cet incident pose la question de la responsabilité lorsqu’un modèle d’IA cause un dommage involontaire à un tiers. OpenAI assume ici sa part de responsabilité et communique de façon transparente. Cette posture, associée à la collaboration avec Hugging Face, constitue un signal fort pour l’ensemble de l’industrie de l’IA en 2026.

Christophe Cohen

Passionné par le SEO et l'écriture, cela fait maintenant 15 ans que j'écris pour plusieurs sites internet d'information. J'adore le foot, l'OM, la mauresque, le soleil et je déteste la pluie, les crabes et les méduses.