Pour le PDG d’OpenAI, le hack est un « véritable rappel des enjeux de la situation »

En juillet, des IA d’OpenAI, hors de tout contrôle, ont piraté Hugging Face via une escapade Internet inattendue relançant le débat sur la régulation et la sécurité des modèles d’IA. On aurait dit des lycéens essayant de pirater le site d’un éditeur de manuels scolaires pour tricher à leur examen final. Sauf que ces pirates n’étaient pas des humains. Après un rebondissement digne d’un roman de science-fiction, les attaquants se sont avérés être des modèles d’intelligence artificielle qui s’étaient échappés d’un environnement de test chez OpenAI !

Plusieurs jours après la fuite de deux modèles d’IA d’OpenAI et le piratage de Hugging Face, Sam Altman s’est pour la première fois exprimé sur l’incident. Le PDG d’OpenAI qualifie l’incident de « véritable rappel des enjeux » et estime que quiconque n’en est pas terrifié « ne prend pas cela suffisamment au sérieux ». L’entrepreneur plaide contre un monopole de l’IA… alors même qu’OpenAI reste à l’écart de l’alliance open source née du scandale découlant de l’incident.

Comment a-t-on pu en arriver là? En cours de test, les deux modèles ont trouvé une faille dans leur environnement sécurisé et se sont retrouvés sur Internet. En ligne, le duo n’a pas tardé à pirater l’infrastructure de la plateforme open source Hugging Face. Cette première cyberattaque orchestrée par l’IA a énormément suscité de réactions contrastées.

Sam Altman, PDG et cofondateur d’OpenAI, est revenu sur l’importance de l’incident au cours d’un podcast. Interrogé par Garry Tan, le PDG de Y Combinator, l’entrepreneur a estimé que toute personne qui n’était pas terrifiée par la cyberattaque contre Hugging Face « ne prend pas cela suffisamment au sérieux ». Comme toujours, Altman n’hésite pas à se montrer préoccupé par les avancées de l’intelligence artificielle.

Il démontre à tout le monde qu’on ne plaisante plus…

Pour le PDG d’OpenAI, le hack est un « véritable rappel des enjeux de la situation », qui montre bien que « les accidents dus à une perte de contrôle ne sont pas des choses purement théoriques ». Le risque est réel, et le piratage de Hugging Face montre à tout le monde qu’il faut le prendre au sérieux. Souvent pointé du doigt par les détracteurs de l’IA, Sam Altman souligne aussi que l’incident montre aussi à quel point les modèles d’IA sont devenus « incroyablement performants ». En l’occurrence, ils sont tellement performants qu’ils ont pu échapper à la vigilance d’OpenAI, ce qui est évidemment préoccupant.

La question du monopole et des IA open source

Enfin, Sam Altman a estimé que le piratage rappelle aussi qu’il serait « terrible » si « une entreprise, une personne ou un modèle avait plus de pouvoir que tout le reste sur Terre réuni ». Pour l’entrepreneur, il faut à tout prix éviter qu’une entité ne s’empare du monopole de l’intelligence artificielle. Une situation monopolistique serait susceptible d’accroître les risques engendrés par les technologies IA. Personne ne devrait dépendre d’une seule IA, estime Altman. Il ajoute que l’incident chez Hugging Face montre qu’une IA plus accessible, et plus largement diffusée, renforcerait aussi les défenses contre les cyberattaques.

Cette prise de position survient alors qu’OpenAI a refusé de rejoindre l’Open Secure AI Alliance, une alliance d’acteurs de la technologie soucieux de développer et partager des outils open source afin de repérer et corriger les failles de sécurité dans les systèmes d’intelligence artificielle. Initiée par Nvidia, l’alliance est composée de Microsoft, SpaceXAI et plus de trente organisations, parmi lesquelles IBM, Dell, Palantir et la Linux Foundation. L’initiative découle directement du scandale provoqué par le hack de Hugging Face. OpenAI est l’un des grands absents de cette alliance, aux côtés de Google et Anthropic. En dépit des propos d’Altman sur l’importance d’éviter le monopole de l’IA, OpenAI semble prêt à rester fidèle à son approche propriétaire.

HT 

Hugging Face….pas la seule cible ?

Plus d’une semaine après la révélation d’une cyberattaque menée par deux modèles d’OpenAI contre Hugging Face, de nouveaux éléments viennent préciser l’ampleur de l’incident. Les deux modèles évoluaient initialement dans un environnement de test destiné à évaluer leurs capacités en cybersécurité. Après avoir exploité une vulnérabilité leur permettant d’accéder à Internet, ils ont ciblé Hugging Face et réussi à pénétrer certains de ses systèmes.Mais selon une mise à jour publiée par OpenAI le 28 juillet 2026, Hugging Face n’aurait pas été la seule cible. L’un des agents aurait également accédé à au moins quatre comptes associés à des services accessibles publiquement. Pour y parvenir, l’IA aurait notamment utilisé des identifiants compromis déjà exposés sur Internet.

Parmi les comptes concernés figure celui d’un client de Modal Labs, une entreprise spécialisée dans les infrastructures cloud utilisées pour développer et déployer des services d’intelligence artificielle. Selon le récit fourni, l’agent aurait exploité une vulnérabilité présente dans le code d’un client utilisant l’infrastructure de Modal. Cette faille permettait l’exécution de code depuis Internet dans certains environnements du client.

Un élément rend cette cible particulièrement intéressante : le compte concerné aurait été lié à CyberGym, le projet à l’origine d’ExploitGym, le benchmark que les modèles d’OpenAI étaient justement en train de résoudre. L’incident aurait commencé lorsqu’OpenAI a demandé aux modèles de résoudre ExploitGym, une évaluation conçue pour tester leur capacité à identifier et exploiter des vulnérabilités informatiques.

Plutôt que de se limiter au cadre prévu par le test, les agents auraient cherché à accéder à des ressources externes susceptibles de les aider à trouver les solutions. Cette logique expliquerait notamment leur intérêt pour Hugging Face et pour des comptes associés à l’écosystème du benchmark. Autrement dit, leur comportement peut être interprété comme une tentative de contourner les règles de l’évaluation afin d’obtenir les informations nécessaires pour réussir le test.

Cette affaire illustre surtout les nouveaux défis posés par des modèles capables d’enchaîner de manière autonome plusieurs actions informatiques pour atteindre un objectif. L’incident montre qu’un agent disposant de capacités avancées en cybersécurité peut chercher des solutions inattendues lorsque les contraintes imposées entravent l’objectif qui lui a été confié.

Legendes

1. Les attaquants se sont avérés être des modèles d’intelligence artificielle qui s’étaient échappés d’un environnement de test chez OpenAI

2. Sam Altman, PDG et cofondateur d’OpenAI