GPT-5.5 et la cybersécurité : ce que révèle l'évaluation officielle

Un modèle grand public au niveau des spécialistes de la cybersécurité

L'AI Security Institute (AISI) britannique vient de publier les résultats de son évaluation de GPT-5.5, le dernier grand modèle de langage d'OpenAI, et les conclusions sont aussi remarquables qu'elles sont préoccupantes. Selon cette évaluation officielle, GPT-5.5 démontre des capacités en matière de détection de vulnérabilités de sécurité comparables à celles de Claude Mythos, le modèle d'Anthropic que l'AISI avait précédemment soumis aux mêmes batteries de tests. Ce résultat en lui-même serait déjà notable, mais ce qui le rend véritablement significatif, c'est un détail crucial : contrairement à Claude Mythos, GPT-5.5 est disponible au grand public.

Pour comprendre l'ampleur de cette révélation, il faut rappeler le contexte dans lequel s'inscrit ce type d'évaluation. L'AISI a été créé dans le sillage du Sommet mondial sur la sécurité de l'IA tenu à Bletchley Park en novembre 2023. Sa mission est précisément d'évaluer les risques que font peser les modèles d'IA de pointe sur la sécurité nationale et publique, en testant notamment leurs capacités dans des domaines sensibles : armes biologiques, chimiques, et bien sûr cybersécurité. Les évaluations de l'AISI font donc référence dans le domaine, et leurs conclusions sont prises très au sérieux par les gouvernements, les entreprises et la communauté de la recherche en sécurité.

Jusqu'à présent, les modèles les plus performants en matière de détection de failles de sécurité étaient soit des outils spécialisés réservés à des professionnels accrédités, soit des modèles dont l'accès était restreint ou contrôlé. GPT-5.5 change radicalement la donne : n'importe quel utilisateur disposant d'un abonnement standard peut désormais interagir avec un système dont les capacités en cybersécurité rivalisent avec ce que l'on trouvait jusqu'ici uniquement dans des environnements très contrôlés. Cette démocratisation de la puissance analytique en matière de sécurité informatique soulève des questions fondamentales sur la manière dont nous concevons la régulation de l'IA et la protection des infrastructures numériques.

Simon Willison, développeur et observateur reconnu de l'écosystème IA, a été l'un des premiers à relayer et analyser ces résultats, soulignant précisément ce paradoxe de la disponibilité générale d'un outil aux capacités autrefois réservées aux experts. La source originale, disponible sur son blog, met en lumière cette tension entre accessibilité et risque, qui est au coeur du débat actuel sur la gouvernance de l'IA.

Ce que signifie concrètement "comparable à Claude Mythos"

Pour saisir la portée réelle de l'évaluation de l'AISI, il est nécessaire de comprendre ce que recouvre précisément la notion de "capacités cyber" dans ce contexte, et ce que signifie être jugé "comparable" à un modèle comme Claude Mythos. Les évaluations de l'AISI en matière de cybersécurité portent sur plusieurs dimensions techniques distinctes, qui ensemble dessinent un tableau complet des aptitudes offensives et défensives d'un modèle de langage.

Les tests incluent typiquement les capacités suivantes :

• Identification de vulnérabilités dans du code source : le modèle est capable d'analyser des extraits de code et d'identifier des failles connues ou inédites, qu'il s'agisse d'injections SQL, de débordements de tampon, de mauvaises configurations d'authentification ou de failles XSS.
• Génération d'exploits : au-delà de la simple identification, les modèles les plus avancés peuvent proposer des vecteurs d'attaque concrets, voire générer du code d'exploitation fonctionnel.
• Analyse de systèmes complexes : la capacité à raisonner sur des architectures logicielles entières, à identifier des chaînes de vulnérabilités et à proposer des stratégies d'attaque multi-étapes.
• Contournement de mécanismes de défense : évaluation de la capacité du modèle à suggérer des techniques d'évasion face aux outils de détection classiques.
• Assistance à la reconnaissance : aide à la collecte d'informations sur des cibles potentielles, à l'analyse de surfaces d'attaque.

Être jugé "comparable" à Claude Mythos sur ces dimensions signifie donc que GPT-5.5 atteint un niveau de performance qui, il y a encore deux ans, aurait été considéré comme relevant exclusivement de l'expertise humaine spécialisée ou d'outils de sécurité offensifs très sophistiqués. Les professionnels de la cybersécurité offensive - les fameux "red teamers" - passent des années à développer l'intuition et les connaissances nécessaires pour identifier et exploiter des vulnérabilités complexes. GPT-5.5 semble capable de reproduire une partie significative de ce raisonnement de manière automatisée et à grande échelle.

Il convient cependant de nuancer ce tableau. Les évaluations de l'AISI mesurent des capacités dans des conditions contrôlées, avec des scénarios prédéfinis. Les performances réelles dans des environnements de production, face à des systèmes de défense actifs et dans des contextes imprévisibles, peuvent différer. De plus, OpenAI a vraisemblablement mis en place des garde-fous spécifiques pour limiter les usages malveillants les plus évidents. Mais l'expérience des années précédentes avec d'autres modèles nous enseigne que ces garde-fous sont rarement imperméables, et que la communauté des chercheurs en sécurité - comme celle des acteurs malveillants - est particulièrement ingénieuse pour les contourner.

La vraie question n'est donc pas de savoir si GPT-5.5 est "dangereux" dans l'absolu, mais plutôt de mesurer le delta de capacité qu'il offre à des acteurs qui n'auraient pas eu accès à ces outils auparavant, et d'évaluer comment ce delta modifie l'équilibre entre attaquants et défenseurs dans le paysage de la cybersécurité mondiale.

Implications pour les entreprises et les équipes de sécurité

Pour les entreprises, les directions des systèmes d'information et les équipes de sécurité, les conclusions de l'évaluation de l'AISI ne sont pas une abstraction théorique : elles dessinent un nouveau paysage de menaces qui exige une adaptation rapide des stratégies de défense. La disponibilité grand public de GPT-5.5 signifie concrètement que la barrière à l'entrée pour mener des attaques informatiques sophistiquées vient de s'abaisser considérablement.

Historiquement, les attaques les plus élaborées - celles qui impliquent l'identification de vulnérabilités zero-day, la construction d'exploits sur mesure ou la conception de campagnes de phishing très ciblées - étaient l'apanage d'acteurs disposant de ressources importantes : États-nations, groupes criminels organisés, ou individus très qualifiés. Les PME, les collectivités locales, les établissements de santé ou les structures associatives n'étaient pas à l'abri, mais les attaques qu'elles subissaient étaient généralement moins sophistiquées, plus facilement détectables et défendables avec des mesures de sécurité standard.

Avec un modèle comme GPT-5.5 accessible à tous, ce paradigme change. Un acteur malveillant disposant de compétences techniques limitées peut désormais potentiellement :

1. Soumettre le code source d'une application cible (obtenu par diverses méthodes) et obtenir une analyse détaillée de ses failles.
2. Générer des scripts d'attaque personnalisés adaptés à des environnements spécifiques.
3. Concevoir des campagnes d'ingénierie sociale d'une sophistication et d'une personnalisation inédites.
4. Analyser des rapports de sécurité publics pour identifier des cibles vulnérables n'ayant pas encore appliqué les correctifs nécessaires.

Face à ces nouvelles menaces, les équipes de sécurité doivent elles-mêmes s'approprier ces outils. L'un des enseignements les plus importants de l'évaluation de l'AISI est que GPT-5.5 peut être un outil de défense aussi puissant qu'un outil d'attaque. Les équipes de sécurité peuvent l'utiliser pour automatiser les revues de code, accélérer les exercices de red teaming, identifier proactivement les vulnérabilités dans leurs propres systèmes avant que des acteurs malveillants ne le fassent, et former plus rapidement de nouveaux analystes en sécurité.

Les entreprises doivent également revoir leurs politiques d'utilisation de l'IA. Autoriser les employés à utiliser GPT-5.5 sans encadrement signifie potentiellement exposer du code propriétaire, des architectures système ou des configurations réseau à un modèle tiers. Des politiques claires sur ce qui peut et ne peut pas être partagé avec des outils d'IA externes deviennent une nécessité absolue, au même titre que les politiques de gestion des mots de passe ou de classification des données.

Enfin, les entreprises spécialisées dans la cybersécurité doivent anticiper une transformation profonde de leur marché. Les outils d'audit de sécurité automatisés vont se multiplier, les prix vont baisser, et la valeur ajoutée des experts humains se déplacera vers des compétences que l'IA ne peut pas encore reproduire : le jugement contextuel, la compréhension des enjeux métier, la gestion de crise et la communication avec les parties prenantes non techniques.

Régulation de l'IA : vers un cadre adapté aux capacités cyber des modèles grand public

L'évaluation de GPT-5.5 par l'AISI arrive à un moment charnière pour la régulation internationale de l'intelligence artificielle. Elle illustre de manière particulièrement frappante les limites des approches réglementaires actuelles et la nécessité d'adapter rapidement les cadres juridiques et institutionnels à une réalité technologique qui évolue plus vite que les législateurs ne peuvent légiférer.

Le premier défi réglementaire est celui de la définition du risque. Jusqu'à présent, les régulateurs ont eu tendance à distinguer les modèles d'IA "à usage général" des systèmes d'IA "à haut risque", en réservant les exigences les plus strictes à ces derniers. L'AI Act européen, par exemple, classe les systèmes d'IA selon leur domaine d'application et leur niveau de risque pour les droits fondamentaux. Mais GPT-5.5 brouille cette distinction : c'est un modèle à usage général qui, dans certaines conditions d'utilisation, présente des capacités à haut risque en matière de cybersécurité. Comment réguler un outil dont le risque dépend entièrement de l'intention et des compétences de celui qui l'utilise ?

Le deuxième défi est celui de la coordination internationale. La cybersécurité est par nature un domaine sans frontières : une vulnérabilité exploitée depuis un pays peut affecter des systèmes dans le monde entier. L'AISI britannique joue un rôle pionnier en évaluant ces modèles, mais ses conclusions n'ont pas de force contraignante au-delà du Royaume-Uni. OpenAI est une entreprise américaine, ses serveurs sont distribués mondialement, et ses utilisateurs sont partout. Une régulation efficace des capacités cyber des grands modèles de langage nécessiterait une coordination internationale d'une ampleur comparable à celle qui existe pour les armes conventionnelles ou les matières nucléaires - un objectif ambitieux dans le contexte géopolitique actuel.

Plusieurs pistes réglementaires méritent d'être explorées :

• L'obligation d'évaluation préalable : imposer aux développeurs de modèles de soumettre leurs systèmes à des évaluations de sécurité indépendantes avant tout déploiement grand public, sur le modèle de ce que fait l'AISI.
• Les garde-fous techniques obligatoires : définir des standards minimaux en matière de filtrage des requêtes à caractère offensif, avec des audits réguliers pour vérifier leur efficacité.
• La traçabilité des usages : exiger des opérateurs de modèles qu'ils conservent des journaux d'utilisation permettant d'identifier a posteriori des usages malveillants, dans le respect des règles de protection des données personnelles.
• La responsabilité des développeurs : clarifier dans quelle mesure les entreprises développant des modèles d'IA peuvent être tenues responsables des dommages causés par des usages malveillants de leurs systèmes.

L'évaluation de GPT-5.5 par l'AISI est, en ce sens, bien plus qu'un simple rapport technique. C'est un signal d'alarme adressé aux décideurs politiques du monde entier : la fenêtre d'opportunité pour mettre en place des cadres de régulation adaptés se rétrécit à mesure que les capacités des modèles grand public s'approchent de celles des outils spécialisés les plus puissants. Agir maintenant, de manière coordonnée et informée par la science, est une nécessité impérieuse pour préserver l'équilibre entre innovation et sécurité collective.

"The UK's AI Security Institute previously evaluated Claude Mythos: now they've evaluated GPT-5.5 for finding security vulnerability and found it to be comparable to Mythos, but unlike Mythos it's generally available."

Cette citation résume à elle seule le coeur du problème : ce n'est pas tant la puissance du modèle qui est nouvelle, c'est sa disponibilité universelle. Et c'est précisément ce que les régulateurs doivent apprendre à appréhender avec la même urgence que les professionnels de la sécurité informatique.