Anthropic a officiellement dévoilé Mythos Preview, un nouveau modèle d’IA puissant doté de capacités avancées de cybersécurité, parallèlement à une initiative massive à l’échelle de l’industrie appelée Project Glasswing. Fait rare, la startup d’IA s’associe à ses principaux concurrents, notamment Google, Microsoft et Apple, pour garantir que la prochaine génération d’outils d’IA sert de bouclier pour l’infrastructure numérique plutôt que d’arme pour les pirates.
L’essor des cybercapacités « accidentelles »
Le développement de Mythos Preview met en évidence une tendance significative en matière d’intelligence artificielle : les capacités émergentes. Le PDG d’Anthropic, Dario Amodei, a noté que le modèle n’était pas spécifiquement conçu pour le piratage ; il a plutôt été formé pour être exceptionnellement compétent en codage.
En tant que sous-produit direct de ses prouesses en matière de codage, le modèle a acquis la capacité d’effectuer des tâches de cybersécurité complexes, telles que :
– Découverte de vulnérabilités : Identification des faiblesses des logiciels.
– Développement d’exploits : Création de « preuves de concept » pour démontrer comment un système peut être piraté.
– Tests d’intrusion : Simulation d’attaques pour tester les défenses.
– Analyse binaire : Évaluer un logiciel sans avoir besoin d’accéder à son code source d’origine.
Cela crée un jeu du « chat et de la souris » aux enjeux élevés. Bien que ces outils puissent aider les défenseurs à trouver et à corriger les bugs plus rapidement, ils offrent également aux acteurs malveillants la possibilité d’automatiser des attaques sophistiquées qui étaient auparavant trop difficiles ou coûteuses à exécuter.
Projet Glasswing : Une défense collaborative
Conscient du risque, Anthropic a formé le Project Glasswing, un consortium conçu pour préparer l’écosystème technologique mondial à un monde d’IA hautement performante. Le groupe comprend plus de 40 organisations, allant des géants de la technologie comme Nvidia et Amazon Web Services aux infrastructures critiques et aux institutions financières.
La stratégie derrière cette collaboration est double :
1. Atténuation des vulnérabilités : En accordant aux développeurs de plates-formes fondamentales (comme Microsoft et Google) un accès privé à Mythos Preview, ils peuvent utiliser le modèle pour rechercher des vulnérabilités dans leurs propres systèmes et les corriger avant que le modèle ne soit rendu public.
2. Standardisation de la défense : Le groupe vise à redéfinir les paradigmes de sécurité. Comme l’explique Logan Graham, responsable de l’équipe Frontier Red d’Anthropic, les hypothèses de sécurité actuelles pourraient s’effondrer dans les 6 à 24 prochains mois, à mesure que ces capacités deviendront largement disponibles.
“Nous avons vu Mythos Preview accomplir des choses qu’un chercheur chevronné en sécurité serait capable d’accomplir”, déclare Graham. “Si cela n’est pas fait avec précaution, cela pourrait constituer un accélérateur significatif pour les attaquants.”
Trouver les bugs “introuvables”
Les avantages potentiels de cette collaboration se concrétisent déjà. Anthropic rapporte que Mythos Preview a déjà découvert des milliers de vulnérabilités critiques, y compris certains bugs qui n’étaient pas détectés dans un code hautement scruté depuis des décennies.
Pour des entreprises comme Microsoft, l’objectif est d’utiliser l’IA pour faire évoluer la défense. Igor Tsyganskiy, RSSI mondial de Microsoft, a souligné qu’à mesure que la cybersécurité dépasse les capacités purement humaines, l’IA offre une opportunité « sans précédent » de réduire les risques à l’échelle mondiale.
Le chemin à parcourir
Le projet Glasswing en est actuellement à ses débuts. Pour que l’initiative réussisse, elle doit dépasser un petit cercle d’entreprises technologiques et évoluer vers une norme mondiale plus large sur la manière dont la sécurité basée sur l’IA est gérée. Le défi central demeure : identifier les questions cruciales liées à la sécurité de l’IA et trouver des réponses avant que la technologie ne dépasse notre capacité à nous en défendre.
Conclusion
En réunissant des concurrents dans le cadre du projet Glasswing, Anthropic tente de transformer une crise de sécurité potentielle en un effort de défense coordonné. L’objectif est de garantir qu’à mesure que l’IA devient plus capable de casser des logiciels, elle devienne également capable de les protéger.
