Une défense à la hauteur des menaces actuelles

Les modèles d’IA de pointe surpassent désormais presque tous les humains, à l’exception des experts les plus chevronnés, dans la détection et l’exploitation des vulnérabilités logicielles. D'ici quelques mois, nous nous attendons à ce que ces capacités se généralisent à l’ensemble des modèles d'IA et deviennent largement accessibles, y compris aux acteurs malveillants.

Les acteurs de la cybersécurité, qu’ils travaillent dans l’industrie, la recherche, le monde du logiciel libre ou les administrations publiques, doivent agir dès aujourd’hui pour détecter et corriger les vulnérabilités existantes. Ils doivent également se doter d’un avantage défensif durable afin de réduire, à terme, le nombre de vulnérabilités au plus près de zéro.

01

État de la cybersécurité

Éclairage sur les capacités actuelles des modèles d’IA, notamment Claude Mythos.

02

Produits et technologie

Des modèles et des outils spécialement optimisés pour la cybersécurité, d’ores et déjà déployables.

03

Engagements

Soutien aux projets open source, protection des systèmes critiques et plaidoyer en faveur de politiques publiques adaptées.

04

Ressources

Ressources sur la cybersécurité : travaux de recherche, guides et retours d’expérience de terrain.

État des lieux de la cybersécurité

 

Les modèles d’IA sont capables de créer des codes d’exploitation fonctionnels, de contourner les dispositifs de sécurité ou d’aider les équipes de défense à déployer des correctifs à grande échelle. Tout dépend de l’usage qui en est fait.

From finding flaws to full system control — interactive demoDémo interactive — ouvrez cette page sur un écran plus grand pour l'essayer

De la détection des failles à la prise de contrôle total des systèmes

Il y a un an, les modèles d’IA les plus performants étaient capables de repérer les failles de sécurité, mais pas de les exploiter de manière fiable. Aujourd'hui, entre de mauvaises mains, ils en sont capables, et pas seulement dans des logiciels simples. Mythos Preview est le premier modèle capable de contourner systématiquementes mécanismes d’isolation (sandboxing) sur lesquels reposent les navigateurs et les systèmes d’exploitation modernes. Les autres modèles d’IA de pointe buttent encore sur ces protections. Les dispositifs de défense conçus sur la base des capacités de l’IA de l’an dernier sont donc déjà dépassés.

Lecture du graphique

Les performances des modèles diminuent à mesure que la difficulté des tâches augmente. Le niveau T5 correspond à l’étape où « le modèle atteint le code vulnérable ». Seul Mythos Preview a franchi le niveau T1 : « le modèle prend le contrôle total du système ».

Mesures de protection

Notre approche des capacités de pointe à double usage

Les modèles Claude Opus et ceux de la catégorie Mythos disposent de capacités en cybersécurité nettement supérieures à celles des générations précédentes, notamment pour ce qui est du raisonnement lié à l’exploitation des vulnérabilités. Alors que les capacités de toutes les catégories de modèles continuent de progresser, nous mettons nos modèles d’IA de pointe à disposition avec des mesures de protection adaptées, afin de donner l’avantage aux équipes de défense tout en limitant les risques d’utilisation malveillante.

  • Sécuriser les logiciels critiques

    Dans le cadre de l’initiative Anthropic Cyber Mission, nous collaborons avec les organisations responsables de la maintenance des infrastructures critiques et des logiciels courants, afin de renforcer en priorité la sécurité des systèmes dont dépend le monde entier.

  • Programme de vérification

    Les professionnels de la cybersécurité dont les activités légitimeselèvent de domaines présentant des risques de double usage peuvent demander à bénéficier de mesures de protection adaptées dans le cadre du programme Cyber Verification.

  • Une défense renforcée par Mythos

    Dès aujourd’hui, les équipes de sécurité peuvent exploiter les capacités de raisonnement avancées des modèles d’IA de pointe pour renforcer leurs défenses, grâce à Claude Security ainsi qu’aux produits et services proposés par des partenaires de confiance.

Projet Glasswing

Notre approche des risques de double usage des modèles Claude Mythos

Claude Mythos Preview et, désormais, Claude Mythos 5 sont des modèles dotés de capacités en cybersécurité nettement supérieures à celles des modèles précédents, notamment en matière de raisonnement lié à l’exploitation des vulnérabilités. Ces capacités présentant les risques d’utilisation malveillante les plus élevés dans le domaine de la cybersécurité, nous limitons dans un premier temps l’accès à ces modèles à un nombre restreint de partenaires, dans le cadre du projet Glasswing. Claude Fable 5 est notre modèle de la catégorie Mythos conçu pour un usage général en toute sécurité grâce à l’ajout de mesures de protection. Lire les dernières (opens in new tab)

Sécuriser les logiciels critiques

Les partenaires du projet Glasswing assurent la maintenance d’infrastructures critiques ou de logiciels essentiels au fonctionnement de nos sociétés, dont la compromission pourrait avoir des conséquences catastrophiques.

Élargir l'accès grâce à un accès de confiance

Nous travaillons à élargir progressivement l’accès à Claude Mythos 5 dans le cadre d’un programme d’accès réservé aux utilisateurs de confiance. Nous vous en dirons bientôt plus.

Fournir des outils aux équipes de défense d’aujourd'hui

Claude Security (opens in new tab), les outils de référence open source et les pratiques issues du Project Glasswing sont à la disposition de toutes les équipes de sécurité.

Des ressources à la disposition des équipes de défense

Plus de 50

12 membres fondateurs et plus de 40 organisations nous ont rejoints pour assurer la pérennité des infrastructures open source

100 millions de dollars

En crédits d'utilisation offerts par Anthropic aux partenaires de Glasswing qui assurent la défense des infrastructures critiques

4 millions de dollars

En dons directs à OpenSSF, à Alpha-Omega et à l'Apache Software Foundation

Organisations assurant la défense de leurs logiciels critiques avec Claude Mythos

Dans les entreprises comme au sein d’Anthropic, les équipes utilisent Claude pour renforcer leur maîtrise des risques de sécurité.

Recherchez et corrigez les vulnérabilités avec Claude Security

Claude Security raisonne sur votre code comme un chercheur en sécurité : il recherche les vulnérabilités, valide les résultats et propose des correctifs ciblés.

Contextualisez les menaces

Donnez à vos outils d’analyse et de réponse aux incidents les informations nécessaires pour agir efficacement. Claude élabore un modèle de menaces à partir de votre base de code et des vulnérabilités précédemment détectées, puis enrichit les indicateurs bruts avec des informations sur les liens entre les infrastructures, l’attribution des attaques et leur correspondance avec le référentiel MITRE ATT&CK. Les analystes disposent ainsi d’une vision contextualisée des menaces dès le départ.

Détection des vulnérabilités

Claude analyse le code source à la manière d’un expert en cybersécurité, en évaluant notamment si les portions de code vulnérables sont accessibles et si les failles peuvent être exploitées. Il détecte ainsi des vulnérabilités qui échappent souvent aux outils d’analyse statique. Chaque vulnérabilité détectée est ensuite réexaminée au cours d’une étape de vérification distincte afin de réduire le nombre de faux positifs.

Correction des vulnérabilités

Les vulnérabilités sont désormais détectées plus rapidement que les équipes ne peuvent les corriger. Claude remonte à la cause profonde de chacune d’elles, repère les autres endroits du code présentant la même faille et génère un correctif minimal, accompagné d’un test de non-régression, que votre équipe peut ensuite examiner.

Trier et vérifier les vulnérabilités détectées

Soumettez à Claude les résultats bruts de n’importe quel outil d’analyse pour obtenir des informations exploitables. Claude examine le code environnant pour vérifier si les vulnérabilités peuvent réellement être exploitées, regroupe celles qui ont la même cause profonde et les classe par ordre de priorité selon les conditions nécessaires à leur exploitation et leur impact potentiel. Les équipes de développement peuvent ainsi se concentrer en priorité sur les vulnérabilités avérées.

Vérification de la sécurité à chaque étape du développement

Vérifiez la sécurité du code tout au long du cycle de développement. Claude contrôle les modifications qu’il apporte au code au fur et à mesure et corrige les problèmes détectés dans la même session. Des agents spécialisés réexaminent ensuite les pull requests en tenant compte de votre base de code et signalent directement dans le code les vulnérabilités confirmées, sans bloquer les étapes de validation de votre revue.

Sécurisez votre code source de bout en bout

Face à l’accélération des capacités offensives, il est essentiel de réduire le délai entre la détection et la correction des vulnérabilités. Claude enchaîne modélisation des menaces, détection des vulnérabilités, vérification, qualification et correction dans un processus continu appliqué à votre base de code. Il conserve le contexte à chaque étape, afin que chaque vulnérabilité soit accompagnée de l’ensemble des informations recueillies jusqu’à sa correction.

Capacités de pointe

Tirez parti de modèles puissants pour la défense

Claude analyse le code en profondeur, évalue les risques réels et prend en charge les processus de longue durée indispensables à une défense continue. Les professionnels de la cybersécurité dont les compétences ont été vérifiées peuvent demander à bénéficier de mesures de protection adaptées pour leurs activités à double usage.

Les capacités des modèles d’IA de pointe progressent si vite qu’une équipe seule ne peut y faire face. Dans le cadre de l’initiative Anthropic Cyber Mission, nous collaborons avec les équipes chargées de la maintenance, les fournisseurs, les exploitants et les spécialistes de la cybersécurité du secteur public qui protègent les systèmes dont nous dépendons tous.

Renforcer la sécurité des logiciels open source

Internet repose sur des logiciels essentiels dont la maintenance est assurée par des équipes disposant de ressources limitées. - Nous utilisons Claude pour analyser les projets les plus importants, finançons les organisations qui aident les équipes de maintenance à corriger les vulnérabilités détectées et appliquons une procédure de divulgation responsable lorsque Claude découvre des failles de sécurité.

Protéger les infrastructures critiques

Les réseaux électriques, les systèmes d'approvisionnement en eau et les usines reposent sur des technologies qui ne peuvent souvent pas être mises à l’arrêt pour installer des correctifs de sécurité. Dans le cadre de notre programme de protection des infrastructures critiques, nous mettons les modèles Claude les plus avancés à la disposition des cabinets de conseil, des entreprises de cybersécurité et des fabricants d’équipements auxquels les exploitants font déjà confiance. Cette initiative s’accompagne de nos travaux de recherche menés avec le Pacific Northwest National Laboratory (PNNL) sur la protection des systèmes cyberphysiques.

Promouvoir des politiques publiques qui soutiennent les équipes de défense

Notre cadre réglementaire pour l’IA avancée (Advanced AI Framework) propose d’imposer des obligations contraignantes aux laboratoires développant des modèles d’IA de pointe, y compris Anthropic, et de donner aux pouvoirs publics le pouvoir de bloquer les déploiements dangereux. Il préconise également d’investir dans le renforcement de la sécurité des logiciels open source et dans les mesures de protection nécessaires pour permettre à davantage d’équipes de défense d’accéder en toute sécurité aux capacités avancées de l’IA.

Tout ce dont vous avez besoin pour renforcer votre posture de sécurité, des travaux de recherche aux guides de mise en œuvre.

Claude pour la cybersécurité | Claude by Anthropic