Cómo Comcast y Booz Allen usan Claude Mythos para encontrar cadenas de exploits y proteger sus bases de código

A principios de este año, Anthropic lanzó el Proyecto Glasswing, un programa de acceso restringido para dar una ventaja inicial a los defensores de la infraestructura crítica del mundo a la hora de proteger sus bases de código. Esta semana hemos presentado una versión nueva y ampliada de nuestro Programa de verificación cibernética (CVP), que pone capacidades cibernéticas avanzadas y los clasificadores de bloqueo menos restrictivos a disposición de los profesionales de la seguridad cualificados.

Como parte del Proyecto Glasswing, las organizaciones que defienden infraestructuras críticas han aplicado los modelos de Claude Mythos a los sistemas que defienden. En todas ellas surgió el mismo tema: mientras que las herramientas de ciberseguridad existentes pueden identificar vulnerabilidades individuales de forma aislada, las cadenas de exploits, en las que un atacante encadena varias debilidades menores para lograr un impacto grave, son mucho más difíciles de rastrear. Modelos como Claude Mythos ayudan a relacionar código, configuración y comportamiento de aplicaciones en tiempo real, para que las organizaciones puedan detectar tanto fallos convencionales en un solo archivo como vulnerabilidades sofisticadas entre sistemas que solo se manifiestan cuando los componentes interactúan.

Hemos hablado con responsables de seguridad de Comcast y Booz Allen que participaron en el programa sobre lo que los modelos de la clase Claude Mythos encontraron en sus entornos y cómo esto está cambiando la forma en que sus equipos se defienden de los ataques.

Comcast: separar los hallazgos de las vulnerabilidades explotables

Comcast, empresa global de medios de comunicación y tecnología, utilizó Claude Mythos Preview para identificar una vulnerabilidad crítica de autenticación en una plataforma de acceso público durante una evaluación que abarcó 258 sistemas críticos para el negocio y aproximadamente 170 millones de líneas de código. El problema podría haber permitido a un atacante eludir los controles de autenticación y se corrigió antes de que se observara alguna evidencia de explotación.

“El descubrimiento es cada vez más rápido”, dijo Noopur Davis, vicepresidenta ejecutiva y directora de seguridad de la información y privacidad de productos de Comcast. “El descubrimiento es cada vez más sencillo. El volumen de hallazgos es enorme. El nuevo cuello de botella es validar este volumen de hallazgos”.

Este hallazgo surgió de la capacidad de Claude Mythos Preview de razonar en un ecosistema de software complejo en lugar de evaluar archivos o componentes individuales de forma aislada. La vulnerabilidad no se debía a un único componente defectuoso. Por el contrario, estaba causada por la interacción de múltiples sistemas e hipótesis que parecían correctos cuando se revisaron de forma independiente. Al mantener el contexto del código, la configuración y el comportamiento de la aplicación, Claude Mythos Preview identificó una brecha de seguridad que surgió de varios componentes que interactuaban, lo que dificultaba su detección mediante enfoques convencionales.

“Los modelos de IA de vanguardia están haciendo que generar hallazgos a escala sea mucho más fácil”, dijo Davis. “Pero un hallazgo se convierte en vulnerabilidad solo cuando la validación confirma el problema de fondo, y una vulnerabilidad solo se convierte en explotable cuando se puede explotar realmente en dicho entorno”.

Los ingenieros de Comcast validaron el hallazgo con la aplicación en ejecución y confirmaron que el problema de seguridad subyacente podía explotarse en la práctica. A continuación, el equipo rastreó la raíz de la causa, implementó medidas correctivas y verificó que la vulnerabilidad no se había explotado antes de corregirla. El caso refleja un patrón más amplio: algunos de los problemas más graves identificados por los modelos de clase Claude Mythos no surgieron de errores de programación individuales, sino de combinaciones sutiles en entornos de software complejos.

“El acceso temprano probablemente nos hizo ganar cerca de un año en comprensión de las capacidades de seguridad de los modelos de IA de vanguardia”, dijo Davis. “Agradecemos mucho la comunidad que Anthropic ha creado en torno a este programa: permite a los participantes compartir lo que han aprendido, lo que beneficia a todo el ecosistema”.

Booz Allen: reconstruir cadenas de ataque

Booz Allen desarrolla e implementa tecnología para misiones de defensa, civiles, de seguridad nacional y comerciales, y su división de ciberseguridad trabaja para cerrar la brecha entre la velocidad entre los adversarios que usan IA y las defensas cibernéticas tradicionales. Esto incluye realizar ejercicios de equipo rojo y crear defensas para clientes que se enfrentan a adversarios que utilizan IA.

Las evaluaciones de seguridad de Booz Allen tienen fecha límite, y los ingenieros no pueden revisar todo el código fuente, las configuraciones y el software compilado antes de terminar. Y, aunque revisaran más cosas, no sería suficiente: los ataques reales suelen aprovechar varios fallos pequeños en el código, la configuración, la identidad y los ajustes de implementación, y encontrar manualmente esas conexiones en una gran cartera de software es lento, incluso los expertos.

Booz Allen utilizó Claude Mythos Preview para revisar mucho más software del que normalmente permitiría un proyecto de corta duración, y para identificar puntos débiles que podían encadenarse hasta formar rutas de ataque.

“Mythos nos sorprendió por su capacidad de razonar a través de distintos ámbitos, no solo se limitó a identificar problemas de código aislados”, dijo Sahil Sanghvi, vicepresidente de ingeniería de IA de Booz Allen. “Ayudó a relacionar el comportamiento de la aplicación, la configuración, la identidad, los permisos y el contexto de implementación para formar hipótesis de seguridad coherentes”. Además, pasó del descubrimiento a la solución más rápido de lo que su equipo esperaba, y el modelo ayudó a redactar correcciones y recopilar evidencias para los ingenieros que eran responsables de los sistemas afectados.

En un caso, un modelo de la clase Claude Mythos detectó una vulnerabilidad en el código que se ejecuta cuando se enciende un dispositivo, antes de que se cargue el sistema operativo. Ese código decide si el dispositivo debe bloquearse por sí solo o borrar sus datos, y toma esa decisión utilizando una clave de seguridad almacenada en el equipo. La clave se había dejado sin proteger, por lo que el sistema operativo que debía estar limitado por ella podía sustituirla por una clave controlada por un atacante y, a continuación, proporcionar a la máquina instrucciones que el equipo consideraría legítimas. Un atacante podría aplazar indefinidamente el paso de bloqueo o borrado, manteniendo totalmente accesible un dispositivo perdido, robado o comprometido cuando debería haberse apagado por sí solo.

El sistema tuvo varias oportunidades de bloquear la clave y las desaprovechó todas. Cuando se guardó la clave por primera vez, se desactivó la configuración que la habría protegido. El código que la escribió en el hardware transmitió esa configuración sin corregirla. Nunca se activó una salvaguardia independiente que pudiera haber bloqueado la clave posteriormente. Claude descubrió la vulnerabilidad rastreando esa única configuración a través de dos programas diferentes escritos en dos lenguajes distintos y comprobando más tarde que nada había bloqueado la clave.

“Mythos puede generar rápidamente un gran conjunto de posibles fallos, pero los equipos aún tienen que validar los hallazgos, quitar duplicados de patrones que se repiten y derivar cada problema al responsable adecuado”, dijo Brad Medairy, presidente de Ciberseguridad Nacional de Booz Allen. “Un analista revisó ocho sistemas de producción repartidos en 138 repositorios en 12 días. Sin Mythos, una revisión de una cartera de esa escala nos habría llevado varios meses con un equipo más grande”.

Para Booz Allen, esto sugiere una forma diferente de llevar a cabo las auditorías de seguridad, en la que las personas siguen tomando las decisiones que requieren criterio, y el modelo amplía la parte de la cartera que pueden mantener bajo vigilancia.

“Nuestra investigación muestra que los modelos de vanguardia tienen la capacidad de ejecutar de forma autónoma toda la cadena de ataque cibernético”, dijo Medairy. “Las organizaciones tienen que hacer revisiones y defensas de ciberseguridad continuas para no quedarse atrás”.

Próximos pasos

A medida que los modelos con las capacidades de Claude Mythos pasan a formar parte del trabajo diario de seguridad, las organizaciones pueden examinar sus propios sistemas de la misma forma que lo haría un atacante experto, rastrear cómo interactúan el código, la configuración y los componentes heredados y solucionar las vulnerabilidades que existen entre ellos antes de que otra persona encuentre una forma de entrar. Creamos el Proyecto Glasswing para ofrecer esa capacidad primero a los defensores, y seguiremos ampliando el acceso a través de nuestro nuevo Programa de verificación cibernética (CVP) para que más organizaciones que gestionan software crítico puedan aprovecharlo.

Más información sobre el Programa de verificación cibernética (CVP).