Wie Comcast und Booz Allen mit Claude Mythos Exploit-Ketten finden und ihre Codebasen sichern
Die Sicherheitsteams von Comcast und Booz Allen nutzten Modelle der Claude Mythos-Klasse im Rahmen von Project Glasswing, um Schwachstellen zu finden, zu validieren und zu beheben, die die vorhandenen Scanner der beiden Unternehmen übersehen hatten.
Anfang dieses Jahres hat Anthropic Project Glasswing gestartet – ein Programm mit beschränktem Zugang, das den Verteidigern kritischer Infrastrukturen weltweit einen Vorsprung bei der Sicherung ihrer Codebasen verschaffen soll. Diese Woche haben wir eine neue, erweiterte Version unseres Cyber-Verifizierungsprogramms (CVP) eingeführt, die qualifizierten Sicherheitsexperten fortschrittliche Cyber-Fähigkeiten und weniger restriktive Klassifikatoren zur Verfügung stellt.
Im Rahmen von Project Glasswing haben Organisationen, die kritische Infrastrukturen verteidigen, Modelle von Claude Mythos bei den Systemen eingesetzt, die sie verteidigen. In all diesen Organisationen zeigte sich ein gemeinsames Thema: Während vorhandene Cybersicherheitstools einzelne Schwachstellen isoliert identifizieren können, sind Exploit-Ketten, bei denen ein Angreifer mehrere für sich genommen geringfügige Schwachstellen zu einem Pfad mit schwerwiegenden Folgen verknüpft, viel schwieriger nachzuverfolgen. Modelle wie Claude Mythos helfen dabei, Code, Konfiguration und das Verhalten von Live-Anwendungen zusammenzuführen, sodass Organisationen sowohl gewöhnliche Einzeldateifehler als auch die ausgefeilten, systemübergreifenden Schwachstellen erkennen können, die nur dann auftreten, wenn Komponenten interagieren.
Wir haben mit Sicherheitsverantwortlichen von Comcast und Booz Allen, die am Programm teilgenommen haben, darüber gesprochen, was Modelle der Claude Mythos-Klasse in ihren Umgebungen gefunden haben und wie dies die Art und Weise verändert, wie sich ihre Teams gegen Angriffe verteidigen.
Comcast: Ergebnisse von ausnutzbaren Schwachstellen trennen
Comcast, ein globales Medien- und Technologieunternehmen, hat mit Claude Mythos Preview im Rahmen einer Bewertung, die 258 geschäftskritische Systeme und etwa 170 Millionen Codezeilen umfasste, eine kritische Authentifizierungsschwachstelle auf einer öffentlich zugänglichen Plattform identifiziert. Das Problem hätte es einem Angreifer ermöglichen können, Authentifizierungskontrollen zu umgehen, und wurde behoben, bevor irgendwelche Anzeichen für eine Ausnutzung beobachtet wurden.
„Die Entdeckung wird immer schneller“, sagte Noopur Davis, EVP, Chief Information Security and Product Privacy Officer bei Comcast. „Die Entdeckung wird immer einfacher. Die Menge der Ergebnisse ist enorm. Die Validierung dieser Ergebnismengen ist der neue Engpass.“
Das Ergebnis ist auf die Fähigkeit von Claude Mythos Preview zurückzuführen, ein komplexes Software-Ökosystem übergreifend zu analysieren, anstatt einzelne Dateien oder Komponenten isoliert zu bewerten. Die Schwachstelle wurde nicht durch eine einzige fehlerhafte Komponente verursacht. Stattdessen ist sie aus der Interaktion mehrerer Systeme und Annahmen entstanden, die bei unabhängiger Überprüfung korrekt erschienen. Durch die Beibehaltung des Kontexts über Code, Konfiguration und Anwendungsverhalten hinweg hat Claude Mythos Preview eine Sicherheitslücke identifiziert, die sich aus dem Zusammenspiel mehrerer interagierender Komponenten ergab und daher mit herkömmlichen Ansätzen nur schwer zu erkennen war.
„Frontier-KI-Modelle machen es viel einfacher, Befunde in großem Maßstab zu generieren“, sagt Davis. „Ein Befund wird jedoch erst dann zu einer Schwachstelle, wenn die Validierung das zugrunde liegende Problem bestätigt hat, und eine Schwachstelle wird erst dann ausnutzbar, wenn sie tatsächlich in der Zielumgebung ausgenutzt werden kann.“
Die Ingenieure von Comcast haben den Befund anhand der laufenden Anwendung validiert und bestätigt, dass das zugrunde liegende Sicherheitsproblem in der Praxis erreichbar war. Das Team hat dann die Grundursache ermittelt, Korrekturmaßnahmen umgesetzt und sichergestellt, dass die Schwachstelle vor der Behebung nicht ausgenutzt worden war. Der Befund war bezeichnend für ein breiteres beobachtetes Muster: Einige der von Modellen der Claude-Mythos-Klasse identifizierten Probleme mit den größten Auswirkungen sind nicht auf einzelne Programmierfehler zurückzuführen, sondern auf subtile Wechselwirkungen in komplexen Softwareumgebungen.
„Der frühe Zugriff hat unser Verständnis der Sicherheitsfähigkeiten von Frontier-KI-Modellen wahrscheinlich um etwa ein Jahr beschleunigt“, sagt Davis. „Wir schätzen die Community, die Anthropic um dieses Programm herum aufgebaut hat, wirklich sehr – sie ermöglicht es den Teilnehmern, ihre Erkenntnisse auszutauschen und so dem gesamten Ökosystem zu helfen.“
Booz Allen: Exploit-Ketten zusammenfügen
Booz Allen entwickelt Technologie für Verteidigung, zivile Behörden, nationale Sicherheit und kommerzielle Aufgaben und setzt sie ein; der Cybersicherheitsbereich des Unternehmens arbeitet daran, die Geschwindigkeitslücke zwischen KI-gestützten Angreifern und herkömmlicher Cyberabwehr zu schließen. Dazu gehören die Durchführung von Red-Team-Übungen und der Aufbau von Abwehrmaßnahmen für Kunden, die sich mit KI-gestützten Gegnern konfrontiert sehen.
Die Sicherheitsbewertungen von Booz Allen laufen über einen festgelegten Zeitraum, und Ingenieure können bis zu deren Ende nur eine begrenzte Menge an Quellcode, Konfigurationen und kompilierter Software lesen. Eine breitere Abdeckung allein würde diese Lücke nicht schließen, da echte Angriffe in der Regel kleine Schwachstellen in Code, Konfiguration, Identität und Bereitstellungseinstellungen miteinander verknüpfen und die manuelle Verfolgung dieser Verbindungen in einem großen Softwareportfolio selbst für einen erfahrenen Spezialisten zeitaufwendig ist.
Booz Allen hat mit Claude Mythos Preview weitaus mehr Software überprüft, als es ein kurzes Auftragszeitfenster normalerweise zulassen würde, und Schwachstellen identifiziert, die zu Exploit-Ketten verknüpft werden könnten.
„Mythos überraschte durch die Fähigkeit, über Grenzen hinweg zu schlussfolgern, anstatt nur isolierte Codeprobleme zu identifizieren“, sagte Sahil Sanghvi, Vice President of AI Engineering bei Booz Allen. „Es half dabei, Anwendungsverhalten, Konfiguration, Identität, Berechtigungen und Bereitstellungskontext zu kohärenten Sicherheitshypothesen zu verbinden.“ Auch der Übergang von der Entdeckung zur Behebung verlief schneller, als sein Team erwartet hatte: Das Modell half dabei, Korrekturen zu entwerfen und Nachweise für die Ingenieure zusammenzustellen, die für die betroffenen Systeme verantwortlich waren.
In einem Fall fand ein Modell der Claude-Mythos-Klasse einen Fehler im Code, der beim ersten Einschalten eines Geräts ausgeführt wird – bevor das Betriebssystem geladen wird. Dieser Code entscheidet, ob das Gerät sich selbst sperren oder seine Daten löschen soll, und trifft diese Entscheidung anhand eines auf dem Gerät gespeicherten Sicherheitsschlüssels. Der Schlüssel war ungeschützt, sodass das Betriebssystem, das durch diesen Code eingeschränkt werden sollte, ihn durch einen von einem Angreifer kontrollierten Schlüssel ersetzen und dem Gerät anschließend Anweisungen übermitteln konnte, denen es vertrauen würde. Ein Angreifer könnte den Sperr- oder Löschvorgang auf unbestimmte Zeit hinauszögern und so ein verlorenes, gestohlenes oder kompromittiertes Gerät vollständig zugänglich halten, obwohl es sich eigentlich hätte abschalten sollen.
Das System hatte mehrere Gelegenheiten, den Schlüssel zu sperren, und jede einzelne wurde verpasst. Als der Schlüssel zum ersten Mal gespeichert wurde, war die Einstellung, die ihn geschützt hätte, deaktiviert. Der Code, der ihn auf die Hardware schrieb, gab diese Einstellung weiter, ohne sie zu korrigieren. Eine separate Schutzmaßnahme, die den Schlüssel im Nachhinein hätte sperren können, wurde nie aktiviert. Claude fand die Schwachstelle, indem es diese eine Einstellung durch zwei verschiedene, in zwei verschiedenen Sprachen geschriebene Programme verfolgte und anschließend bestätigte, dass nichts den Schlüssel jemals gesperrt hatte.
„Mythos kann schnell einen großen Kandidatensatz erstellen, aber die Teams müssen dennoch die Ergebnisse validieren, systemische Muster deduplizieren und Probleme an die richtigen Stellen weiterleiten“, sagte Brad Medairy, President of National Cybersecurity bei Booz Allen. „Ein Analyst hat in zwölf Tagen acht Produktionssysteme in 138 Repositories geprüft. Ohne Mythos hätte uns eine Portfolioprüfung in diesem Umfang mit einem größeren Team mehrere Monate in Anspruch genommen.“
Für Booz Allen deutet das auf eine andere Art der Sicherheitsprüfung hin – eine, bei der die Fachleute weiterhin die Ermessensentscheidungen treffen, während das Modell erweitert, wie viel des Portfolios sie im Blick behalten können.
„Unsere Untersuchungen zeigen, dass Frontier-Modelle die gesamte Cyber Kill Chain autonom ausführen können“, sagt Medairy. „Um Schritt halten zu können, müssen Organisationen kontinuierliche Überprüfungen der Cybersicherheit und Abwehrmaßnahmen durchführen.“
Was als Nächstes kommt
Da Modelle mit den Fähigkeiten von Claude Mythos Teil der täglichen Sicherheitsarbeit werden, können Organisationen ihre eigenen Systeme so untersuchen, wie es ein erfahrener Angreifer tun würde, die Interaktion von Code, Konfiguration und Legacy-Komponenten nachverfolgen und die Lücken zwischen ihnen schließen, bevor jemand anderes einen Weg hindurch findet. Wir haben Project Glasswing entwickelt, um Verteidigern diese Fähigkeit zuerst zur Verfügung zu stellen, und wir werden den Zugang über unser neues Cyber Verification Program (CVP) weiter ausbauen, damit immer mehr Organisationen, die kritische Software betreiben, sie einsetzen können.