Comcast와 Booz Allen이 Claude Mythos로 익스플로잇 체인을 찾아 코드베이스를 보호하는 방법

올해 초 Anthropic은 전 세계 핵심 인프라를 보호하는 이들이 코드베이스 보안을 선제적으로 강화할 수 있도록 지원하는 제한적 액세스 프로그램인 Project Glasswing을 출범했습니다. 이번 주에는 Cyber Verification Program(CVP)의 새로운 확장 버전을 출시했습니다. 이 프로그램은 자격 요건을 충족하는 보안 전문가에게 고급 사이버 보안 기능을 제공하며, 분류기에 의한 차단도 줄여 줍니다.

핵심 인프라를 보호하는 조직들은 Project Glasswing의 일환으로 자신들이 보호하는 시스템에 Claude Mythos 모델을 활용해 왔습니다. 이들 조직에서 공통적으로 드러난 점이 있습니다. 기존 사이버 보안 도구는 개별 취약점을 서로 분리된 상태로 식별할 수 있지만, 공격자가 개별적으로는 경미한 여러 약점을 연결하여 심각한 결과로 이어지는 경로를 만드는 익스플로잇 체인은 추적하기가 훨씬 어렵다는 것입니다. Claude Mythos와 같은 모델은 코드, 구성 설정, 실제 실행 중인 애플리케이션의 동작을 함께 연결해 파악하도록 도와, 조직이 단일 파일 내의 일반적인 버그부터 구성 요소의 상호작용에서만 드러나는 여러 시스템에 걸친 복잡한 취약점까지 찾아낼 수 있게 합니다.

프로그램에 참여한 Comcast와 Booz Allen의 보안 책임자들과 이야기를 나누며, Claude Mythos급 모델이 각사의 환경에서 무엇을 발견했으며 이러한 발견이 각 보안 팀의 공격 방어 방식을 어떻게 바꾸고 있는지 알아봤습니다.

Comcast: 보안 점검에서 발견된 사항과 실제 악용 가능한 취약점 구별하기

글로벌 미디어 및 기술 기업인 Comcast는 비즈니스에 핵심적인 시스템 258개와 약 1억 7,000만 줄의 코드를 대상으로 보안 평가를 진행하던 중, Claude Mythos Preview를 활용해 외부에 공개된 플랫폼에서 치명적인 인증 취약점을 발견했습니다. 공격자의 인증 통제 우회로 이어질 수 있는 이 취약점은 악용 정황이 관찰되기 전에 해결되었습니다.

Comcast 수석부사장(EVP) 겸 최고정보보안 및 제품 개인정보보호 책임자인 Noopur Davis는 "취약점을 찾는 일이 점점 더 빠르고 쉬워지고 있습니다. 보안 점검으로 찾아내는 문제도 엄청나게 많아졌습니다. 이렇게 쏟아지는 점검 결과를 검증하는 일이 새로운 병목이 되고 있습니다."라고 말했습니다.

이 취약점을 발견할 수 있었던 것은 Claude Mythos Preview가 개별 파일이나 구성 요소를 따로 평가하는 대신, 복잡한 소프트웨어 생태계 전반에 걸쳐 추론할 수 있었기 때문입니다. 이 취약점은 결함이 있는 구성 요소 하나 때문에 발생한 것이 아니었습니다. 각각 따로 검토했을 때는 여러 시스템과 전제에 문제가 없어 보였지만, 이들이 상호작용을 하면서 취약점이 발생했습니다. Claude Mythos Preview는 코드, 구성 설정, 애플리케이션 동작 전반에서 맥락을 유지함으로써 여러 구성 요소의 상호작용에서 발생한 보안 허점을 찾아냈습니다. 이러한 허점은 기존 접근법으로는 탐지하기 어려웠습니다.

Davis는 이렇게 설명했습니다. "프런티어 AI 모델 덕분에 대량의 보안 점검 결과를 훨씬 쉽게 얻을 수 있게 되었습니다. 하지만 점검 결과는 검증을 통해 실제로 문제가 있음이 확인되어야만 취약점으로 인정됩니다. 그리고 취약점은 대상 환경에서 실제로 악용할 수 있어야만 악용 가능한 취약점이 됩니다.”

Comcast 엔지니어들은 실행 중인 애플리케이션을 대상으로 발견된 문제를 검증하고, 해당 보안 문제가 있는 지점에 실제로 접근할 수 있음을 확인했습니다. 이후 팀은 근본 원인을 추적해 해결 조치를 적용하고, 수정 이전에 해당 취약점이 악용된 적이 없다는 사실도 확인했습니다. 이 사례는 더 광범위하게 나타난 양상의 대표적인 예였습니다. Claude Mythos급 모델이 식별한 문제 중 영향이 가장 큰 일부는 개별 코딩 오류에서 발생한 것이 아니라, 복잡한 소프트웨어 환경 전반에서 일어나는 미묘한 상호작용에서 비롯되었습니다.

Davis는 "조기 액세스 덕분에 프런티어 AI 모델의 보안 역량을 이해하는 시점을 약 1년 정도 앞당길 수 있었던 것 같습니다. Anthropic이 이 프로그램을 중심으로 조성한 커뮤니티에 진심으로 감사드립니다. 참여자들이 이 경험을 통해 배운 점을 공유할 수 있도록 해 주며, 그 결과 더 넓은 생태계에도 도움이 되기 때문입니다."라고 말했습니다.

Booz Allen: 익스플로잇 체인의 연결 고리 파악하기

Booz Allen은 국방, 민간, 국가 안보 및 상업 분야의 임무 수행을 위한 기술을 개발하고 배포합니다. 또한 사이버 보안 부문에서는 AI를 활용하는 공격자와 기존 사이버 방어 체계 간의 속도 격차를 해소하기 위해 노력하고 있습니다. 이러한 활동에는 AI를 활용하는 공격자에 대응해야 하는 고객을 위한 레드팀 훈련과 방어 체계 구축이 포함됩니다.

Booz Allen의 보안 평가는 정해진 기간 동안 진행되므로, 평가가 끝나기 전까지 엔지니어들이 살펴볼 수 있는 소스 코드, 구성, 컴파일된 소프트웨어의 양에는 한계가 있습니다. 검토 범위를 확대하는 것만으로는 이러한 한계를 해소할 수 없습니다. 실제 공격은 대개 코드, 구성, ID, 배포 설정 전반에 걸쳐 존재하는 작은 약점들을 연결하는 방식으로 이루어지며, 대규모 소프트웨어 포트폴리오 전반에서 이러한 연결 관계를 수작업으로 추적하는 것은 숙련된 보안 실무자에게도 시간이 오래 걸리기 때문입니다.

Booz Allen은 Claude Mythos Preview를 활용해 짧은 보안 평가 기간에 통상적으로 검토할 수 있는 양보다 훨씬 많은 소프트웨어를 검토하고, 서로 연결하면 익스플로잇 체인을 형성할 수 있는 약점들을 식별했습니다.

Booz Allen의 AI 엔지니어링 부문 부사장인 Sahil Sanghvi는 다음과 같이 말했습니다. "Mythos는 개별적인 코드 문제를 찾아내는 데 그치지 않고 경계를 넘나들며 추론하는 능력이 놀라웠습니다. 애플리케이션 동작, 구성, ID, 권한, 배포 맥락을 연결해 논리적으로 일관된 보안 가설을 세우는 데 도움이 되었습니다." 문제 발견에서 해결 조치로 이어지는 과정도 그의 팀이 예상한 것보다 빨랐습니다. 이 과정에서 모델은 영향을 받는 시스템의 담당 엔지니어들을 위한 수정안 초안 작성과 근거 자료 취합을 지원했습니다.

한 사례에서, Claude Mythos급 모델이 기기의 전원이 처음 켜지고 운영 체제가 로드되기 전에 실행되는 코드에서 결함을 발견했습니다. 이 코드는 기기에 저장된 보안 키를 바탕으로 기기 자체를 잠글지, 데이터를 삭제할지 판단합니다. 키는 보호되지 않은 상태로 남아 있었기 때문에, 원래 이 키로 제어되어야 할 운영 체제가 오히려 해당 키를 공격자가 제어하는 키로 바꿔치기한 다음, 기기가 신뢰하게 될 명령어를 기기에 전달할 수 있었습니다. 공격자는 잠금이나 데이터 삭제가 이루어지는 시점을 무기한 지연시킬 수 있었으며, 그 결과 분실, 도난 또는 침해된 기기가 스스로 작동을 중단해야 하는 상황에서도 기기에 대한 모든 접근이 가능한 상태를 유지할 수 있었습니다.

시스템이 키를 잠글 기회는 여러 차례 있었지만, 어느 기회도 활용되지 않았습니다. 키가 처음 저장되었을 때, 키 보호 설정은 꺼져 있었습니다. 키를 하드웨어에 기록한 코드는 해당 설정을 바로잡지 않은 채 그대로 전달했습니다. 이후 키를 잠글 수 있었던 별도의 보호 장치는 한 번도 활성화되지 않았습니다. Claude는 서로 다른 두 언어로 작성된 두 프로그램에서 해당 설정이 전달되는 과정을 추적하고, 이후에도 키가 전혀 잠기지 않았음을 확인하여 이 취약점을 발견했습니다.

Booz Allen의 국가 사이버 보안 부문 사장인 Brad Medairy는 "Mythos는 대규모의 취약점 후보군을 빠르게 생성할 수 있지만, 팀은 여전히 점검 결과를 검증하고, 시스템 전반에서 반복되는 동일한 패턴을 하나로 정리하며, 문제를 적절한 담당자에게 전달해야 합니다."라고 말했습니다. "분석가 한 명이 12일 동안 138개 리포지토리에 걸쳐 8개의 프로덕션 시스템을 검토했습니다. Mythos가 없었다면 이 정도 규모의 포트폴리오를 검토하는 데 더 큰 팀을 투입하고도 수개월이 걸렸을 것입니다."

이 사례는 Booz Allen에 보안 검토를 수행하는 또 다른 방식을 시사합니다. 전문적인 판단이 필요한 결정은 보안 실무자가 계속 맡고, 모델은 이들이 지속적으로 살펴볼 수 있는 소프트웨어 포트폴리오의 범위를 넓혀 주는 방식입니다.

Medairy는 이렇게 말했습니다. "저희의 연구에 따르면 프런티어 모델은 사이버 킬 체인의 전 과정을 자율적으로 수행할 수 있는 역량을 갖추고 있습니다. 조직은 이러한 속도에 발맞추기 위해 사이버 보안 검토와 방어 활동을 지속적으로 수행해야 합니다."

다음 단계

Claude Mythos 수준의 역량을 갖춘 모델이 일상적인 보안 업무에 활용되면서, 조직은 숙련된 공격자와 같은 방식으로 자체 시스템을 점검할 수 있습니다. 코드, 구성, 레거시 구성 요소 간의 상호작용을 추적하고, 다른 누군가가 침투 경로를 찾기 전에 이들 사이의 허점을 메울 수 있습니다. Anthropic은 사이버 방어를 담당하는 이들이 이러한 역량을 먼저 활용할 수 있도록 Project Glasswing을 시작했습니다. 앞으로도 새로운 Cyber Verification Program(CVP)을 통해 이용 대상을 지속적으로 확대하여, 핵심 소프트웨어를 운영하는 더 많은 조직이 이를 활용할 수 있도록 하겠습니다.

Cyber Verification Program(CVP)에 대해 더 알아보기