Mythos and reality
제목: 신화와 현실
로스앤젤레스
기업과 해커 간의 전쟁이 위험천만한 새로운 국면으로 접어들다
인공지능(AI) 시대의 사이버 보안은 여러 면에서 현대전과 닮았다. 이는 비대칭적이다. 최신 기술로 무장한 소규모 공격자 집단이 가장 강력한 방어망을 뚫을 수 있기 때문이다. 게다가 무기는 갈수록 자율화되고 있다. 대형 사이버 보안 기업인 팔로알토 네트웍스(PAN)의 니케시 아로라 최고경영자(CEO)의 말처럼 "AI는 AI와 싸워야" 하는 상황이다. 그리고 선한 세력이 항상 승리하는 것은 아니다.
최근 앤스로픽과 오픈AI는 각각 ‘미토스 프리뷰(Mythos Preview)’와 ‘5.5-사이버(5.5-Cyber)’라는 AI 모델을 공개했다. 사이버 방어의 취약점을 파고드는 능력이 워낙 뛰어나 AI 연구소들은 신뢰할 수 있는 기업들에만 이 모델을 제한적으로 제공했다. 하지만 이것이 안전을 보장해주지는 않는다. 새로운 모델은 끊임없이 등장하고 있고, 해커들은 이미 이전 버전의 모델들을 활용하고 있기 때문이다. 더구나 아로라 CEO의 지적대로, 이는 공정한 싸움이 아니다. AI를 이용하면 예전에는 팀 단위가 필요했던 공격을 단독범이 수행할 수 있으며, 공격자는 단 한 번만 성공해도 되지만 방어자는 매번 완벽하게 방어해야 하기 때문이다.
이러한 이유로 사이버 보안 기업과 일반 기업들은 몰려오는 AI 기반 사이버 범죄에 대응하기 위해 분주히 움직이고 있다. 업계 내에서 PAN과 크라우드스트라이크 같은 선도적 기업들은 최신 모델을 더 안전하게 배포하기 위해 동맹을 결성했다. 크라우드스트라이크의 애덤 마이어스는 미토스나 5.5-사이버 같은 모델이 등장했을 때 고객들의 즉각적인 반응은 “공황과 혼란” 그 자체였다고 말한다. 그러나 이러한 모델의 등장은 경각심을 일깨우는 계기가 되기도 했다. 사이버 대응 태세에 대한 평가는 이제 IT 부서의 업무를 넘어 최고경영진과 이사회의 핵심 의제로 이동하고 있다. 현시점에서 그들의 전망은 낙관보다는 비관에 가깝다.
가장 나쁜 소식은 AI 연구소들이 가장 위험한 결과물에 대한 접근을 아무리 엄격히 제한하더라도 범죄자들은 결국 따라잡게 될 것이라는 점이다. 앤스로픽이 미토스를 공개한 직후 오픈AI는 자체적인 5.5 시리즈를 내놓았고, 영국 정부의 AI 보안 연구소에 따르면 이는 이전보다 더 강력할 가능성이 있다. 많은 이들은 오픈소스 진영이나 중국 기업 등 다른 모델 개발사들 또한 미토스와 5.5-사이버를 이토록 효율적으로 만드는 장기 추론 능력 및 여타 기능들을 빠르게 개발할 것이라 예상한다. 이미 엎질러진 물이다.
새로운 모델들이 출시되기 전부터 이미 구형 모델들은 해커들이 더 빠르고 빈번하게 침입할 수 있도록 돕고 있었다. 크라우드스트라이크는 2025년 AI 기반 공격이 전년 대비 89% 증가했다고 밝혔다. PAN의 조사에 따르면, AI로 무장한 상위 25%의 공격자들은 작년 기준으로 침입한 소프트웨어 시스템에서 데이터를 탈취하는 데 1시간 조금 넘는 시간밖에 걸리지 않았다. 이는 2024년의 5시간 가까이 소요되던 것에서 크게 단축된 수치다. 일반적인 기업이 침입을 감지하는 데 며칠이 걸린다는 점을 고려하면 매우 위협적인 속도다.
여러 작업을 스스로 처리할 수 있는 자율형 AI 에이전트의 부상은 위험을 한층 더 가중시킨다. 아로라 CEO는 해커들이 에이전트 도구를 사용해 훨씬 더 위협적인 공격을 가할 수 있다고 경고한다. 또한 기업들이 코딩, 고객 서비스 등에 에이전트를 도입할수록 해커들이 공격할 수 있는 영역은 더욱 넓어진다. 이에 대비하여 PAN은 지난달 말 AI 에이전트를 관리하고 보호하는 기업인 포트키(Portkey)를 인수하겠다고 발표했다. IT 컨설팅 업체 가트너의 제러미 드오인은 “기업들은 그 어느 때보다 많은 소프트웨어를 만들고 있고, 그만큼 스스로를 더 큰 위험에 노출시키고 있다”고 말한다.
이미 기업들은 AI 도구가 드러내 주는 버그들을 수정하느라 과부하 상태다. 보안 결함은 ‘공통 취약점 및 노출(CVE)’로 분류되며, 소프트웨어 제조사나 전문 기관에 알려진다. 최근 보고되는 CVE의 수는 급증하는 추세다. 크라우드스트라이크의 마이어스는 더 강력한 AI 모델들이 버그를 더 많이 찾아내면서 연간 CVE 수치가 곧 48만 건으로 10배 증가할 수도 있다는 추측이 나온다고 전한다. 또 다른 컨설팅 업체인 포레스터의 에릭 노스트는 “AI가 패치가 작성되는 속도보다 더 빠르게 취약점을 찾아낼 것이라는 전제가 깔려 있다”고 말한다.
긍정적인 소식은 AI가 공격자들에게 무기를 제공하고 있지만, 방어자들에게도 도움을 주고 있다는 점이다. 인터넷 인프라의 핵심으로 간주되는 하이퍼스케일러와 사이버 보안 기업들은 앤스로픽과 오픈AI의 미토스 및 5.5-사이버 모델을 제한적으로 제공받아 자사 시스템을 테스트하고 있다. 이 두 AI 연구소는 더 낮은 등급의 모델도 제공하는데, 여기에는 미토스나 5.5-사이버보다 제약은 조금 더 많지만 일반 공개 모델보다는 뛰어난 사이버 성능을 갖춘 모델들이 포함된다. 이 혜택을 받는 이들은 팬데믹 당시 우선적으로 백신을 접종받던 필수 인력들과 비슷하다.
웹 브라우저 파이어폭스의 개발사인 모질라는 최근 낙관적인 사례를 제시했다. 미토스의 초기 버전을 활용해 파이어폭스의 새로운 버전에서 271개의 취약점을 발견한 것이다. 모질라는 이 모델이 인간이 찾을 수 있는 모든 버그를 식별할 수 있는 수준이며, 이는 불과 몇 달 전까지만 해도 불가능했던 일이라고 설명했다. 이는 공격자들에 맞서 대등한 경쟁의 장을 마련하는 데 도움을 주었다. 모질라는 블로그를 통해 “방어자들이 마침내 결정적으로 승리할 기회를 얻었다”고 밝혔다.
하지만 방어자들을 돕는 것은 최첨단 모델의 향상된 기능뿐만이 아니다. 사이버 보안 기업들은 모든 모델을 더 효과적으로 만들기 위해 ‘하네스(harness)’라고 불리는 자체 도구도 개발하고 있다. 5월 12일, 미토스와 5.5-사이버를 모두 사용하는 IT 거대 기업 시스코는 기업들이 모든 모델을 활용해 방어력을 높일 수 있도록 돕는 ‘사이버 보안 하네스 제작 가이드’를 오픈소스로 공개하겠다고 밝혔다.
업계가 힘을 합친다면 AI라는 도전에 맞설 수 있을 것이라는 희망이 널리 퍼져 있다. 앤스로픽과 오픈AI는 협력적인 접근 방식을 주도하며 폭넓은 찬사를 받았다. 하지만 아로라 CEO는 그들의 의도에 대해서는 A+ 점수를 줄 수 있겠지만, 실행력 측면에서는 연구소와 사이버 보안 업계 모두 B+ 이상을 주기 어렵다고 평가한다. 이는 AI 위협이 워낙 새로운 것이라 모두가 시행착오를 겪으며 배우고 있기 때문이다. “마법의 탄환은 없다. 만병통치약도 없다. 무엇이 정답인지 아직 우리는 모른다.” 의심할 여지 없이 해커들에게는 더없이 반가운 소식일 것이다.
로스앤젤레스
기업과 해커 간의 전쟁이 위험천만한 새로운 국면으로 접어들다
인공지능(AI) 시대의 사이버 보안은 여러 면에서 현대전과 닮았다. 이는 비대칭적이다. 최신 기술로 무장한 소규모 공격자 집단이 가장 강력한 방어망을 뚫을 수 있기 때문이다. 게다가 무기는 갈수록 자율화되고 있다. 대형 사이버 보안 기업인 팔로알토 네트웍스(PAN)의 니케시 아로라 최고경영자(CEO)의 말처럼 "AI는 AI와 싸워야" 하는 상황이다. 그리고 선한 세력이 항상 승리하는 것은 아니다.
최근 앤스로픽과 오픈AI는 각각 ‘미토스 프리뷰(Mythos Preview)’와 ‘5.5-사이버(5.5-Cyber)’라는 AI 모델을 공개했다. 사이버 방어의 취약점을 파고드는 능력이 워낙 뛰어나 AI 연구소들은 신뢰할 수 있는 기업들에만 이 모델을 제한적으로 제공했다. 하지만 이것이 안전을 보장해주지는 않는다. 새로운 모델은 끊임없이 등장하고 있고, 해커들은 이미 이전 버전의 모델들을 활용하고 있기 때문이다. 더구나 아로라 CEO의 지적대로, 이는 공정한 싸움이 아니다. AI를 이용하면 예전에는 팀 단위가 필요했던 공격을 단독범이 수행할 수 있으며, 공격자는 단 한 번만 성공해도 되지만 방어자는 매번 완벽하게 방어해야 하기 때문이다.
이러한 이유로 사이버 보안 기업과 일반 기업들은 몰려오는 AI 기반 사이버 범죄에 대응하기 위해 분주히 움직이고 있다. 업계 내에서 PAN과 크라우드스트라이크 같은 선도적 기업들은 최신 모델을 더 안전하게 배포하기 위해 동맹을 결성했다. 크라우드스트라이크의 애덤 마이어스는 미토스나 5.5-사이버 같은 모델이 등장했을 때 고객들의 즉각적인 반응은 “공황과 혼란” 그 자체였다고 말한다. 그러나 이러한 모델의 등장은 경각심을 일깨우는 계기가 되기도 했다. 사이버 대응 태세에 대한 평가는 이제 IT 부서의 업무를 넘어 최고경영진과 이사회의 핵심 의제로 이동하고 있다. 현시점에서 그들의 전망은 낙관보다는 비관에 가깝다.
가장 나쁜 소식은 AI 연구소들이 가장 위험한 결과물에 대한 접근을 아무리 엄격히 제한하더라도 범죄자들은 결국 따라잡게 될 것이라는 점이다. 앤스로픽이 미토스를 공개한 직후 오픈AI는 자체적인 5.5 시리즈를 내놓았고, 영국 정부의 AI 보안 연구소에 따르면 이는 이전보다 더 강력할 가능성이 있다. 많은 이들은 오픈소스 진영이나 중국 기업 등 다른 모델 개발사들 또한 미토스와 5.5-사이버를 이토록 효율적으로 만드는 장기 추론 능력 및 여타 기능들을 빠르게 개발할 것이라 예상한다. 이미 엎질러진 물이다.
새로운 모델들이 출시되기 전부터 이미 구형 모델들은 해커들이 더 빠르고 빈번하게 침입할 수 있도록 돕고 있었다. 크라우드스트라이크는 2025년 AI 기반 공격이 전년 대비 89% 증가했다고 밝혔다. PAN의 조사에 따르면, AI로 무장한 상위 25%의 공격자들은 작년 기준으로 침입한 소프트웨어 시스템에서 데이터를 탈취하는 데 1시간 조금 넘는 시간밖에 걸리지 않았다. 이는 2024년의 5시간 가까이 소요되던 것에서 크게 단축된 수치다. 일반적인 기업이 침입을 감지하는 데 며칠이 걸린다는 점을 고려하면 매우 위협적인 속도다.
여러 작업을 스스로 처리할 수 있는 자율형 AI 에이전트의 부상은 위험을 한층 더 가중시킨다. 아로라 CEO는 해커들이 에이전트 도구를 사용해 훨씬 더 위협적인 공격을 가할 수 있다고 경고한다. 또한 기업들이 코딩, 고객 서비스 등에 에이전트를 도입할수록 해커들이 공격할 수 있는 영역은 더욱 넓어진다. 이에 대비하여 PAN은 지난달 말 AI 에이전트를 관리하고 보호하는 기업인 포트키(Portkey)를 인수하겠다고 발표했다. IT 컨설팅 업체 가트너의 제러미 드오인은 “기업들은 그 어느 때보다 많은 소프트웨어를 만들고 있고, 그만큼 스스로를 더 큰 위험에 노출시키고 있다”고 말한다.
이미 기업들은 AI 도구가 드러내 주는 버그들을 수정하느라 과부하 상태다. 보안 결함은 ‘공통 취약점 및 노출(CVE)’로 분류되며, 소프트웨어 제조사나 전문 기관에 알려진다. 최근 보고되는 CVE의 수는 급증하는 추세다. 크라우드스트라이크의 마이어스는 더 강력한 AI 모델들이 버그를 더 많이 찾아내면서 연간 CVE 수치가 곧 48만 건으로 10배 증가할 수도 있다는 추측이 나온다고 전한다. 또 다른 컨설팅 업체인 포레스터의 에릭 노스트는 “AI가 패치가 작성되는 속도보다 더 빠르게 취약점을 찾아낼 것이라는 전제가 깔려 있다”고 말한다.
긍정적인 소식은 AI가 공격자들에게 무기를 제공하고 있지만, 방어자들에게도 도움을 주고 있다는 점이다. 인터넷 인프라의 핵심으로 간주되는 하이퍼스케일러와 사이버 보안 기업들은 앤스로픽과 오픈AI의 미토스 및 5.5-사이버 모델을 제한적으로 제공받아 자사 시스템을 테스트하고 있다. 이 두 AI 연구소는 더 낮은 등급의 모델도 제공하는데, 여기에는 미토스나 5.5-사이버보다 제약은 조금 더 많지만 일반 공개 모델보다는 뛰어난 사이버 성능을 갖춘 모델들이 포함된다. 이 혜택을 받는 이들은 팬데믹 당시 우선적으로 백신을 접종받던 필수 인력들과 비슷하다.
웹 브라우저 파이어폭스의 개발사인 모질라는 최근 낙관적인 사례를 제시했다. 미토스의 초기 버전을 활용해 파이어폭스의 새로운 버전에서 271개의 취약점을 발견한 것이다. 모질라는 이 모델이 인간이 찾을 수 있는 모든 버그를 식별할 수 있는 수준이며, 이는 불과 몇 달 전까지만 해도 불가능했던 일이라고 설명했다. 이는 공격자들에 맞서 대등한 경쟁의 장을 마련하는 데 도움을 주었다. 모질라는 블로그를 통해 “방어자들이 마침내 결정적으로 승리할 기회를 얻었다”고 밝혔다.
하지만 방어자들을 돕는 것은 최첨단 모델의 향상된 기능뿐만이 아니다. 사이버 보안 기업들은 모든 모델을 더 효과적으로 만들기 위해 ‘하네스(harness)’라고 불리는 자체 도구도 개발하고 있다. 5월 12일, 미토스와 5.5-사이버를 모두 사용하는 IT 거대 기업 시스코는 기업들이 모든 모델을 활용해 방어력을 높일 수 있도록 돕는 ‘사이버 보안 하네스 제작 가이드’를 오픈소스로 공개하겠다고 밝혔다.
업계가 힘을 합친다면 AI라는 도전에 맞설 수 있을 것이라는 희망이 널리 퍼져 있다. 앤스로픽과 오픈AI는 협력적인 접근 방식을 주도하며 폭넓은 찬사를 받았다. 하지만 아로라 CEO는 그들의 의도에 대해서는 A+ 점수를 줄 수 있겠지만, 실행력 측면에서는 연구소와 사이버 보안 업계 모두 B+ 이상을 주기 어렵다고 평가한다. 이는 AI 위협이 워낙 새로운 것이라 모두가 시행착오를 겪으며 배우고 있기 때문이다. “마법의 탄환은 없다. 만병통치약도 없다. 무엇이 정답인지 아직 우리는 모른다.” 의심할 여지 없이 해커들에게는 더없이 반가운 소식일 것이다.