The AI that transformed warfare
제목: 전쟁을 바꾼 인공지능
전쟁의 기술
프로젝트 메이븐(Project Maven). 카트리나 맨슨 지음. W.W. 노턴; 416쪽; 31.99달러 및 23파운드
메이븐 스마트 시스템(Maven Smart System)은 아마도 당신이 들어본 적 없는 가장 중요한 무기 체계일 것이다. 이 시스템은 이스라엘로 향하는 이란의 미사일과 예멘의 로켓 발사대를 포착했다. 또한 미국 남부 국경을 넘는 이주민과 카리브해의 마약 운반선을 탐지했다. 2022년 어느 날에는 우크라이나를 위해 260개가 넘는 잠재적 표적을 찾아내기도 했다.
메이븐은 단순히 사물을 감지하는 데 그치지 않고 대응 과정을 조율할 수도 있다. 사진, 텍스트, 라디오, 전자기 펄스 등 다양한 종류의 정보를 융합하여 어떤 비행기가 어떤 무기를 싣고 어느 표적에 가장 가까이 있는지 계산해낸다. 인간이 버튼을 한 번만 클릭하면 메이븐은 데이터를 재(ash)로 바꿀 수 있다. 한 나토(NATO) 관계자가 카트리나 맨슨에게 말했듯, "이것은 전쟁의 마이크로소프트 윈도우와 같습니다." 머지않아 이 시스템은 사무직 노동자들에게 마이크로소프트가 그러하듯 군대에서도 필수적인 존재가 될지도 모른다.
블룸버그의 국가 안보 전문 기자인 맨슨은 '프로젝트 메이븐'을 통해 최근 수년간 전쟁과 기술을 다룬 가장 중요한 저서 중 하나를 집필했다. 이 책은 저돌적인 해병대원 드류 쿠커가 어떻게 비주류 전문가들로 팀을 꾸려 인공지능을 미군 전쟁 기계의 핵심으로 만들었는지, 그리고 그 과정에서 팀 내부와 펜타곤(미 국방부) 전체와 얼마나 치열하게 갈등했는지를 흥미진진하게 그려낸다.
이 이야기는 실리콘밸리와 전쟁, 그리고 펜타곤 사이의 변화하는 관계에 관한 것이기도 하다. 구글은 살상용 도구 개발에 자사가 협력한다는 직원들의 반발이 거세지자 2018년 메이븐 프로젝트에서 철수했다. 이후 팔란티어(Palantir)가 메이븐 개발에 있어 가장 중요한 기업이 되었다.
처음에는 산더미 같은 드론 영상에서 객체를 찾아내기 위해 AI를 활용하려는 프로젝트로 시작되었는데, 이는 과거에 엄청난 인력을 소모하던 작업이었다. 2017년 소말리아의 대테러 작전 중 시험한 초기 알고리즘은 불안정했다. 알고리즘은 구름을 비행하는 스쿨버스로 잘못 인식하곤 했다. 이듬해 아프가니스탄에서는 소프트웨어가 나무를 사람으로, 바위를 건물로 오인하기도 했다. 하지만 시스템은 계속 개선되었다.
한번은 미군이 드론 타격을 감행하기 직전, 분석가가 시야 안으로 걸어 들어오는 양치기를 발견했다. 그 분석가가 남자를 알아채는 데 40초가 걸렸지만, 같은 영상 피드에 메이븐을 테스트했을 때는 AI가 그를 감지하는 데 1초도 걸리지 않았다.
2019년 메이븐은 시리아에서 이슬람 국가(IS) 수장 아부 바크르 알바그다디를 사살하는 작전과 2020년 드론 공습으로 이란 장군 카셈 솔레이마니를 제거하는 작전에 사용되었다. 그 이듬해 조 바이든 대통령이 카불에서 미군을 철수시켰을 때도 메이븐은 혼란스러운 상황 속에서 비행장에 얼마나 많은 사람이 몰려 있는지를 파악하는 데 활용되었다.
하지만 메이븐에게 전환점이 된 사건은 러시아의 우크라이나 침공이었다. 이 타격 도구는 미국이 완곡하게 "관심 지점"이라 부르는 정보를 산업적 규모로 우크라이나에 제공했으며, 매달 100만 달러의 클라우드 컴퓨팅 비용이 지출되었다. 맨슨은 "때때로 미국이 무기 자체에 직접 좌표를 입력하는 것처럼 느껴질 정도였다"고 기술했다.
이 책은 AI가 상황에 매우 민감하다는 점을 명확히 보여준다. 아프가니스탄에서 70%의 성공률을 보였던 모델은 필리핀에서는 30%로 떨어졌는데, 필리핀 사람들은 황량한 지면이 아닌 울창한 정글 앞을 걸어 다녔기 때문이다. 마찬가지로 알고리즘은 우크라이나의 눈이나 포탑이 날아간 러시아 전차를 식별하는 데 애를 먹었다. 양질의 데이터는 필수적이었다. 알고리즘 하나를 훈련하려면 각각 정확하게 라벨링 된 1만 장의 이미지가 필요할 수 있다. 2021~22년에는 1,500개가 넘는 알고리즘 중 우크라이나에서 사용될 24개만이 살아남았다.
메이븐이 처음 시작되었을 때 펜타곤 관계자들은 이를 타격이라는 복잡하고 논란 많은 작업과는 거리가 먼 정보 분석 도구라고 설명했다. 맨슨의 책은 이러한 통념을 깨뜨린다. 애초부터 메이븐은 표적을 찾고, 무엇을 할지 결정하며, 공격을 수행하는 미국의 '킬 체인(kill chain)'을 가속화하기 위해 설계되었다. 국립지리정보국(NGA)의 한 관계자는 맨슨에게 대규모 언어 모델이 타격 프로세스를 5배 빠르게 만들었으며, 이를 통해 미국이 하루 5,000개의 표적을 식별하고 타격할 수 있게 되었다고 말했다. 우크라이나에서 메이븐 활용을 선구적으로 이끌었고 현재 유럽 주둔 미 육군 사령관을 맡고 있는 크리스 도나휴 장군은 "결국 이 모든 것은 자동화될 것"이라고 말한다.
이는 전쟁에 대한 인간의 통제권에 관한 심오한 질문을 던진다. 미국과 중국, 혹은 러시아 사이의 갈등에서 각 진영은 상대방이 표적을 찾아 무기를 발사하기 전에 신속하고 결정적으로 타격해야 한다는 엄청난 압박에 직면할 것이다. 인간이 그 과정을 감독한다고 해도, 특히 무언가 잘못되었을 때 인간이 속도를 따라잡을 수 있을까? 메이븐이 우크라이나에 배치된 후에도, 시스템은 분석한 1제곱킬로미터당 10건의 잘못된 탐지 결과를 내놓고 있었다.
이제 메이븐이 개발한 알고리즘은 원격 서버에서 작동하는 것을 넘어 무기 내부에도 탑재되고 있다. 이 책은 태평양 전쟁 시 중국군을 압도하고 지연시키기 위해 고안된 잘 알려지지 않은 두 가지 무기를 소개한다. '골키퍼(Goalkeeper)'는 배회형 탄약, 즉 자폭 드론이며, '윕래시(Whiplash)'는 폭발물을 실은 제트스키로, 초기 모델은 CIA에 의해 테스트를 위해 우크라이나로 밀반입되기도 했다. 이 무기들은 각각 스스로 표적을 찾아 공격하도록 보내질 수 있다.
이로 인해 철저한 데이터의 중요성은 그 어느 때보다 커졌다. 메이븐 개발팀이 잠수함 추적 알고리즘을 만들려 했을 때, 그들은 P-8 잠수함 추적기가 임무를 마칠 때마다 하드 드라이브를 포맷한다는 사실을 발견했다. 미 해군의 일부 반발에도 불구하고, 그러한 데이터는 수집되었고 "보트 카메라, 항구 카메라, 적외선 시스템... 구축함, 전투함, 부표, 다우선" 등에서 나온 수십만 개의 입력 정보로 보완되었다. 한 국방부 관계자는 "우리는 AI 훈련 데이터를 얻기 위해 사실상 중국 인민해방군을 24시간 내내 지켜보고 있다"고 말했다.
맨슨은 메이븐을 개발하고 사용한 사람들, 그리고 이를 반대했던 사람들을 대상으로 수많은 인터뷰를 진행했다. 메이븐 내부의 독성 문화를 방치했다는 이유로 해병대에서 징계를 받기도 했던 쿠커는 강렬한 추진력으로 프로그램의 성공을 이끈 흥미로운 인물로 그려진다. 그는 워싱턴의 의사결정권자들이 자신의 혁신을 현명하게 사용하기를 바란다. "스스로 거울을 보며 우리가 신중을 기하고 있는지 확인했으면 합니다." 그가 말했다. "우리에게 이 모든 기술이 있는데, 우리가 과연 이 기술을 관리하기에 가장 적합한 관리자인가요?"
전쟁의 기술
프로젝트 메이븐(Project Maven). 카트리나 맨슨 지음. W.W. 노턴; 416쪽; 31.99달러 및 23파운드
메이븐 스마트 시스템(Maven Smart System)은 아마도 당신이 들어본 적 없는 가장 중요한 무기 체계일 것이다. 이 시스템은 이스라엘로 향하는 이란의 미사일과 예멘의 로켓 발사대를 포착했다. 또한 미국 남부 국경을 넘는 이주민과 카리브해의 마약 운반선을 탐지했다. 2022년 어느 날에는 우크라이나를 위해 260개가 넘는 잠재적 표적을 찾아내기도 했다.
메이븐은 단순히 사물을 감지하는 데 그치지 않고 대응 과정을 조율할 수도 있다. 사진, 텍스트, 라디오, 전자기 펄스 등 다양한 종류의 정보를 융합하여 어떤 비행기가 어떤 무기를 싣고 어느 표적에 가장 가까이 있는지 계산해낸다. 인간이 버튼을 한 번만 클릭하면 메이븐은 데이터를 재(ash)로 바꿀 수 있다. 한 나토(NATO) 관계자가 카트리나 맨슨에게 말했듯, "이것은 전쟁의 마이크로소프트 윈도우와 같습니다." 머지않아 이 시스템은 사무직 노동자들에게 마이크로소프트가 그러하듯 군대에서도 필수적인 존재가 될지도 모른다.
블룸버그의 국가 안보 전문 기자인 맨슨은 '프로젝트 메이븐'을 통해 최근 수년간 전쟁과 기술을 다룬 가장 중요한 저서 중 하나를 집필했다. 이 책은 저돌적인 해병대원 드류 쿠커가 어떻게 비주류 전문가들로 팀을 꾸려 인공지능을 미군 전쟁 기계의 핵심으로 만들었는지, 그리고 그 과정에서 팀 내부와 펜타곤(미 국방부) 전체와 얼마나 치열하게 갈등했는지를 흥미진진하게 그려낸다.
이 이야기는 실리콘밸리와 전쟁, 그리고 펜타곤 사이의 변화하는 관계에 관한 것이기도 하다. 구글은 살상용 도구 개발에 자사가 협력한다는 직원들의 반발이 거세지자 2018년 메이븐 프로젝트에서 철수했다. 이후 팔란티어(Palantir)가 메이븐 개발에 있어 가장 중요한 기업이 되었다.
처음에는 산더미 같은 드론 영상에서 객체를 찾아내기 위해 AI를 활용하려는 프로젝트로 시작되었는데, 이는 과거에 엄청난 인력을 소모하던 작업이었다. 2017년 소말리아의 대테러 작전 중 시험한 초기 알고리즘은 불안정했다. 알고리즘은 구름을 비행하는 스쿨버스로 잘못 인식하곤 했다. 이듬해 아프가니스탄에서는 소프트웨어가 나무를 사람으로, 바위를 건물로 오인하기도 했다. 하지만 시스템은 계속 개선되었다.
한번은 미군이 드론 타격을 감행하기 직전, 분석가가 시야 안으로 걸어 들어오는 양치기를 발견했다. 그 분석가가 남자를 알아채는 데 40초가 걸렸지만, 같은 영상 피드에 메이븐을 테스트했을 때는 AI가 그를 감지하는 데 1초도 걸리지 않았다.
2019년 메이븐은 시리아에서 이슬람 국가(IS) 수장 아부 바크르 알바그다디를 사살하는 작전과 2020년 드론 공습으로 이란 장군 카셈 솔레이마니를 제거하는 작전에 사용되었다. 그 이듬해 조 바이든 대통령이 카불에서 미군을 철수시켰을 때도 메이븐은 혼란스러운 상황 속에서 비행장에 얼마나 많은 사람이 몰려 있는지를 파악하는 데 활용되었다.
하지만 메이븐에게 전환점이 된 사건은 러시아의 우크라이나 침공이었다. 이 타격 도구는 미국이 완곡하게 "관심 지점"이라 부르는 정보를 산업적 규모로 우크라이나에 제공했으며, 매달 100만 달러의 클라우드 컴퓨팅 비용이 지출되었다. 맨슨은 "때때로 미국이 무기 자체에 직접 좌표를 입력하는 것처럼 느껴질 정도였다"고 기술했다.
이 책은 AI가 상황에 매우 민감하다는 점을 명확히 보여준다. 아프가니스탄에서 70%의 성공률을 보였던 모델은 필리핀에서는 30%로 떨어졌는데, 필리핀 사람들은 황량한 지면이 아닌 울창한 정글 앞을 걸어 다녔기 때문이다. 마찬가지로 알고리즘은 우크라이나의 눈이나 포탑이 날아간 러시아 전차를 식별하는 데 애를 먹었다. 양질의 데이터는 필수적이었다. 알고리즘 하나를 훈련하려면 각각 정확하게 라벨링 된 1만 장의 이미지가 필요할 수 있다. 2021~22년에는 1,500개가 넘는 알고리즘 중 우크라이나에서 사용될 24개만이 살아남았다.
메이븐이 처음 시작되었을 때 펜타곤 관계자들은 이를 타격이라는 복잡하고 논란 많은 작업과는 거리가 먼 정보 분석 도구라고 설명했다. 맨슨의 책은 이러한 통념을 깨뜨린다. 애초부터 메이븐은 표적을 찾고, 무엇을 할지 결정하며, 공격을 수행하는 미국의 '킬 체인(kill chain)'을 가속화하기 위해 설계되었다. 국립지리정보국(NGA)의 한 관계자는 맨슨에게 대규모 언어 모델이 타격 프로세스를 5배 빠르게 만들었으며, 이를 통해 미국이 하루 5,000개의 표적을 식별하고 타격할 수 있게 되었다고 말했다. 우크라이나에서 메이븐 활용을 선구적으로 이끌었고 현재 유럽 주둔 미 육군 사령관을 맡고 있는 크리스 도나휴 장군은 "결국 이 모든 것은 자동화될 것"이라고 말한다.
이는 전쟁에 대한 인간의 통제권에 관한 심오한 질문을 던진다. 미국과 중국, 혹은 러시아 사이의 갈등에서 각 진영은 상대방이 표적을 찾아 무기를 발사하기 전에 신속하고 결정적으로 타격해야 한다는 엄청난 압박에 직면할 것이다. 인간이 그 과정을 감독한다고 해도, 특히 무언가 잘못되었을 때 인간이 속도를 따라잡을 수 있을까? 메이븐이 우크라이나에 배치된 후에도, 시스템은 분석한 1제곱킬로미터당 10건의 잘못된 탐지 결과를 내놓고 있었다.
이제 메이븐이 개발한 알고리즘은 원격 서버에서 작동하는 것을 넘어 무기 내부에도 탑재되고 있다. 이 책은 태평양 전쟁 시 중국군을 압도하고 지연시키기 위해 고안된 잘 알려지지 않은 두 가지 무기를 소개한다. '골키퍼(Goalkeeper)'는 배회형 탄약, 즉 자폭 드론이며, '윕래시(Whiplash)'는 폭발물을 실은 제트스키로, 초기 모델은 CIA에 의해 테스트를 위해 우크라이나로 밀반입되기도 했다. 이 무기들은 각각 스스로 표적을 찾아 공격하도록 보내질 수 있다.
이로 인해 철저한 데이터의 중요성은 그 어느 때보다 커졌다. 메이븐 개발팀이 잠수함 추적 알고리즘을 만들려 했을 때, 그들은 P-8 잠수함 추적기가 임무를 마칠 때마다 하드 드라이브를 포맷한다는 사실을 발견했다. 미 해군의 일부 반발에도 불구하고, 그러한 데이터는 수집되었고 "보트 카메라, 항구 카메라, 적외선 시스템... 구축함, 전투함, 부표, 다우선" 등에서 나온 수십만 개의 입력 정보로 보완되었다. 한 국방부 관계자는 "우리는 AI 훈련 데이터를 얻기 위해 사실상 중국 인민해방군을 24시간 내내 지켜보고 있다"고 말했다.
맨슨은 메이븐을 개발하고 사용한 사람들, 그리고 이를 반대했던 사람들을 대상으로 수많은 인터뷰를 진행했다. 메이븐 내부의 독성 문화를 방치했다는 이유로 해병대에서 징계를 받기도 했던 쿠커는 강렬한 추진력으로 프로그램의 성공을 이끈 흥미로운 인물로 그려진다. 그는 워싱턴의 의사결정권자들이 자신의 혁신을 현명하게 사용하기를 바란다. "스스로 거울을 보며 우리가 신중을 기하고 있는지 확인했으면 합니다." 그가 말했다. "우리에게 이 모든 기술이 있는데, 우리가 과연 이 기술을 관리하기에 가장 적합한 관리자인가요?"