이란 전쟁은 인공지능(AI) 전쟁이다. 이 전쟁의 성격을 분석·평가하는 데 반드시 포함해야 할 대목이다. 이란 전쟁이 AI가 주도한 전쟁이라면, AI 전쟁의 시작은 언제일까.
전문가들은 2021년 5월 이스라엘이 가자지구의 하마스를 상대로 벌인 '성벽의 수호자'(Guardian of the Walls) 작전을 꼽는다. 이스라엘군(IDF)은 이 작전에서 가스펠(Gospel·히브리어 합소라) 프로그램을 사용했다. 드론 영상과 통신 감청 등을 분석해 하마스가 사용하는 건물을 자동 식별해 공격하는 AI 프로그램이다. 가스펠은 하마스 무장대원들의 전투 지휘 본부, 무기 창고, 로켓·미사일 발사대, 시설을 우선 목표로, 무장대원이 살고 있는 민간 주거 건물과 도심의 건물, 학교, 은행 등은 2차 목표로 설정했다. 사람이 하면 수개월 걸릴 표적 식별 작업을 단 몇 분 만에 끝냈다.
당시 이스라엘군은 이 '성벽의 수호자' 작전을 "AI를 동원한 사상 첫 군사작전"이라 표현했다. 2년 뒤 2023년에는 공식 웹사이트를 통해 가스펠의 존재를 공식화하면서 "AI를 통해 빠른 속도로 공격 표적을 생성한 결과 27일의 전투에서 1만2000개 건물을 공격했다"고 밝혔다. 하루에 400개가 넘는 건물을 폭격했다는 얘기다.
2023년 10월7일, 이스라엘 정착촌을 기습한 하마스에 대한 이스라엘의 보복으로 가자 전쟁이 시작됐다. 이스라엘은 여기서 '라벤더'(Lavender)를 본격 도입했다. 가자지구 팔레스타인 주민들의 방대한 데이터베이스를 분석해 약 3만7000명을 표적으로 분류해 냈다. 가스펠이 건물, 시설을 대상으로 한 것이라면 라벤더는 사람이 그 대상이었다. 이스라엘군은 가자 전쟁에서 가스펠과 라벤더를 함께 운영했다.
지난달 29일(현지시간) 이란 테헤란의 건물들 사이로 공습에 따른 연기가 피어오르고 있다. (사진=연합뉴스)
"인간은 AI 결정에 '거수기' 역할만 하는 경우가 많았다"
2024년 4월, 이스라엘 매체 <+972>와 영국 <가디언>이 가스펠과 라벤더의 운용 실태와 문제를 폭로했다. 가자 전쟁에서 이 AI 프로그램들을 사용했던 이스라엘군 정보부서 장교 6명의 폭로를 담은 관련 기사들은 "이스라엘군은 라벤더의 사살 표적 목록을 가감 없이 채택하도록 승인했으며, 이 결정이 내려진 이후 장교들은 인공지능 체계가 왜 그런 결정을 내렸는지 철저하게 확인하지 않았고, 판단의 근거가 된 원시 정보 데이터를 확인하지도 않았다"면서 "한 소식통은 인간은 AI 체계가 내린 결정에 '거수기' 역할만 하는 경우가 많았고 폭격을 승인하기 전에 라벤더가 지시한 표적당 20초가량의 시간을 할애해 표적이 남성인지 아닌지만을 확인했을 뿐이라고 증언하기도 했다"고 전했다.
인간의 생사를 결정지어야 하는 정밀한 판단을 내리는 일에, 담당 군인에게 주어진 시간은 단 20초뿐이었다는 것이다. 더욱이 당시 이스라엘군은 하마스의 전면 공격으로 1200명 이상의 이스라엘 국민이 사망하고 240명이 납치당하면서 극도로 격앙된 상태였다. 이스라엘군은 '부수적 피해'의 확대까지 용인했다고 한다.
"복수의 소식통에 따르면 이스라엘군은 전쟁 초기 몇 주 동안 라벤더가 지목한 하위 하마스 요원 한 명당 최대 15명, 혹은 20명의 민간인 사망자를 허용하는 전례 없는 결정을 내렸는데, 이전에는 하위 요원을 공격하는 경우에 부수적 피해 자체를 허용하지 않았다"는 것이다.
그 결과는 이렇게 나타났다.
"관계자들의 증언에 의하면, 전쟁 초기의 몇 주 동안 이 AI 프로그램의 결정에 따라 진행된 이스라엘의 공습으로 사망한 수천 명의 팔레스타인인 가운데 대부분은 여성과 어린이, 혹은 전투에 관련되지 않은 사람들이었다."
AI는 우크라이나 전쟁도 비껴가지 않았다. 2022년 2월, '세계 2위' 군사강국 러시아에 침략당한 우크라이나로서는 지푸라기라도 잡아야 했다. 볼로디미르 젤렌스키 우크라이나 대통령이 전쟁 발발 후 가장 처음 만난 서방 기업 최고경영자(CEO)가 바로 '팔란티어'의 알렉스 카프였다.
'빅데이터 분석 기업'이라는 표현만으로는 설명하기 어려운 '팔란티어'의 도움으로 우크라이나는 위성 사진, 소셜 미디어 게시물, 드론 영상 등을 AI로 통합 분석해 러시아군의 이동 경로를 예측하고 타격 지점을 설정할 수 있었다. 오사마 빈 라덴의 사살 작전에도 활용됐다는 팔란티어의 AI 시스템 '고담'이었다.
우크라이나군은 이를 통해 드론의 명중률을 50%에서 80%까지 끌어올렸다고 한다. 러시아군이 자랑하던 기갑부대는 오히려 우크라이나 드론의 먹이가 됐고, 우크라이나 전쟁은 드론 전쟁으로 불리게 됐다. 여기에 일론 머스크의 스타링크 제공으로 통신망이 유지되면서, "며칠, 길어야 1~2주면 끝난다"던 러시아의 호언장담이 무색하게, 전쟁은 장기·소모전으로 변모했다.
일론 머스크 X 최고경영자(왼쪽)와 함께한 팔란티어 CEO 알렉스 카프. (사진=뉴시스)
이란 전쟁, 팔란티어 '메이븐 스마트 시스템'이 사실상 미군 작전 지휘부
그리고 지난달 28일 미국과 이스라엘의 공습으로 시작한 이란 전쟁은 AI가 전쟁 전반을 주도하고 있다. 팔란티어의 '메이븐 스마트 시스템'이 사실상 작전 지휘부다. '고담'의 데이터 통합 능력과 앤스로픽이 만든 클로드의 막대한 추론 능력을 결합한 이 시스템으로, 미군은 개전 단 하루 만에 이란 내 1000개 이상의 목표물을 공격하면서 전장을 압도했다. 거대언어모델(LLM)이 본격적으로 전쟁에 활용된 것이다. 물론 AI가 만능은 아니었다. 미군의 이란 남부 미나브의 여자 초등학교 폭격으로 최소 175명이 사망한 것이 이를 단적으로 보여준다. 애초 이 학교는 군기지 터에 세워졌는데 군기지 이전 후 정보가 업데이트되지 않는 바람에 표적이 된 것으로 알려졌다.
설령 AI가 오류를 완벽하게 잡아낸다고 해도 근본적인 문제는 그대로 남는다. 완전성에 대한 확신이 오히려 AI 무기를 남용하게 만들지 않을까.
이제부터의 전투, 전쟁은 AI를 빼놓고 말하기 어렵게 됐다. 전쟁 개시 여부 자체를 죽음의 공포도, 살상의 부담도 없는 AI가 결정하게 될 가능성이 높다. 온갖 돌발 변수가 충돌하는 변화무쌍한 전쟁터에서 빛의 속도로 데이터를 분석하고 대안을 턱밑에 들이대는 AI에게, '인간의 최종 판단과 승인권'은 위태롭기 그지없다.
황방열 통일외교 전문위원 bangyeoulhwang@gmail.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 최신형 정치정책부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지