이란 ‘초등학교 오폭’ 참사 뒤엔 미군의 과도한 AI 의존 있었다

폐허 된 학교, 남은 건 책가방뿐 이란 구조대원과 시민들이 지난 2월28일 이란 남부도시 미나브의 샤자레 타이예베 여자 초등학교에서 미군 폭격으로 숨진 어린이들의 유품 등을 수습하고 있다. AP연합뉴스

지난 2월28일(현지시간) 미국·이란 전쟁 발발 직후 이란 남부 미나브의 샤자레 타이예베 초등학교에서 최소 123명의 어린이를 숨지게 한 오폭 참사에 미국의 군사 인공지능(AI)이 개입했던 것으로 나타났다.

최첨단 AI 기술은 오폭의 직접적 원인이 된 부실 정보를 걸러내지 못했고, 아동 대상 참극을 막지도 못했다. 표적 탐지부터 공습까지, 이른바 킬체인의 결정 속도는 비약적으로 빨라졌지만 책임 소재는 AI 알고리즘 뒤에서 뭉개졌다.

미국 국방부 내부 조사에 관여한 관계자 20여명은 기초 정보의 공백, 민간인 피해 방지 기능 감축과 더불어 AI 기술에 대한 과도한 의존이 겹치면서 오폭 참사로 이어진 사실을 증언했다고 19일 블룸버그통신이 보도했다. 이들은 당시 오폭이 참사를 막을 여러 차례의 기회를 놓친 실수가 쌓인 결과였다고 진술했다.

특히 미국 중부사령부 작전 담당자 일부가 AI 군사기술 ‘메이븐 스마트 시스템’(메이븐)에 지나치게 의존했던 것으로 전해졌다. 메이븐은 미국의 방산 AI 기업 팔란티어가 개발한 AI 기반 소프트웨어로 150개 이상의 군사 데이터를 통합해 표적 설정과 지휘 통제에 이르는 복잡한 군사작전을 지원하는 프로그램이다.

작전 담당자들은 기한이 지나 보완이 필요한 정보나 상호 충돌하는 정보들이 있으면 메이븐이 이를 통보해줄 것으로 기대했다고 한다. 10여년 전 이란 이슬람혁명수비대(IRGC) 부대 터에 세워진 이 초등학교를 이후 위성사진 등에서 나타나는 시설 변화나 민간 활동 증가의 흔적 등으로 파악할 수 있지 않았느냐는 것이다. 샤자레 타이예베 초등학교는 자체 웹사이트도 있었고 구글 지도에도 학교로 표시돼 있었다.

미나브 오폭 이후 팔란티어는 메이븐에 기초 정보를 재검토해 표적 제외 요인을 찾고, 검토 과정에서 놓칠 수 있는 충돌 지점이나 모순을 표시하는 기능을 추가했다. 즉, 이전에는 오폭을 걸러낼 검토 기능이 없었다는 뜻이다.

그럼에도 의사결정은 초고속으로 이뤄졌다. 블룸버그는 원래 정보분석관·영상전문가·법률가·작전지휘관 등이 참여해 몇시간에 걸쳐 작성하던 표적 목록의 상당 부분이 당시 공습 직전에는 메이븐을 통해 몇분 내에 처리됐다고 전했다. 이 과정에서 초등학교 시설로 갱신되지 않은 위성사진이 사용된 점이나 민간인 피해 방지 검토가 이뤄지지 않은 점 등은 반영되지 않았다.

사건 발생 후 7개월이 다 되도록 책임 소재는 밝혀지지 않고 있다. 지난 3월 미 국방부가 조사에 들어갔지만 보고서는 아직 공개되지 않았다. 유엔 이란 독립국제진상조사단은 최근 미나브 초등학교 오폭 참사가 ‘무차별 공격에 의한 전쟁범죄’라 믿을 합리적 근거가 있다는 내용의 보고서를 공개했다.

최근에는 AI 군사기술이 오판을 빠른 군사행동으로 이어지게 할 위험도 드러났다. 지난봄 미군이 AI가 잘못 만들어낸 보고서로 중국 선박을 대상으로 한 군사작전을 준비했다가 실행 직전 중단했다고 CNN이 18일 보도했다. 중국 선박이 중동에서 핵무기 개발 부품을 운반하고 있다는 내용이었다.

무장병력이 승선 준비를 하고 군용기가 출격하는 등 군사행동이 개시되기 직전 해당 보고서가 “완전한 거짓”으로 드러나면서 작전이 중단됐다. 한 소식통은 CNN에 “하마터면 전쟁을 일으킬 뻔했다”고 말했다.

중국 선박 사례와 미나브 초등학교 오폭 참사는 군사기술과 AI를 접목했을 때 발생할 수 있는 ‘초고속 확전’의 위험을 단적으로 드러낸다. CNN은 “AI나 기타 자동화 시스템이 만든 부정확한 정보가 재앙적 결정으로 이어질 수 있다는 위험이 확인된 것”이라고 했다.