지난해 2월 15일(현지시간) 네덜란드 헤이그 월드포럼에서 '군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의(REAIM 2023')가 이틀 간의 일정으로 진행됐다. REAIM 2023은 '책임 있는 AI의 군사적 사용(Responsible AI in the Military Domain)'이라는 주제를 다룬 첫 국제회의다. 2022년 11월 한국-네덜란드 정상 합의에 따라 양국 정부가 공동으로 주최했다. 군사용 AI가 전세를 좌우하는 차세대 기술인 동시에 위험성도 병존하는 양날의 검으로 평가받는 상황에서, 책임 있는 AI의 군사적 개발과 사용을 위해 전 세계가 모여 공통된 의제를 도출하자는 것이 행사의 취지였다. 이 회의에는 한국과 네델란드를 비롯한 미국, 일본, 스위스, 파키스탄 등 정부 고위 인사와 기업, 연구기관, 국제기구, 싱크탱크, 시민사회 등 관계자 약 2000명이 참가했다. REAIM 2024는 올 9월 한국에서 개최된다.

  REAIM 2023 마지막날, 미국은 인공지능과 자율성의 책임 있는 군사적 사용에 관한 정치적 선언문을 발표했다. 이 선언문은 각국에 ▲ 군사용 AI 능력이 국제법과 일치시키는 데 필요한 조치를 취하고, ▲ 핵무기와 관련한 주권적 결정을 실행하는 데 필수적인 조치에 인간의 통제와 개입을 유지하며, ▲ 무기 시스템을 비롯해 후과가 큰 모든 군사적 AI 능력의 개발 및 전개시 고위 정부 관료의 감독을 보장할 것 등을 촉구하고 있다. 또한, 여기에는 군사용 AI 시스템을 감시가 가능하도록 설계하고, 명시적이고 잘 정의된 용도로 사용되도록 하며, 수명 전반에 걸쳐 엄격한 테스트 및 평가를 받도록 하고, 의도치 않은 행동을 할 경우 비활성화할 수 있도록 하는 것 등도 포함된다.

  2023년 12월, UN은 AI 및 자율무기시스템과 관련된 것을 포함하여 군사 영역의 새로운 기술 적용으로 인해 제기된 심각한 도전과 우려를 인정하면서 LAWS(치명적 자율무기, Lethal Autonomous Weapons System)의 위험성에 대한 결의안을 채택했다. 미국의 선언이 대등한 경쟁자인 중국의 위협에 대응하기 위한 정치적 산물이었다면, UN의 이같은 결의안과 REAIM 2023의 논의는 훨씬 덜 정치적이면서 더 국제규범적이며, 다수의 이해관계가가 참여하고 있다는 평가를 받고 있다.

  지난 7월 17일에 Carnegie Europe에 브뤼셀 자유대학교 랄루카 체르나토니(Raluca Csernatoni)박사의 "지정학적 지뢰밭 속에서 군사용 AI의 통치(Governing Military AI Amid a Geopolitical Minefield)"라는 논문이 발표되었다. 이 논문에서 저자는 군사용 AI에 대한 글로벌거버넌스 프레임워크의 결여가 국제안보에 위험을 초래하므로, EU가 글로벌 표준의 설정과 전쟁에서 AI의 책임 있는 사용을 보장할 수 있는 포괄적인 계획을 주도할 것을 제안하고 있다. EU는 군사용 AI 거버넌스를 위한 포괄적이고 글로벌한 프레임워크를 촉진하고, REAIM 및 UN 프로세스와 같은 플랫폼을 통해 국제 규범 증진 노력을 강화하는 데 주도적인 역할을 맡아야 한다는 주장이다. 이러한 주장에는 REAIM 프로세스, 미국의 정치적 선언 및 UN 결의안이 의미는 있지만 포괄적인 글로벌 규제 체제를 운영하기 위한 의지, 범위 및 능력이 모두 제한되어 있다는 전제가 깔려 있다.

  이처럼, 군사용 AI에 대한 글로벌거버넌스 구축의 필요성이 제기되는 배경에는 '양날의 검'이라는 군사용 AI의 위험성이 작용하고 있다. AI는 국방혁신, 산업공급망, 민군관계, 군사전략, 전투관리, 훈련프로토콜, 예측, 보급, 감시, 데이터 관리 및 부대방호 조치를 포함하여 전쟁의 거의 모든 측면을 형성할 수 있는 잠재력을 가지고 있다. 반면, 소프트웨어가 사람을 인식하지 못하거나 오인하는 것에서부터 자율주행차로 인한 사망에 이르기까지 AI가 실패하고 때로는 치명적인 결과를 초래하는 수많은 사례가 있었다. 또한, 전문가들은 LAWS의 중요한 기능에 자율성과 자동화가 점점 더 통합되면서, 그러한 시스템이 작동하는 속도, 복잡성 및 불투명성으로 인해 자율무기의 특정한 사용에 대한 인간의 통제가 점점 더 의미가 없게 될 수 있음을 경고하고 있다. 이스라엘의 알고리즘 전쟁과 인간의 감독이 거의 없는 가자 지구에서의 AI 타겟팅 시스템은 군대로부터 제기되는 윤리적, 국제법적, 전략적 딜레마를 더욱 잘 보여주고 있다.

  우리 군도 국방혁신 4.0을 통해 첨단과학기술군으로의 진화를 추진하고 있다. 이 진화의 중심에 AI가 자리하고 있다. 다행히 국내에서도 학계를 중심으로 AI의 윤리적 규범에 대한 논의가 진행되고 있고, 군사용 AI 부문에 대한 논의도 진행되고 있다. 체르나토니박사는 논문에서 AI가 핵무기처럼 인류의 미래에 대한 멸종위기 수준의 실존적 위협을 가할 수 있음에 착안하여 국제원자력협정기구(IAEA)와 같은 국제적인 AI 감독구기구의 필요성을 제기하고 있다. IAEA의 활동근거는 핵무기확산방지조약(NPT)에 있다. NPT는 원자력의 평화로운 이용과 핵확산 방지가 표면적인 목적이지만, 현실적인 의미에서 보면 핵보유국들이 형성하고 있는 카르텔이다. 이처럼 국제사회에는 항상 양면성이 존재한다.

  군사용 AI도 마찬가지이다. 국방혁신 4.0은 국방무분이 담당하는 국가생존전략에 관한 사명이다. AI는 이 사명의 핵심에 있다. 향후 AI, 특히 군사용 AI와 관련하여 반드시 국제 레짐(International Regimes)이 형성될 것이다. 이 레짐의 중심에 설 수 있느냐가 향후 국방혁신 4.0이 성공적으로 안착할 수 있느냐의 또다른 시금석이 될 것이다. 자유와 평화를 추구하는 글로벌중추국가로서의 정체성을 확고히 하면서도, 안보를 튼튼하게 담보할 수 있는 공세적 노력의 축이 되어야 할 것이다. 오는 9월에 우리나라에서 개최될 REAIM 2024에 거는 기대가 여기에 있다. 북한의 핵능력 고도화 앞에 전전긍긍할 수밖에 없는 우리의 현실을 잊어서는 안될 것이다.