전장에 들어온 챗GPT…군 지휘관의 ‘AI 참모’ 시대 열린다

군은 이미 AI를 활용해 인간이 놓칠 수 있는 표적과 정보를 탐지해 왔지만, 이제는 대형언어모델(LLM)을 기반으로 지휘관에게 공격 우선순위와 전장 판단까지 조언하는 ‘AI 참모’ 체계를 도입하고 있다. 다만 생성형 AI의 오류와 과도한 의존, 민감한 군사 데이터 유출 가능성은 새로운 위험 요소로 지적된다.

이란에서 벌어지고 있는 분쟁을 최초의 ‘AI 전쟁’이라고 부르는 것은 여러 측면에서 정확하지 않다. 수 시간 분량의 감시 영상을 분석해 기관총이 장착된 트럭과 같은 표적을 식별하는 알고리즘은 이미 아프가니스탄 전쟁 시기부터 사용돼 왔다. 우크라이나는 AI를 활용해 자율적으로 항로를 찾는 드론을 개발했고, 이스라엘 역시 정보 데이터를 기반으로 잠재적 표적을 식별하는 데 AI 시스템을 활용해 왔다.

이란을 비롯한 여러 지역에서 새롭게 등장한 것은, 지휘관들이 단순한 분석을 넘어 ‘조언’을 얻기 위해 사용하는 대화형 AI 시스템이다. 기존 AI 기술과 달리 이러한 조언형 시스템은 대형언어모델(LLM)을 기반으로 한다. 그리고 이들은 이미 군이 정보를 공유하고, 빅테크 기업과 협력하며, 생사를 가르는 결정을 내리는 방식을 바꾸고 있다.

10년 전만 해도 AI 도구는 하급 정보 분석관의 업무를 자동화하는 수준에 머물렀다. 소셜미디어나 위성 영상에서 방대한 잡음 속 의미 있는 신호를 가려내는 작업이 대표적이다. 감시 기술 기업 팔란티어의 기술을 기반으로 구축된 미군의 ‘메이븐(Maven)’과 같은 시스템은 이러한 분석 결과를 지휘관에게 제공했다. 이를 통해 지휘관은 전쟁 장비라기보다 비즈니스 소프트웨어에 가까운 깔끔한 인터페이스를 이용해 지구 반대편의 공격 목표를 선택할 수 있었다.

이제 LLM은 이러한 시스템을 더욱 상호작용적으로 만들고, 실제로 ‘조언’을 제시하는 단계로 발전시키고 있다. 한 미 국방 당국자는 MIT 테크놀로지 리뷰에 현재 군인들이 챗봇에 잠재적 표적 목록을 입력해 어떤 목표를 먼저 타격할지 결정하는 데 도움을 받을 수 있다고 밝혔다. 미 국방부가 최근 앤트로픽을 공급망 위험 요소로 지정했음에도, 이 회사의 AI 도구 ‘클로드’는 군 작전에 깊이 통합돼 있어 완전히 제거하는 데 약 6개월이 걸릴 것으로 알려졌다.

지휘관들이 챗봇을 활용하는 흐름은 미국만의 일이 아니다. 조지타운대학교 신흥기술안보센터(Center for Security and Emerging Technology의 최근 분석에 따르면 중국 역시 유사한 시스템 도입을 추진하고 있다.

기존 AI 시스템은 여전히 정보 수집과 분석에 활용되겠지만, 전 세계 군이 AI가 생성한 ‘조언’을 점점 더 중요하게 여기고 있다는 점은 분명하다.

이러한 패러다임 전환에는 분명한 문제가 있다. 사용해 본 사람이라면 알겠지만 생성형 AI는 동일한 프롬프트에도 서로 다른 결과를 내놓고, 즉흥적으로 생성된 권고는 항상 유용하거나 정확하지 않을 수 있다. 업무 환경에서는 이러한 결과를 사람이 검증해야 한다. 하지만 5분 안에 타격 대상을 결정해야 하는 것 같은 강한 압박을 받는 상황에서는 이러한 검증 절차가 생략될 가능성도 있다.

AI의 오류는 문제의 일부에 불과하다. 군사 전문가들은 전장을 하나의 단순화된 대시보드로 보여주는 AI 시스템이 장교들의 과도한 신뢰를 유도할 수 있으며, 동시에 어떤 정보가 노출되는지를 두고 기술 기업이 과도한 영향력을 갖게 될 수 있다고 경고한다. 또한 군이 사실상 새로운 기술을 서둘러 도입하는 동안 대중은 그 사용을 감시하거나 오류 발생 시 AI의 역할을 검증할 실질적인 수단을 갖고 있지 않다. 실제로 올해 1월 미 국방부 내부 문서에서는 이러한 개념에 기반한 ‘책임 있는 AI(responsible AI)’를 ‘유토피아적 이상주의’라고 표현하기도 했다.

한편 오픈AI를 비롯한 주요 AI 기업들은 수익성이 높은 방위 계약 기회를 적극적으로 모색하고 있다. 미 국방부 역시 AI 기업들이 최고 수준의 모델을 군에 제공하길 바라며, 기밀 군사 데이터를 활용한 모델 학습까지 허용하는 방안을 검토 중이다. 이는 감시 정보나 전장 평가와 같은 민감한 데이터가 모델 자체에 포함될 수 있음을 의미하며, 새로운 보안 위험을 초래할 수 있다. 동시에 실리콘밸리와 국방부 간의 관계는 그 어느 때보다 밀접해질 것으로 보인다.

The post 전장에 들어온 챗GPT…군 지휘관의 ‘AI 참모’ 시대 열린다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.