새로운 작전실

군 당국은 이미 인간이 놓칠 수 있는 부분을 포착하기 위해 AI를 활용하고 있다. 이제 그들은 지휘관들이 전투 중에 참고할 수 있는 조언형 시스템도 원하고 있다.

📋한눈에 보는 AI 요약AI 자동 요약▶ 펼쳐보기

군대에서 AI 챗봇을 활용해 전쟁 관련 조언을 받는 시대가 열리고 있습니다. 예전에는 AI가 감시 영상에서 적 차량을 찾아내는 정도의 단순 분석만 했지만, 이제는 지휘관이 챗봇과 대화하며 어떤 목표를 먼저 공격할지 추천을 받을 수 있게 되었습니다. 미국뿐 아니라 중국 등 여러 나라가 이런 시스템을 도입하고 있으며, 오픈AI 같은 AI 기업들도 군사 계약에 적극 참여하고 있습니다. 하지만 AI가 틀린 답을 내놓을 수 있고, 급박한 전투 상황에서 사람이 이를 제대로 확인하지 못할 위험이 있습니다. 또한 기밀 군사 데이터로 AI를 학습시키면 새로운 보안 문제가 생길 수 있다는 우려도 나옵니다.

왜 중요한가요?

AI가 사람의 생사를 결정하는 군사 판단에 직접 관여하기 시작했기 때문에, 이 기술이 얼마나 정확하고 안전한지, 그리고 누가 이를 감시하는지는 모든 사람의 안전과 직결되는 문제입니다.

주요 용어 설명

메이븐 (Maven)

미군이 사용하는 AI 분석 시스템으로, 위성 사진이나 감시 영상에서 적의 장비나 위협 요소를 자동으로 찾아내는 도구입니다. 마치 수천 장의 사진 속에서 특정 물건을 자동으로 골라내는 검색 엔진 같은 역할을 합니다.

책임 있는 AI (Responsible AI)

AI를 사용할 때 공정성, 투명성, 안전성을 지키자는 원칙입니다. 예를 들어 AI가 왜 그런 판단을 내렸는지 사람이 확인할 수 있어야 하고, 잘못된 결정에 대해 책임을 물을 수 있어야 한다는 개념입니다. 하지만 군에서는 이를 비현실적인 이상이라고 보는 시각도 있습니다.

공급망 위험 요소 (Supply Chain Risk)

군이 사용하는 기술이나 부품을 제공하는 회사가 보안상 위험할 수 있다는 의미입니다. 마치 식당에서 쓰는 식재료 납품업체가 위생 문제를 일으킬 수 있는 것처럼, AI 기업의 기술이 군 시스템 깊숙이 들어가면 해당 기업에 문제가 생길 때 군 전체가 영향을 받을 수 있습니다.

⚡ Claude AI가 독자를 위해 자동 생성한 요약입니다. 원문을 함께 읽어보세요.

이란에서 벌어지고 있는 분쟁을 최초의 ‘AI 전쟁’이라고 부르는 것은 여러 측면에서 정확하지 않다. 수 시간 분량의 감시 영상을 분석해 기관총이 장착된 트럭과 같은 표적을 식별하는 알고리즘은 이미 아프가니스탄 전쟁 시기부터 사용돼 왔다. 우크라이나는 AI를 활용해 자율적으로 항로를 찾는 드론을 개발했고, 이스라엘 역시 정보 데이터를 기반으로 잠재적 표적을 식별하는 데 AI 시스템을 활용해 왔다.

이란을 비롯한 여러 지역에서 새롭게 등장한 것은, 지휘관들이 단순한 분석을 넘어 ‘조언’을 얻기 위해 사용하는 대화형 AI 시스템이다. 기존 AI 기술과 달리 이러한 조언형 시스템은 대형언어모델(LLM)을 기반으로 한다. 그리고 이들은 이미 군이 정보를 공유하고, 빅테크 기업과 협력하며, 생사를 가르는 결정을 내리는 방식을 바꾸고 있다.

10년 전만 해도 AI 도구는 하급 정보 분석관의 업무를 자동화하는 수준에 머물렀다. 소셜미디어나 위성 영상에서 방대한 잡음 속 의미 있는 신호를 가려내는 작업이 대표적이다. 감시 기술 기업 팔란티어의 기술을 기반으로 구축된 미군의 ‘메이븐(Maven)’과 같은 시스템은 이러한 분석 결과를 지휘관에게 제공했다. 이를 통해 지휘관은 전쟁 장비라기보다 비즈니스 소프트웨어에 가까운 깔끔한 인터페이스를 이용해 지구 반대편의 공격 목표를 선택할 수 있었다.

이제 LLM은 이러한 시스템을 더욱 상호작용적으로 만들고, 실제로 ‘조언’을 제시하는 단계로 발전시키고 있다. 한 미 국방 당국자는 MIT 테크놀로지 리뷰에 현재 군인들이 챗봇에 잠재적 표적 목록을 입력해 어떤 목표를 먼저 타격할지 결정하는 데 도움을 받을 수 있다고 밝혔다. 미 국방부가 최근 앤트로픽을 공급망 위험 요소로 지정했음에도, 이 회사의 AI 도구 ‘클로드’는 군 작전에 깊이 통합돼 있어 완전히 제거하는 데 약 6개월이 걸릴 것으로 알려졌다.

지휘관들이 챗봇을 활용하는 흐름은 미국만의 일이 아니다. 조지타운대학교 신흥기술안보센터(Center for Security and Emerging Technology의 최근 분석에 따르면 중국 역시 유사한 시스템 도입을 추진하고 있다.

기존 AI 시스템은 여전히 정보 수집과 분석에 활용되겠지만, 전 세계 군이 AI가 생성한 ‘조언’을 점점 더 중요하게 여기고 있다는 점은 분명하다.

이러한 패러다임 전환에는 분명한 문제가 있다. 사용해 본 사람이라면 알겠지만 생성형 AI는 동일한 프롬프트에도 서로 다른 결과를 내놓고, 즉흥적으로 생성된 권고는 항상 유용하거나 정확하지 않을 수 있다. 업무 환경에서는 이러한 결과를 사람이 검증해야 한다. 하지만 5분 안에 타격 대상을 결정해야 하는 것 같은 강한 압박을 받는 상황에서는 이러한 검증 절차가 생략될 가능성도 있다.

AI의 오류는 문제의 일부에 불과하다. 군사 전문가들은 전장을 하나의 단순화된 대시보드로 보여주는 AI 시스템이 장교들의 과도한 신뢰를 유도할 수 있으며, 동시에 어떤 정보가 노출되는지를 두고 기술 기업이 과도한 영향력을 갖게 될 수 있다고 경고한다. 또한 군이 사실상 새로운 기술을 서둘러 도입하는 동안 대중은 그 사용을 감시하거나 오류 발생 시 AI의 역할을 검증할 실질적인 수단을 갖고 있지 않다. 실제로 올해 1월 미 국방부 내부 문서에서는 이러한 개념에 기반한 ‘책임 있는 AI(responsible AI)’를 ‘유토피아적 이상주의’라고 표현하기도 했다.

한편 오픈AI를 비롯한 주요 AI 기업들은 수익성이 높은 방위 계약 기회를 적극적으로 모색하고 있다. 미 국방부 역시 AI 기업들이 최고 수준의 모델을 군에 제공하길 바라며, 기밀 군사 데이터를 활용한 모델 학습까지 허용하는 방안을 검토 중이다. 이는 감시 정보나 전장 평가와 같은 민감한 데이터가 모델 자체에 포함될 수 있음을 의미하며, 새로운 보안 위험을 초래할 수 있다. 동시에 실리콘밸리와 국방부 간의 관계는 그 어느 때보다 밀접해질 것으로 보인다.

The post 새로운 작전실 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.