법의 빈틈을 파고드는 AI…저비용 감시 시대가 온다

상업적으로 거래되는 방대한 데이터에 LLM의 분석 능력이 결합되면 개인정보가 침해될 가능성이 한층 더 커질 수 있다.

우리 삶에 관한 정보는 이미 인터넷 곳곳에 흩어져 있다. 그리고 그중 일부는 실제로 거래된다. 개인 데이터를 수집하고 판매하는 데이터 브로커들은 수백만 명의 웹 검색 기록과 금융 정보, 위치 데이터를 모아 다양한 고객에게 판매한다. 이러한 고객에는 미국 정부도 포함된다. 온라인 구매 내역이나 출퇴근 경로 같은 정보가 전 세계 서버 어딘가에 저장되어 활용되기를 기다리고 있을지도 모른다.

이처럼 흩어진 정보를 하나로 모아 특정 개인에 대해 파악하기는 쉽지 않다. 그러나 최근에는 대형언어모델(LLM)을 활용하면 이 과정이 훨씬 간단해질 수 있다는 조짐이 나타나고 있다. LLM 에이전트는 기존 정보 분석가가 하던 일을 훨씬 빠르고 저렴하게 수행할 수 있다. 그러면 국가가 특정 인물뿐 아니라 일반 시민까지 감시 대상으로 삼을 가능성도 커진다.

캐런 레비(Karen Levy) 코넬 대학교 정보과학 교수는 “개인정보는 사실 법이 지켜준다기보다는 정보를 알아내기 어렵고 비용도 많이 필요하기 때문에 보호되고 있는 측면이 크다”고 설명했다. 휴대전화가 보급되면서 데이터 수집 비용은 크게 낮아졌지만, 이를 실제로 활용하는 일은 여전히 쉽지 않았다. 그러나 강력한 LLM은 그러한 활용 장벽 자체를 낮출 수 있다.

LLM이 대규모 감시를 용이하게 할 수 있다는 우려는 최근 전 세계적으로 주목받고 있다. 뉴욕타임스와 애틀랜틱의 보도에 따르면 지난 2월 말 AI 기업 앤트로픽과 미국 국방부 간 계약 협상이 결렬됐다. 국방부가 시장에서 거래되는 미국 시민에 대한 데이터를 분석하는 데 앤트로픽의 모델을 활용할 수 있도록 요구했으나 앤트로픽이 이를 거부하면서 협상이 무산됐다. 그러나 몇 시간 뒤 경쟁사인 오픈AI가 국방부와 계약을 체결하면서 논란이 커졌다. 앤트로픽이 거부했던 요구를 그대로 받아들였다는 비판이 이어지자 결국 오픈AI와 국방부는 계약 내용을 일부 수정했다.

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 이전부터 이런 문제를 경고해 왔다. 그는 1월 개인 웹사이트에 올린 장문의 글에서 AI 기반 대규모 감시가 ‘반인도적 범죄’로 이어질 수 있다고 주장했다. 글에서 그가 특히 우려한 부분은 미국 정부가 클로드 같은 LLM 시스템을 활용해 데이터 브로커로부터 확보한 방대한 정보를 분석하고 이를 바탕으로 시민 개개인의 상세한 정보를 대규모로 구축할 수 있다는 점이었다.

이미 AI는 감시 기술로 활용되고 있다. 여러 국가에서 얼굴 인식 기술을 이용해 시민과 외국인을 추적하고 있으며, 미국에서도 이민세관단속국(ICE)이 얼굴 인식 앱을 적극 활용해 트럼프 행정부의 대규모 추방 정책을 수행해 온 것으로 보도된 바 있다. 미국 정부를 비롯해 누구든 아모데이 CEO가 경고한 방식으로 LLM을 감시에 활용하고 있다는 확실한 증거는 아직 없지만 관련 기술에 대한 관심과 수요는 분명히 존재한다.

AI 분석가의 등장

아모데이 CEO가 경고하는 유형의 감시는 미국에서만 가능하다. 그 이유는 법의 빈틈 때문이다. 경찰이 특정 범죄와 관련해 개인을 의심하고 휴대전화 위치 데이터를 확인하려면 판사의 영장이 필요하다. 이는 미국의 수정헌법 제4조가 정부의 ‘부당한 수색’에서 개인을 보호하고 있기 때문이다.

하지만 정부가 데이터 브로커를 통해 데이터를 대량으로 구매할 경우 상황은 달라진다. 정부가 직접 수색하는 것이 아니라 이미 수집된 정보를 활용하는 것이기 때문이다. 정부는 영장 없이 개인의 위치 데이터를 직접 확인할 수 없지만, 구매한 데이터에 해당 정보가 포함되어 있고 이를 특정 개인과 연결할 수 있다면 사실상 법적 제한을 우회하는 셈이 된다.

물론 이런 데이터에서 특정 개인을 찾아내는 일은 쉽지 않다. 데이터 브로커가 판매하는 정보에는 대개 명확한 식별 정보가 제거되어 있다. 예를 들어 수백만 대 휴대전화의 위치 기록은 포함되어 있어도 전화번호는 빠져 있을 수 있다. 그렇다고 완전히 안전한 것은 아니다. 뉴욕타임스가 2019년 진행한 조사에 따르면 직장과 거주지로 보이는 위치만으로도 특정 휴대전화 소유자를 특정하는 것이 가능한 경우가 많았다.

익명 데이터를 다시 개인과 연결하려면 어느 정도 시간과 노력이 필요하지만, 사실 이는 전문 분석가뿐 아니라 숙련된 일반 사용자도 수행할 수 있는 작업이다. 실제로 법 집행 기관은 이런 데이터를 활용해 특정 범죄와 개인을 연결해 왔다. 문제는 규모다. 정부나 다른 기관들은 미국인 수천만 명의 데이터를 확보할 수 있지만, 이를 일일이 분석하는 일은 막대한 인력이 필요해 현실적으로 불가능에 가깝다. 그러나 AI 에이전트는 이 과정을 훨씬 빠르고 저렴하게 처리할 수 있다.

민주주의기술센터(Center for Democracy & Technology)의 그레그 노제임(Greg Nojeim) 보안 및 감시 프로젝트 책임자는 “앤트로픽 논란은 상업적 데이터의 법적 허점을 최대한 활용하려는 국방부의 태도를 보여준다”고 말했다.

LLM 에이전트가 해당 작업을 수행할 수 있음을 보여주는 증거도 있다. 올해 초 톈스 리(Tianshi Li) 노스이스턴 대학교 교수는 다소 아이러니한 사례를 공개했다. 리 교수는 LLM 에이전트를 활용해 AI 사용 방식에 대한 여러 과학자들의 인터뷰로 구성된 앤트로픽의 공개 데이터세트를 분석했다. 앤트로픽은 과학자들의 답변에서 일부 개인 식별 정보를 삭제했지만, 리 교수가 사용한 에이전트는 연구 내용만으로 해당 연구자가 작성한 논문을 찾아내는 데 성공했다. 물론 모든 대상을 식별하지는 못했지만 성공한 경우에는 4분 이내, 50센트 미만의 비용으로 결과를 얻을 수 있었다. 즉, 속도와 비용 면에서 매우 효율적이었다. 앤트로픽은 해당 내용에 대한 논평 요청에 응답하지 않았다.

다른 연구들도 비슷한 가능성을 보여준다. LLM은 가명 계정을 실제 인물과 연결하거나 작성자의 모국어를 추정하고 온라인 게시물에서 개인을 특정할 단서를 찾아낼 수 있었다. 일부 작업은 시간이 충분하다면 일반인도 수행할 수 있지만 모국어 식별과 같은 작업은 전문가 수준의 능력이 필요하다. 정보 소프트웨어 기업 섀도드래건(ShadowDragon)의 니코 데컨스(Nico Dekens) 수석부사장은 이에 대해 “LLM은 사실상 유능한 수사관의 역할을 수행하고 있다”고 설명했다.

이러한 결과는 LLM 에이전트가 비숙련 인력에게도 전문가 수준의 분석 능력을 제공할 수 있음을 시사한다. 리 교수는 “에이전트는 스스로 정보를 수집하고 계획을 세울 수 있어 단순한 검색 도구와는 차원이 다르다”며 “진입 장벽을 낮추는 동시에 감시의 범위를 더욱 넓힐 수 있다”고 강조했다.

정치 권력이 이를 활용할 경우 상황은 더욱 심각해질 수 있다. 비판적인 의견을 억압하거나 반대 세력을 겨냥하는 데 활용될 가능성이 있기 때문이다. 예를 들어 정부를 비판하는 소셜미디어 계정의 실제 주인을 찾아내거나 시위 참가자 명단을 작성하는 일도 가능해질 수 있다. 미국의 싱크탱크 브루킹스 연구소(Brookings Institution)의 대럴 웨스트(Darrell West) 선임 연구원은 이에 대해 “정부가 마음만 먹으면 개인을 압박할 수 있는 방법은 얼마든지 존재한다”고 말했다.

미국에서는 이러한 압박이 공항에서 과도한 추가 검색 대상으로 지목되는 것처럼 비교적 미묘한 형태로 나타날 수 있지만, 다른 국가에서는 훨씬 심각한 결과로 이어질 수 있다. 가령 중국의 위구르족은 오랫동안 정부의 감시 대상이었으며 경찰은 감시 데이터를 바탕으로 특정 개인을 조사 대상으로 삼기도 한다. 그런 조사는 심지어 구금이나 강제 노동으로 이어질 수도 있다. 또한 중국은 LLM을 감시 시스템에 통합하는 데 관심을 갖고 있는 것으로 보인다. 지난해 바이두 서버에서 발견된 자료를 보면 중국 기업들은 ‘여론 모니터링’을 위해 온라인 게시물을 분류하는 데 LLM을 활용하고 있는 것으로 나타났다. 이는 중국 정부의 주요 우선순위 중 하나다.

이 모든 사례는 LLM이 오류를 범할 수 있다는 점에서 더욱 큰 문제이다. 대규모 감시에 LLM을 사용하면 인간 분석가보다 빠르게 대규모 분석을 수행할 수 있지만, 그 결과를 모두 검증하기는 사실상 불가능하다. 게다가 이런 감시는 비밀리에 이루어지는 경우가 많기 때문에 오류로 피해를 입더라도 이를 바로잡기 어려울 수 있다.

개인정보 보호의 한계

현재로서는 이러한 우려가 현실화됐다고 단정하기는 어렵다. 미국 정보기관이 LLM을 어떻게 활용하는지는 거의 알려져 있지 않다. 대부분의 정부 기관은 AI 활용 현황을 공개해야 하지만 정보기관은 예외다. 또한 정부에 감시 관련 기술을 제공하는 기업들도 자사 기술에 관한 세부 사항을 밝히지 않는 경우가 많다.

노제임 책임자는 “정보기관의 정보 자산 수집과 활용 방식에 일정 수준의 비밀 유지가 필요한 것은 사실”이라면서도 “그러나 그런 기술이 매우 강력하고 새로우며 의회의 감독이 어려운 만큼 지금처럼 과도한 비밀주의는 우려스럽다”고 지적했다.

그럼에도 미국 정부가 LLM을 어떻게 활용할 수 있는지를 보여주는 몇 가지 징후는 존재한다. 예를 들어 이민세관단속국과 마약단속국 등 미국의 여러 정부 기관은 섀도드래건의 소프트웨어를 구독하고 있는데, 섀도드래건은 현재 LLM을 자사 도구에 통합하는 작업을 진행하고 있다. 데컨스 수석부사장은 “LLM 에이전트는 분석에 매우 뛰어난 성능을 보인다”면서 “현재로서는 LLM을 분석 보조 도구로 활용하는 것이 가장 효과적”이라고 설명했다.

정부는 이러한 역량을 충분히 활용할 수 있는 위치에 있다. 상업적으로 거래되는 대규모 데이터뿐 아니라 각 기관이 자체적으로 구축한 데이터에도 접근할 수 있기 때문이다. 과거에는 국세청(IRS)의 세금 데이터, 메디케어·메디케이드 서비스센터(CMS)의 건강 기록 등 정부 데이터가 기관별로 분리되어 있었지만, 지난해 일론 머스크(Elon Musk)가 이끄는 정부효율부가 이러한 데이터의 중앙화를 추진한 것으로 알려졌다. 데이터가 통합되고 강력한 AI 도구까지 결합된다면 정부 기관 구성원들은 이론적으로 어떤 개인에 대해서든 매우 상세한 정보를 구축할 수 있게 된다.

이러한 데이터 중앙화 시도와 LLM을 통한 분석 업무 가속화는 효율성과 경제성을 높이지만 동시에 위험성도 키울 수 있다. 레비 교수는 “비효율이 항상 나쁜 것은 아니”라며 “개인정보를 보호하려면 오히려 어느 정도의 불편과 어려움이 필요하다”고 강조했다.

대부분의 조직은 자발적으로 비효율적인 절차를 선택하지 않겠지만 의회는 이를 강제할 수 있다. 앤트로픽 사태 이후 얼마 지나지 않아 데이터 브로커에게 정보를 구매하기 전에 영장을 요구하는 법안이 발의됐다. 여론의 영향도 있었다. 오픈AI는 앤트로픽이 거부했던 국방부 계약 조건을 수용했다는 이유로 거센 비판을 받은 이후 국방부와의 계약에 감시 보호 조항을 강화하는 방향으로 계약을 수정했다.

그러나 문제는 정부에만 국한되지 않는다. 민간 기업 역시 대규모 데이터를 구매해 LLM 에이전트로 분석할 수 있다. 특히 잘 알려지지 않은 기업일수록 법적 규제나 여론의 반발에서 비교적 자유로울 수 있다. LLM 에이전트가 대규모 데이터를 활용해 수많은 개인에 대한 상세한 정보를 구축하는 것이 가능하다면 기업들은 이를 채용 지원자 조사나 보험 가입 가능성 판단 등에 활용할 수도 있다. 레비 교수는 “기업의 데이터 활용을 감시하고 책임을 묻는 일은 매우 어렵고 실제로 어떤 일이 벌어지는지조차 알기 힘들다”고 말했다.

이러한 활용을 막는 법적 장치가 마련되지 않는다면 결국 개인정보 보호에 대한 인식 자체를 다시 생각해야 할지도 모른다. 과거에도 온라인 정보로 작성자의 실제 주소를 찾아내거나 개인정보를 파악하는 일이 가능했지만 그런 작업에 시간과 노력이 많이 필요했기 때문에 비교적 안전하다고 느낄 수 있었다. 2013년 에드워드 스노든(Edward Snowden)의 폭로로 미국 국가안보국(NSA)이 미국 시민을 광범위하게 감시했다는 사실이 드러난 이후에도 많은 사람들은 정부가 자신까지 조사할 이유는 없을 것이라고 생각했다.

그러나 이러한 ‘안전함’은 시간과 노력, 그리고 대규모 데이터를 분석하는 데 필요한 기술과 자원이라는 장벽 위에 세워진 것이었다. LLM 에이전트는 그 장벽을 빠르게 허물 수 있다. 정부나 기업이 단번에 수백만 명의 정보를 분석할 수 있는 시대가 온다면 더는 누구도 감시의 시야 밖에 있다고 말하기 어려워질 것이다.

The post 법의 빈틈을 파고드는 AI…저비용 감시 시대가 온다 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.