[OPINION] 민주주의를 강화하기 위한 AI 활용 청사진

AI가 빠르게 확산되면서 민주 시민으로 살아간다는 것의 의미도 달라지고 있다. AI를 더 나은 방향으로 활용할 방법은 무엇일까?

몇 세기에 한 번씩, 정보가 전달되는 방식이 크게 바뀔 때마다 정치와 사회의 작동 방식도 함께 달라졌다. 인쇄술이 발달하면서 사람들은 각자의 언어로 된 글을 더 널리 읽고 쓸 수 있게 되었고, 이는 종교개혁과 훗날 대의제 정부의 성장으로 이어졌다. 전신이 등장하자 미국처럼 넓은 나라에서도 중앙정부가 더 빠르게 정보를 주고받으며 국가를 체계적으로 운영할 수 있게 되었다. 라디오와 텔레비전 같은 방송 매체가 확산된 뒤에는 전 국민이 같은 이슈와 메시지를 접하는 공통의 장이 만들어졌고, 이는 대중 민주주의의 성장을 뒷받침했다.

이제 우리는 또 한 번의 거대한 변화가 시작되는 지점에 서 있다. 많은 사람이 생각하는 것보다 훨씬 빠른 속도로, AI는 우리가 신념을 형성하고 민주적 자기 통치에 참여하는 핵심 통로가 되고 있다. 이러한 변화를 방치하면 이미 취약해진 미국의 민주주의 제도는 더 큰 압박을 받을 수 있다. 그러나 반대로, 시민 참여 저하나 양극화 심화처럼 오래된 문제를 해결하는 데 AI가 도움을 줄 수도 있다. 결국 앞으로 상황이 어떻게 전개될지는 AI를 어떤 기준과 원칙에 따라 만들고 운영하느냐에 달려 있다.

그렇다면 AI가 어떠한 변화를 주도하고 있는지, 그리고 이러한 변화에 어떻게 대응해야 하는지에 대해 우리가 정보를 인식하는 방식, 행동하는 방식, 정치에 참여하는 방식까지 세 가지 관점에서 살펴보겠다.

먼저 정보에 대한 우리의 인식과 관련된 문제부터 살펴보자. 사람들은 무엇이 사실인지, 지금 무슨 일이 일어나고 있는지, 누구를 믿어야 하는지 판단할 때 AI에 점점 더 의존하고 있다. 검색은 이미 상당 부분 AI를 거쳐 이루어진다. 차세대 AI 비서는 정보를 모으고 정리한 뒤 특정한 관점에서 설명하면서 권위 있는 답처럼 제시할 것이다. 앞으로 더 많은 사람에게 AI에 질문하는 일은 후보자, 정책, 공적 인물에 대한 견해를 형성하는 기본 방식이 될 것이다. 그러면 AI가 어떤 답을 내놓게 할지 결정하는 쪽은 사람들이 무엇을 믿고 어떤 생각을 갖게 될지에도 점점 더 큰 영향을 미치게 된다.

기술은 언제나 시민이 정보를 접하고 해석하는 방식을 바꿔왔다. 그러나 곧 더 큰 문제가 등장할 수 있다. 바로 개인 AI 에이전트, 즉 사용자를 대신해 조사하고 판단하고 행동하는 AI 시스템이다. 이런 시스템은 사람들이 정보를 받아들이는 방식뿐 아니라 그 정보에 따른 실제 행동까지 바꿀 수 있다. AI 에이전트는 자료를 조사하고, 메시지를 작성하고, 관심을 가질 만한 의제를 골라내며, 사용자를 대신해 로비 활동까지 벌일 수 있다. 투표안에 찬성할지 반대할지, 어떤 단체를 후원할 가치가 있는지, 정부 통지에 어떻게 대응해야 하는지 같은 결정에도 영향을 미칠 것이다. 결국 AI 에이전트는 개인과 그 개인을 통치하는 제도 사이의 관계를 중간에서 이어주는 존재가 될 수 있다.

우리는 이미 소셜미디어를 통해 알고리즘이 이해보다 참여도에 맞춰 최적화될 때 어떤 일이 일어나는지 목격한 바 있다. 소셜미디어 플랫폼에 특정한 정치적 목적이 없더라도 이용자들 간의 양극화와 급진화는 심화될 수 있다. 사용자의 선호와 불안을 잘 알고 있으며 사용자를 계속 붙잡아두도록 설계된 에이전트도 이와 같은 위험을 안고 있다. 게다가 에이전트의 경우에는 위험을 알아차리기가 더 어려울 수 있다. 에이전트가 스스로를 사용자의 편에 선 조력자로 보이게 하기 때문이다. AI 에이전트는 사용자를 대신해 말하고 행동한다. 그리고 바로 그 친밀함 때문에 더 쉽게 신뢰를 얻을 수 있다.

이제 시야를 사회 전체로 넓혀보자. 머지않아 AI 에이전트와 인간은 같은 온라인 토론장이나 공적 절차에 함께 참여하게 될 수 있으며, 그곳에서는 누가 사람이고 누가 AI인지 구분하기 어려울지도 모른다. 설령 각각의 AI 에이전트가 잘 설계되어 있고 사용자의 이익에 맞춰 작동한다고 해도, 수백만 개의 에이전트가 함께 움직이면 어느 누구도 원하거나 선택하지 않은 결과로 이어질 수도 있다. 예를 들어 연구에 따르면 개별적으로는 편향을 보이지 않는 에이전트들도 대규모로 모이면 집단적 편향을 만들어낼 수 있다고 한다. 에이전트들이 서로에게 어떤 영향을 미치는지도 문제지만, 이들이 사용자들을 위해 무엇을 대신하는지도 중요하다. 모든 사람이 자신의 기존 견해에 맞춰 반응하는 개인 AI 에이전트를 갖게 된 공간은 겉보기에는 공론장처럼 보일 수 있지만, 실제로는 각자가 자기 생각에 맞는 정보와 주장만 접하는 ‘닫힌 세계들’의 집합에 가까워질 수 있다. 그리고 이는 민주주의에 필요한 토론과 숙의를 어렵게 만든다.

종합하면, 우리가 정보를 인식하는 방식, 행동하는 방식, 정치에 참여하는 방식에서 AI로 인해 일어나는 이러한 변화들은 시민으로 살아간다는 것의 의미 자체를 근본적으로 바꾸고 있다. 가까운 미래에 사람들은 AI 필터를 통해 정치적 견해를 형성하고, AI 에이전트를 통해 시민으로서 판단하고 행동하며, 수백만 개의 에이전트가 상호작용하면서 형성되는 제도와 공적 논의에 참여하게 될 것이다.

오늘날의 민주주의는 아직 이런 변화에 제대로 대비하지 못하고 있다. 지금의 민주주의 제도는 권력이 비교적 눈에 보이는 방식으로 행사되고, 정보가 반박과 검증을 거칠 수 있을 만큼 천천히 퍼지며, 사람들이 완벽하지는 않아도 어느 정도 같은 현실을 공유한다고 믿을 수 있던 시대에 만들어졌다. 물론 이런 전제는 생성형 AI가 등장하기 전부터 이미 흔들리고 있었다. 그렇다고 해도 이러한 변화가 반드시 민주주의의 쇠퇴로 이어져야 하는 것은 아니다. 그런 결과를 피하려면 AI가 민주주의에 도움이 되는 방향으로 작동하도록 설계해야 한다. 그렇다면 어떻게 대응해야 할까?

우선 정보의 측면에서 AI 기업들은 모델이 사실에 맞는 답을 내놓도록 하는 노력을 한층 강화해야 한다. 동시에 AI가 양극화를 줄이는 데 도움이 될 수 있다는 초기 연구 결과에도 주목할 필요가 있다. 소셜미디어 플랫폼 X(구 트위터)에서 AI가 생성한 사실 확인용 주석들을 평가한 최근 연구에 따르면 다양한 정치 성향의 사람들은 사람이 작성한 주석보다 AI가 작성한 주석을 더 유용하다고 평가했다. 이 논문은 아직 동료평가를 거치지 않았지만 중요한 가능성을 보여준다. AI를 활용한 ‘팩트 체크’가 그동안 사람이 직접 수행한 방식으로는 얻기 어려웠던 초당파적 신뢰를 확보할 수 있음을 시사하기 때문이다. 여기에 모델이 어떤 근거로 답을 만들고 어떤 출처를 우선적으로 반영하는지 더 투명하게 설명할 수 있다면 대중의 신뢰도 높아질 수 있을 것이다.

AI 에이전트의 측면에서는 에이전트가 사용자를 제대로 대표하고 있는지 평가할 방법이 필요하다. 에이전트는 사용자의 뜻과 다른 방향으로 움직여서는 안 되며, 사용자의 견해를 왜곡해서도 안 된다. 이는 기술적으로 매우 어려운 일이다. 특히 사용자가 자신의 선호를 명확히 밝히지 않은 사안에서는 더 그렇다. 그러나 사용자를 충실하게 대표한다는 말이 사용자의 기존 생각을 무조건 정당화해준다는 뜻이 되어서도 안 된다. 불편한 정보를 보여주지 않거나, 사용자가 자신의 믿음을 의심할 기회를 차단하거나, 사용자의 생각이 바뀌었는데도 그 변화를 반영하지 못하는 에이전트는 진정으로 사용자의 이익을 위해 행동한다고 보기 어렵다.

마지막으로 제도적 측면에서 정책 입안자들은 AI를 활용해 정부와 공공 제도가 시민의 요구에 더 잘 반응하고 더 큰 정당성을 갖게 하는 방안을 서둘러 마련해야 한다. 이미 미국의 몇몇 주와 지방정부는 AI가 토론을 중재하는 플랫폼을 활용해 많은 시민이 공공 의제를 논의하는 절차를 진행하고 있다. 이는 AI 중재자가 시민들이 공통분모를 찾는 데 도움을 줄 수 있다는 연구에 기반한다. 앞으로 공공 의견 수렴 과정에는 AI 에이전트의 참여가 점점 더 늘어날 가능성이 크다. 게다가 이미 AI 봇이 이러한 절차를 왜곡하고 있다는 연구 결과도 있다. 따라서 사람뿐 아니라 사람을 대신해 참여하는 AI 에이전트의 신원까지 확인할 수 있는 장치를 제도 안에 처음부터 마련해야 한다.

지금 필요한 것은 이미 현실이 된 변화에 맞춰 민주주의의 기반을 새로 구축하는 일이다. 여기에는 기술적 장치와 제도적 장치가 모두 필요하다. AI처럼 영향력이 큰 영역에서 민주주의에 도움이 되는 방향을 분명히 정하지 않는다면 결국 다른 목적과 이해관계가 그 자리를 차지하게 될 것이다. 책임지지 않는 권력이 어떤 결과를 낳아왔는지 돌아보면 그 방향이 바람직할 것이라고 기대하기는 어렵다.

이 글을 쓴 앤드루 소로타(Andrew Sorota)와 조시 헨들러(Josh Hendler)는 에릭 슈미트 구글 전 CEO의 개인 사무소에서 AI와 민주주의 관련 업무를 이끌고 있다.

The post [OPINION] 민주주의를 강화하기 위한 AI 활용 청사진 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.