[OPINION] AI 시대, 교황 레오 14세가 제시한 인간성을 지키는 행동 원칙

레오 14세 교황의 새 회칙은 AI를 공동선을 위한 방향으로 이끌 책임이 정부뿐 아니라 시민과 투자자에게도 있음을 강조한다.

교황 레오 14세가 인공지능(AI)을 주제로 한 새 회칙을 통해 AI 시대의 윤리적 책임과 사회적 연대를 강조했다.

교황은 회칙 「마니피카 후마니타스(Magnifica Humanitas·위대한 인간성)」에서 “기술은 결코 중립적이지 않다”는 점을 분명히 하며, AI가 인간 사회에 미치는 영향에 대해 기술계와 정책 입안자들이 진지하게 고민해야 한다고 밝혔다.

교황은 AI가 이미 인간의 삶을 변화시키고 있으며, 이는 산업혁명 이후 가장 큰 변화 중 하나라고 평가하면서 AI 기술 자체보다 이를 어떻게 활용하고 통제할 것인지가 더 중요한 과제라고 지적했다. 또한 인류가 AI 시대를 맞아 중대한 선택의 기로에 서 있다고 강조했다.

교황은 성경 속 바벨탑 이야기를 언급하며, AI가 분열과 혼란을 심화시키는 방향으로 사용될 수도 있지만 반대로 공동체와 인간성을 회복하는 수단이 될 수도 있다고 말했다.

성경 속 바벨탑 이야기에서 인간은 하늘에 닿는 거대한 탑을 세우려 했다. 그러나 하느님은 이들의 언어를 혼란스럽게 만들어 서로를 이해하지 못하게 했고, 결국 그 계획은 좌절됐다. 이 이야기는 끝없는 성장과 확장을 추구하면서도 하님의 가르침이나 인간 사회에 미칠 영향을 외면한 인간의 모습을 보여준다. 그 결과는 성공이 아닌 실패였으며 공동체의 분열과 해체로 이어졌다.

교황은 회칙에서 느헤미야서(Book of Nehemiah)를 AI 시대를 위한 성경적 비유로 제시했다. 무분별한 기술적 오만을 상징하는 바벨탑과 달리 느헤미야서는 공동체 구성원들이 힘을 모아 예루살렘을 재건하는 과정을 통해 협력과 연대의 가치를 보여준다는 것이다. 구약성경의 한 권인 느헤미야서는 기원전 6세기 바빌론 유수 이후 예루살렘으로 돌아온 유대인들이 무너진 성벽과 공동체를 재건하는 과정을 담고 있다. 느헤미야는 당시 예루살렘 성벽 재건을 이끈 지도자로 알려져 있다.

교황은 이러한 느헤미야서의 이야기가 AI 시대에도 중요한 시사점을 제공한다고 강조했다. 회칙은 “도시는 한 사람의 주도가 아니라 공동체 전체의 책임을 통해 다시 세워졌다”며 “남성과 여성, 제사장과 장인, 가장과 젊은이들이 모두 참여했다”고 설명했다. 이어 “이는 하님을 중심에 둔 재건 사업으로, 돌로 성벽을 쌓기 전에 먼저 사람들 사이의 관계를 회복하는 과정이었다”고 강조했다.

오늘날 우리가 어느 길을 향해 달려가고 있는지는 자명하다. 그리고 우리가 함께 걸어야 할 길이 무엇인지 또한 분명하지 않은가.

우리 두 필자 모두 가톨릭 신자이자 수도회 구성원으로 오랫동안 사회책임투자 운동에 몸담아 왔다. 그 운동과 우리에게 특히 중요한 점은 교황이 AI를 자연현상이나 초월적이고 이해할 수 없는 존재로 보지 않았다는 사실이다.

교황은 “AI는 결국 또 하나의 상업적 상품일 뿐”이라며 “더욱이 사회와 경제 전반에 대한 막대한 권력이 극소수에게 집중된 시대에 등장한 기술”이라고 지적했다.

이는 강력한 메시지로, 동시에 기관투자자들이 이미 수년 전부터 실천해 온 원칙이기도 하다. 이번 회칙은 새로운 논의를 제기했다기보다 이미 진행 중인 기업의 의사결정과 책임, 감독 체계를 개선하려는 거버넌스(지배구조) 움직임을 공식적으로 확인한 데 가깝다. 그 움직임은 국가나 국제기구가 아닌 주주들에 의해 주도되고 있다. 정부가 실질적인 규제에 실패하고 기업 역시 이윤을 넘어선 책임 있는 행동을 기대하기 어려운 상황에서도 시민들은 사회를 올바른 방향으로 이끌 힘을 갖고 있으며, 그 책임 또한 지고 있다.

현재 전 세계에서는 AI 시스템이 놀라울 정도로 미약한 감독 아래 대규모로 활용되고 있다. AI 안전위원회와 같은 독립 감독기구는 존재하지 않는다. 미국 연방거래위원회(FTC)는 불공정 행위에 대한 감독 권한을 갖고 있지만 알고리즘 설계 자체를 규율할 권한은 제한적이다. 미국 국립표준기술연구소(NIST) 역시 관련 지침을 내놓고 있지만 이를 따르는 기업은 많지 않다. 유럽연합(EU) AI법도 일부 시행에 들어갔지만 실제 AI 활용 영역의 극히 일부만을 다루고 있을 뿐이다.

이러한 공백을 메우기 위해 나선 것이 기관투자자들이다. 4,000억 달러(약 605조 원)가 넘는 자산을 운용하는 투자자들이 참여하는 종교간 기업책임센터(ICCR)는 최근 수년간 주주총회마다 AI 활용의 투명성과 위험 평가, 책임성 강화를 요구하는 주주 제안을 꾸준히 제출해 왔다.

종교계 투자자들만의 움직임도 아니다. 일반 기관투자자들 역시 AI 거버넌스 실패를 단순한 윤리 문제가 아닌 중대한 경영 리스크로 인식하며 이에 동참하고 있다.

이들은 알파벳과 아마존, 엔비디아, 팔란티어, 우버 등 주요 기술 기업들에 AI가 폭력이나 인권 침해에 활용되지 않도록 책임 있는 관리 체계를 마련하라고 요구해 왔다. 이러한 문제의식은 이란과의 전쟁이 시작된 직후 비극적인 방식으로 현실이 됐다. AI가 수천 건의 미사일 공격 목표를 식별하는 데 활용됐고 그 결과 수백 명이 목숨을 잃었다.

투자자들은 미국 의료기업 CVS 헬스와 유나이티드헬스그룹 경영진에게도 AI가 환자의 복지를 해치거나 미국 의료 서비스의 질을 저하하는 데 사용되지 않도록 보장할 것을 요구해 왔다.

메타와 마이크로소프트에서는 AI 데이터센터가 초래하는 환경 부담 역시 주요 쟁점으로 떠올랐다. 이들 시설은 막대한 전력과 귀중한 수자원을 소비하고 상당한 양의 온실가스를 배출할 수 있기 때문이다.

창작 산업에서도 압박은 이어지고 있다. 투자자들은 디즈니와 넷플릭스, 워너브라더스 경영진에게 AI 활용 방식에 대한 투명성을 높이고 스토리텔링에 담긴 인간 고유의 창의성을 보호할 것을 요구하고 있다.

오픈AI와 앤트로픽, 그록 역시 머지않아 증시에 입성할 것으로 예상되는 만큼 투자자들은 현재 비상장 기업인 이들에도 비슷한 영향력을 행사할 수 있게 될 전망이다.

투자자들이 이 같은 활동에 나서는 이유는 단순히 기업의 문제를 지적하기 위해서만은 아니다. 그 밑바탕에는 결코 변하지 않는 원칙이 있다. 기술을 이용해 사람을 죽이거나 해를 끼치고 억압하는 것은 잘못이라는 점이다. 모든 사람은 안전하고 효과적인 의료 서비스를 받을 권리가 있으며 존엄한 삶을 영위할 기회를 보장받아야 한다. 또한 우리가 서로에게 들려주는 이야기는 중요하며, 그 이야기에는 인간만이 만들어낼 수 있는 창의적 영감이 필요하다.

투자자 운동에 참여하는 이들은 다양한 종교적 전통을 배경으로 한다. 특정 종교를 믿지 않는 이들도 적지 않다. 그러나 이들은 모두 충분한 정보에 기반한 끈질긴 활동을 통해 교황 레오 14세의 회칙에 담긴 메시지를 실천하고 있다. 특히 “AI가 공공재와 기본권에 영향을 미치는 경우에는 명확한 기준과 효과적인 감독 아래 활용돼야 한다”는 회칙의 선언을 행동으로 옮기고 있다.

회칙은 시대를 기록하는 문서다. 100년 뒤 사람들은 우리가 이 순간에 어떻게 대응했는지를 어떻게 평가할까. 상상을 초월하는 부와 권력을 가진 소수의 사람들이 인류 공동의 미래를 점점 더 강하게 통제하는 것을 막기에는 우리가 지나치게 소극적이었고 근시안적이었다고 기억하게 될까.

아니면 지금 이 순간을 공동의 인간성을 다시 세우기 시작한 역사적 전환점으로 기억하게 될까. 부디 이 시대가 선의를 가진 사람들과 다양한 재능을 지닌 이들이 함께 힘을 모아 위대한 인간성을 발휘하고, 창조주의 뜻에 부합하는 미래를 만들어간 시대로 기억되기를 바란다.

이 글을 쓴 세이머스 핀(Seamus Finn) 신부는 오블라테 선교회(Oblates of Mary Immaculate) 소속 사제로 신앙 기반 투자와 사회책임투자 분야를 이끄는 국제적 전문가이며, 수전 프랑수아(Susan Francois) 수녀는 성 요셉 평화수녀회(Sisters of St. Joseph of Peace)의 부대표이자 재무 책임자를 맡고 있다.

The post [OPINION] AI 시대, 교황 레오 14세가 제시한 인간성을 지키는 행동 원칙 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.