AI로 더 교묘해진 사기 수법

AI 도구의 등장으로 온라인 범죄자들이 사람들을 속여 돈과 귀중한 기밀 데이터를 훔치는 것이 그 어느 때보다 쉬워졌다.

2022년 말 챗GPT가 대중에 공개되면서 사람들은 단순한 프롬프트만으로 생성형 AI가 인간처럼 보이는 방대한 양의 텍스트를 얼마나 쉽게 만들어낼 수 있는지 깨닫게 됐다. 이는 곧 범죄자들의 관심을 끌었고, 이들은 대형언어모델(LLM)을 활용해 악성 이메일을 생성하기 시작했다. 결과적으로 무차별적인 스팸 메일뿐 아니라 금전이나 민감한 정보를 탈취하기 위한 정교한 표적 공격도 빠르게 확산됐다.

이후 사이버 범죄자들은 AI 도구를 활용해 범죄 활동을 한층 고도화해 왔다. 피싱 이메일 작성은 물론, 초현실적이고 설득력 있는 딥페이크 영상 제작, 탐지를 회피하기 위한 악성 소프트웨어(멀웨어) 변형까지 AI가 폭넓게 활용되고 있다. 또한 네트워크와 시스템의 취약점을 자동으로 탐색하고, 몸값 요구서를 신속히 생성하며, 탈취한 방대한 데이터에서 가치 있는 정보를 선별하는 데에도 AI가 사용되고 있다.

해킹 자체에 미치는 AI의 영향은 아직 명확히 규정하기 어렵다. 다만 한 가지는 분명하다. AI는 공격자의 진입 장벽을 낮추고, 끊임없이 진화하는 새로운 도구를 제공하며, 공격 시도를 더 빠르고 저렴하며 손쉽게 만들고 있다는 점이다.

예를 들어 인터폴은 동남아시아 전역의 사기 조직들이 저렴한 AI 도구를 활용해 더 많은 잠재적 피해자를 빠르게 겨냥하고, 필요에 따라 활동 거점을 신속히 이동하고 있다고 경고했다. 또한 아랍에미리트는 최근 자국 핵심 인프라를 겨냥한 AI 기반 공격을 차단했다고 밝히기도 했다.

이처럼 대량으로 무차별적으로 쏟아지는 공격이 반드시 정교하지는 않아도 된다. 방어가 취약한 시스템에 우연히 침투하거나, 적절한 시점에 의심하지 않는 피해자의 이메일에 도달하기만 해도 충분히 효과를 낼 수 있기 때문이다. 이미 많은 조직이 감당하기 어려울 정도의 사이버 공격에 시달리고 있으며, 범죄자 수 증가와 생성형 AI 성능 향상으로 상황은 더욱 악화될 가능성이 크다.

4월 초 AI 기업 앤트로픽은 자사가 개발 중인 모델 ‘미토스(Mythos)’가 주요 운영체제와 웹 브라우저 전반에서 수천 건의 심각한 취약점을 발견했다고 밝혔다. 해당 취약점은 모두 패치된 상태지만, 앤트로픽은 이러한 기능의 잠재적 위험성을 고려해 모델 출시를 연기했다. 대신 기술 기업들과 함께 ‘프로젝트 글래스윙(Project Glasswing)’이라는 컨소시엄을 구성해 해당 기술을 방어 목적으로 활용하는 방안을 모색하고 있다.

현재 사이버 보안 연구자들은 비교적 허술한 공격은 기본적인 보안 조치만으로도 충분히 막을 수 있다고 보고 있다. 이에 따라 소프트웨어 업데이트를 유지하고 네트워크 보안 프로토콜을 준수하는 것이 무엇보다 중요하다고 강조한다. 그러나 앞으로 더욱 정교해질 공격에 얼마나 효과적으로 대응할 수 있을지는 여전히 불확실하다.

다행히 AI는 방어 측면에서도 활용되고 있다. 마이크로소프트는 매일 자사 AI 시스템이 잠재적으로 악성 또는 의심스럽다고 판단한 100조 건 이상의 신호를 처리하고 있다고 밝혔다. 또한 2024년 4월부터 2025년 4월 사이 약 40억 달러(약 6조 원) 규모의 사기 및 부정 거래를 차단했으며, 이 중 상당수는 AI 기반 콘텐츠와 관련된 것으로 추정된다고 설명했다.

결국 공격을 가능하게 만든 바로 그 기술이, 앞으로 우리의 보안을 지키는 가장 강력한 방어 수단이 될 가능성도 있다.

The post AI로 더 교묘해진 사기 수법 appeared first on MIT 테크놀로지 리뷰 | MIT Technology Review Korea.