Google, BKL 온라인 안전 포럼: 디지털 신뢰 구축 방문기

개요

AI 시대의 디지털 신뢰를 주제로 한 포럼에 다녀왔다.

이번 포럼은 AI가 만들어내는 편의와 가능성만큼, 그 기술이 악용될 때 발생하는 위험도 함께 다루는 자리였다. 전반부에서는 사기, 허위정보, 딥페이크 대응과 디지털 신뢰 구축을 다뤘고, 후반부에서는 디지털 및 AI 시대의 아동·청소년 보호와 성장에 대한 논의가 이어졌다.

평소 보안 취약점 분석이나 퍼징처럼 비교적 기술적인 주제를 주로 접하다 보니, 이번 자리는 조금 다른 방향에서 생각해볼 수 있는 시간이었다. 기술 자체를 잘 만드는 것만큼이나, 그 기술이 사람에게 어떤 영향을 주는지, 사회가 어떤 기본값을 가져야 하는지도 중요하다는 것을 다시 느꼈다.

AI가 편해질수록 범죄도 편해진다

AI의 발전은 사용자 입장에서 분명 많은 이점을 준다.

검색이 쉬워지고, 번역이 자연스러워지고, 문서 작성이나 이미지 생성도 훨씬 편해졌다. 예전에는 전문적인 기술이나 장비가 필요했던 일들이 이제는 간단한 프롬프트 몇 줄로 가능해졌다.

문제는 이 편의성이 선한 사용자에게만 주어지는 것이 아니라는 점이다.

딥페이크 영상, 음성 복제, 합성 이미지, 자동화된 피싱 메시지처럼 AI를 악용한 범죄도 점점 접근하기 쉬워지고 있다. 기술의 진입장벽이 낮아진다는 것은 창작과 생산의 장벽이 낮아진다는 뜻이기도 하지만, 동시에 범죄의 장벽도 낮아진다는 뜻이 될 수 있다.

특히 딥페이크는 더 이상 멀리 있는 기술이 아닌 것 같다. 얼굴, 목소리, 말투를 흉내 내는 기술이 빠르게 대중화되면서 개인의 명예, 금융 사기, 성범죄, 정치적 허위정보까지 다양한 문제로 이어질 수 있다.

현장에서 들으며 적어둔 메모 중 가장 강하게 남은 숫자는 딥페이크 관련 범죄 증가 속도였다. 발표에서는 2023년부터 2025년 사이 딥페이크 관련 파일 수가 크게 늘었고, 아시아·태평양 지역도 북미 다음으로 큰 영향을 받고 있다는 취지의 설명이 있었다.

초기에는 금융 사기나 정치적 조작처럼 비교적 한정된 영역에서 쓰이던 딥페이크가, 이제는 숏폼 영상, 음성 복제, 비동의 성착취물, 투자 사기, 기관 사칭 등으로 빠르게 번지는 것처럼 보였다. 특히 여성 대상 비동의 성착취와 같은 문제는 기술 악용이 개인의 삶을 직접적으로 무너뜨릴 수 있다는 점에서 더 무겁게 다가왔다.

이 시대의 범죄와의 전쟁은 단순히 더 강한 처벌만으로 해결되기 어렵다. 기술이 빠르게 변하고, 공격자도 그 기술을 똑같이 활용하기 때문이다. 결국 탐지 기술, 플랫폼 정책, 법 제도, 이용자 교육이 함께 움직여야 한다.

디지털 신뢰는 국내 문제로만 끝나지 않는다

이번 포럼에서 인상 깊었던 지점 중 하나는 온라인 사기와 딥페이크 대응이 더 이상 한 국가 안에서만 해결할 수 있는 문제가 아니라는 점이었다.

AI를 활용한 범죄는 국경을 쉽게 넘는다.

공격자는 한 국가에 있을 수 있고, 인프라는 다른 국가에 있을 수 있으며, 피해자는 또 다른 국가에 있을 수 있다. 언어, 결제 수단, 플랫폼, 법 관할이 모두 다르게 얽히면 한 기관이나 한 기업만으로 대응하기 어려워진다.

그래서 국제적 협력과 신호 공유가 중요하다는 이야기가 크게 와닿았다.

스팸, 피싱, 악성 앱, 딥페이크 콘텐츠처럼 빠르게 확산되는 위협은 한 곳에서 발견된 신호가 다른 곳에서도 곧바로 의미를 가질 수 있다. 보안에서도 IOC, TTP, 위협 인텔리전스 공유가 중요한 것처럼, AI 시대의 디지털 신뢰도 서로 다른 플랫폼과 기관 사이의 신호 공유가 핵심이 될 것 같다.

법은 기준선을 만들 수 있지만, 법만으로 실시간 위협을 모두 막기는 어렵다. 기술은 빠르고, 공격자는 유연하다. 그래서 법과 기술, 플랫폼 운영, 민간 협력이 같이 가야 한다는 말이 현실적으로 들렸다.

또 하나 기억에 남은 점은 국가별로 딥페이크 악용 양상이 조금씩 다르게 소개됐다는 것이다. 어떤 국가는 금융 사기 중심으로, 어떤 국가는 정치적 조작과 결합된 형태로, 또 어떤 국가는 젠더 기반 피해와 결합된 형태로 문제가 나타난다는 설명이 있었다.

결국 딥페이크는 단순한 콘텐츠 조작 기술이 아니라, 금융 안정성, 선거 신뢰, 기관 간 신뢰, 개인 안전까지 흔들 수 있는 문제다. 그래서 국가 간 협력뿐 아니라 플랫폼, 언론, 연구자, 정부기관 사이의 신호 공유가 더 중요해질 수밖에 없다고 느꼈다.

아동·청소년 보호는 차단만으로 끝나지 않는다

후반부의 아동·청소년 보호 논의도 기억에 남았다.