X (구 '트위터') 영상 캡처 [한국미래일보=안예나 대학생 기자] 

 최근 야구장 관중석에서 경기를 관람하는 미모의 여성을 포착한 중계 화면을 담은 짧은 영상이 SNS상에서 큰 화제가 되었다. 지난 1일, ‘티비에 내가 나왔으면 좋겠다’는 설명이 붙은 이 영상은 사흘 만에 조회수 800만회를 돌파하며 사람들의 폭발적인 관심을 끌었다. 하지만 영상 속 여성은 실존 인물이 아닌 인공지능이 만들어낸 가상의 존재임이 뒤늦게 밝혀졌다. 

 초기에는 열광하던 대중들이 곧 영상에 대한 의구심을 품기 시작했다. 한국 야구 중계에서 영어 음성이 흐르고 있다는 점, 영상의 왼쪽 상단에 떠 있는 점수표에 적혀 있는 선수의 이름이 이미 은퇴한 선수라는 점, 소속팀과 응원 문구가 실제와 맞지 않다는 점을 들어 해당 영상이 AI 생성물이라고 지적하였다. 야구팬들은 해당 영상이 AI라는 것을 비교적 쉽게 파악할 수 있었지만 문제는 일반 대중들이다. 이러한 배경지식이 없는 일반 대중들이 이를 구분하기란 사실상 불가능하기 때문이다. 

생성형 AI가 만든 '늑구' 목격 사진

  문제는 이런 사례가 단순한 해프닝을 넘어 사회적 혼란을 야기하고 있다는 점이다. 실제로, 지난달 대전 오월드 동물을 탈출한 ‘늑구’에 대한 수색 당시 생성형 AI가 만든 가짜 목격 사진이 유포되어 초기 수색에 큰 혼선을 초래하였다. 이후 언론을 통해 해당 사진이 가짜 사진임이 보도되었음에도 이를 알지 못하던 사람들은 실제 사진으로 믿어 공포심에 휩싸였다. 사진을 유포한 40대 남성은 경찰 수사력을 낭비시킨 혐의로 검거되었으며 AI 기술의 양면성에 대해 극명히 깨달을 수 있는 사례였다. 이처럼 AI 기술은 초상권 침해를 넘어 딥페이크 범죄, 행정력 낭비라는 치명적인 양면성을 드러내고 있다. 

 우리나라는 올해 1월부터 AI 생성물에 워터마크 표시를 의무화하는 ‘AI 기본법’을 시행하고 있다. 그러나 이 법은 AI 모델을 개발하는 기업과 사업자를 대상으로 할 뿐, AI 도구를 사용하는 개인 창작자나 유포자에게는 강제성이 없다. 사실상 법적 사각지대에 놓여있는 셈이다. 

 이에 전문가들은 AI 생성물임을 나타내는 디지털 표식을 강제하는 ‘의무적 워터마크’ 제도 도입을 적극 검토해야 한다고 주장한다. 개인이 배포하는 AI 콘텐츠에도 워터마크를 의무화하여 최소한 대중이 정보를 수용할 때 비판적인 시각을 가질 수 있도록 돕는 역할을 하기 위해서다. 빠르게 발전하는 AI 기술에 맞춰 더욱 실효성 있는 법적 규제 마련이 시급한 시점이다.