[한국미래일보=김승은 대학생 기자] 오늘날, 보이스피싱과 같은 사기 범죄부터, 누구나 쉽게 접할 수 있는 유튜브 영상에서까지 인공지능(AI)의 기술은 깊게 자리 잡고 있다.

최근에는 자녀의 음성을 복제해 전화를 걸어오거나, 은행 및 관공서 직원을 사칭한 ‘음성 사기’도 만연하다. 더 이상 사람이 흉내 내었을 때의 어색함이나 서투름은 느껴지지 않고 완벽한 스미싱이 가능해진 것이다.

이뿐만이 아니다. 

미국 온라인 커뮤니티 영상

이처럼 AI가 가공한 가상의 영상은 세대를 불문하고, 시공간적 제약 없이 접할 수 있는 유튜브나 인스타그램 등 다양한 온라인 플랫폼에 확산되고 있다. 이미지와 영상을 다루는 인공지능 기술의 발전은 여러 분야에서 주목받고 있으나, 동시에 그로 인해 돌이킬 수 없는 사회 문제가 발생하고 있다.

특히 ‘숏폼’의 홍수 속에서 긴 영상보다는 짧고 강렬한 콘텐츠가 주로 소비되다 보니, 쏟아지는 교묘하고, 섬세한 인공지능(AI) 영상은 그 진위를 판단해 가며 보기가 어려울 수밖에 없는 것이 현실이다.

AI 기술을 이용한 가짜 뉴스(영상) 유포, 음성 기반 스미싱 사기 등에 대한 정부의 강력한 규제와 시민 개인 차원의 노력이 동시에 이뤄져야 한다.

형법 개정을 통해 인공지능 기술을 활용하여 사회적 혼란을 야기하거나 개인을 기망하는 경우, 이러한 행위들을 처벌 대상으로 삼는다는 등의 특별법 또는 형법 조항이 견고히 제정되어야 할 것이다. 또한 AI 콘텐츠의 경우, 인공지능을 활용하여 제작된 영상 및 음성임을 밝히는 표시제를 도입하거나 노인 등 정보 취약 계층을 대상으로 한 AI 범죄 예방 교육 또한 필요해 보인다.

AI 범죄는 날이 갈수록 섬세해지고, 그 방식 또한 교묘해지고 있다. 급변하고 있는 시대와 정보의 홍수 속에 휩쓸려 옳은 뉴스, 객관적 정보를 놓치게 된다면 누구나 범죄의 대상이 되고, 사실과 다른 정보에 기반한 판단 속에 살아갈 위험이 존재할 것이다.