[한국미래일보=김서현 대학생 기자]

pixabay 제공.향후 AI 규제는 단순한 의무 부과를 넘어 실제 효과를 검증하고 보완하는 방향으로 설계돼야 한다는 목소리가 커지고 있다. 29일 글로벌 시장조사업체 스태티스타에 따르면 2025년 기준 미국의 AI 관련 규제는 약 58건으로 집계됐다. 2016년 1건 수준이었던 것과 비교하면 10년 사이 60건에 가까운 수준으로 급증한 셈이다.

한국도 2025년까지 17건의 관련 규제 법안이 통과되며 글로벌 AI 규제 상위권 국가로 꼽히고 있다. 특히 한국은 전 세계에서 두 번째로 AI 기본법을 제정한 국가다. 현재 하위법령 작업과 실제 적용을 위한 유예 기간, 법안 개정 논의 등이 함께 진행되고 있다.

그러나 규제의 양적 확대가 곧바로 실효성을 담보하는 것은 아니라는 지적도 나온다. 대표적인 사례가 AI 콘텐츠 표시·라벨링 제도다. 생성형 AI 콘텐츠 여부를 이용자에게 알리는 제도는 투명성을 강화하고 허위 정보 확산을 막기 위한 장치로 도입되고 있지만, 실제 플랫폼 환경에서는 예상치 못한 부작용도 나타나고 있다.

미국 서던캘리포니아대(USC) 마셜경영대학원 연구진이 최근 발표한 연구에 따르면, 틱톡에서 AI 생성·편집 표기가 붙은 게시물은 일반 게시물보다 이용자 참여도가 약 7% 낮았다. 연구진은 이 결과가 단순히 콘텐츠 품질에 대한 우려나 신기술 거부감 때문이 아니라, 이용자가 창작자와 느끼는 정서적 유대감이 약해졌기 때문이라고 분석했다. AI가 만든 콘텐츠라는 사실을 인지하면 이용자는 창작자의 노력과 개입에 덜 공감하게 된다는 것이다.

이에 따라 빅테크 기업들도 대응 방식을 고민하고 있다. 구글은 AI 콘텐츠에 육안으로 보이지 않는 디지털 워터마크를 새기는 신스ID 기술을 확대하고 있으며, 오픈AI도 이미지에 디지털 출처 정보와 신스ID를 적용하겠다고 밝혔다. 틱톡은 이용자가 AI 콘텐츠 노출량을 직접 조절할 수 있는 기능을 도입했다.

문제는 AI 표시 여부만으로는 플랫폼 내 저품질 콘텐츠 확산을 막기 어렵다는 점이다. IT 전문 외신 더넥스트웹이 동영상 편집 기업 캡윙의 조사를 인용해 보도한 내용에 따르면, 새로 만든 틱톡 계정에 노출된 추천 영상 500개 가운데 294개, 즉 59%가 AI 콘텐츠인 ‘AI 슬롭’으로 분류됐다. 유튜브의 21%보다 3배 가까이 높은 수준이다.

결국 향후 AI 규제의 핵심은 규제의 숫자를 늘리는 데 있지 않다. 규제의 목적은 기술을 막는 것이 아니라, 신뢰 가능한 환경에서 기술이 활용되도록 방향을 잡는 데 있다. AI 콘텐츠를 표시하는 형식적 절차를 넘어, 허위 콘텐츠를 걸러내고 창작자의 기여와 출처를 드러내는 실효성 있는 체계가 필요하다.