[한국미래일보=이재원 기자] 8월 2일부터 유럽연합(EU)의 인공지능법(AI Act)이 본격적인 집행 단계에 들어갔다. 이번 단계에서는 범용 인공지능(General Purpose AI) 모델에 대한 새로운 의무가 적용되며, 생성형 AI를 활용하는 기업은 콘텐츠 투명성과 저작권 준수, 기술 문서 관리 등 다양한 기준을 충족해야 한다. 위반 시에는 최대 전 세계 매출의 7% 또는 3,500만 유로에 이르는 과징금이 부과될 수 있다.

AI Act는 세계 최초의 종합적인 인공지능 규제법이라는 점에서 의미가 크다. 단순히 AI 개발을 제한하는 것이 아니라 위험 수준에 따라 규제를 차등 적용하는 '위험 기반(Risk-based)' 접근을 채택했다. 사회적 위험이 매우 큰 AI는 금지하고, 의료·교육·채용처럼 국민의 권리에 직접 영향을 미치는 분야는 고위험 AI로 관리하며, 생성형 AI는 투명성과 책임성을 강화하는 방향으로 규제한다.

이번 시행으로 가장 큰 변화를 맞는 분야는 생성형 AI 콘텐츠이다. 앞으로 기업은 AI가 생성한 이미지·영상·음성 등 일정한 콘텐츠에 대해 이용자가 AI 생성물임을 인지할 수 있도록 표시해야 한다. 특히 딥페이크처럼 실제 인물과 혼동될 가능성이 있는 콘텐츠는 명확한 표시 의무가 적용된다. 또한 AI 모델 개발 과정에서 저작권이 있는 데이터를 어떻게 활용했는지에 대한 정보도 요구받게 된다.

기사와 관련 없는 이미지

한국 기업이라고 해서 이러한 변화와 무관한 것은 아니다. 국내 기업이 EU 시장에서 AI 서비스를 제공하거나 유럽 이용자를 대상으로 생성형 AI 서비스를 운영한다면 AI Act의 적용 대상이 될 수 있다. 따라서 글로벌 서비스를 운영하는 플랫폼 기업은 물론, 교육 콘텐츠 기업, 출판사, 마케팅 회사, 영상 제작사도 새로운 기준을 고려해야 한다.

물론 규제를 둘러싼 우려도 존재한다. 대형 글로벌 기업은 법무와 기술 인력을 통해 대응할 수 있지만, 중소기업이나 스타트업은 문서 작성과 위험 평가, 표시 의무를 이행하는 과정에서 상당한 비용 부담을 느낄 수 있다. 혁신을 촉진하기 위해 만들어진 AI 산업이 지나친 규제로 인해 오히려 성장 속도가 늦어질 수 있다는 지적도 나온다.

반면 규제의 필요성을 강조하는 목소리도 적지 않다. 생성형 AI가 빠르게 발전하면서 허위 정보와 딥페이크, 저작권 침해, 사칭 범죄가 사회 문제로 확대되고 있기 때문이다. 실제와 구별하기 어려운 콘텐츠가 늘어날수록 이용자는 무엇이 진짜인지 판단하기 어려워지고, 신뢰할 수 있는 정보 환경도 흔들릴 수 있다. AI Act는 이러한 위험을 최소화하기 위해 최소한의 투명성을 확보하려는 시도로 볼 수 있다.

국내에서도 AI 표시 의무에 대한 논의는 점차 확대될 가능성이 크다. 이미 일부 공공기관과 교육기관에서는 생성형 AI 활용 여부를 표시하도록 권고하고 있으며, 언론과 출판 분야에서도 AI 활용 범위를 어디까지 공개해야 하는지에 대한 논의가 이어지고 있다. 다만 표시 기준이 지나치게 광범위하면 실제 활용이 위축될 수 있고, 반대로 기준이 느슨하면 이용자의 신뢰를 확보하기 어렵다.

AI 시대의 경쟁력은 이제 더 좋은 모델을 만드는 데만 있지 않다. 어떤 데이터를 사용했고, 어떤 방식으로 생성했으며, 이용자에게 얼마나 투명하게 설명할 수 있는지도 중요한 경쟁 요소가 되고 있다. AI가 일상이 된 시대에는 기술력만큼 책임성과 신뢰가 기업의 새로운 자산이 될 가능성이 크다.