[한국미래일보=이시우 대학생 기자]

2025년부터 유럽연합(EU)의 인공지능(AI) 법안(AI Act)이 본격적으로 시행되면서, 글로벌 IT 기업들이 규제 대응을 위해 발 빠르게 움직이고 있다. AI Act는 AI 기술의 안전성과 윤리성을 보장하기 위한 세계 최초의 포괄적인 법안으로, AI 시스템을 위험 수준에 따라 네 가지로 분류하고 각각 다른 규제를 적용하는 것이 핵심이다.  

EU에서 시행한 AI Act의 일러스트이다.(출처 : cultureactioneurope 홈페이지)

이번 법안이 시행되면서 기업들은 AI 모델의 규제 준수 여부를 점검하는 한편, 일부 서비스 제공 방식 조정과 새로운 내부 검증 시스템 구축에 나서고 있다. 특히 AI가 공공서비스, 의료, 금융 등 주요 분야에서 사용될 경우 ‘고위험 AI 시스템’으로 분류되어 엄격한 검토 및 인증 절차를 거쳐야 한다는 점에서 기업들의 부담이 커지고 있다.  

AI Act는 AI 기술이 사회에 미치는 영향을 고려해 위험 수준에 따라 네 가지로 구분하고 있다. 우선, 가장 강력한 규제를 적용받는 금지된 AI 시스템은 기본권을 침해할 가능성이 높은 기술로, 실시간 원격 생체인식 감시, 사회 신용 점수 시스템, 조작적 행동 유도 AI 등이 포함된다. 특히 공공장소에서의 실시간 생체인식 감시 기술은 국가 안보 및 법 집행 목적을 제외하고는 사용이 금지된다. 

두 번째로, 의료, 금융, 공공서비스, 법 집행 등 사회적으로 민감한 분야에서 사용되는 AI는 고위험 AI 시스템으로 분류된다. 고위험 AI 시스템을 운영하는 기업들은 엄격한 인증 절차를 거쳐야 하며, 독립적인 평가 및 리스크 분석을 받아야 한다. 예를 들어, AI가 채용 과정에서 후보자를 평가하거나 금융기관에서 대출 승인 여부를 결정하는 경우, 해당 AI 모델이 신뢰할 수 있는 방식으로 작동하는지 확인하는 과정이 필수적으로 요구된다.  

제한적 위험 AI 시스템으로 분류된 챗봇과 같은 AI 기술은 투명성을 강화해야 한다. 사용자가 AI와 상호작용하고 있음을 명확히 알 수 있도록 조치해야 하며, AI가 생성한 콘텐츠에는 반드시 AI 생성 여부를 표시해야 한다. 특히 딥페이크 기술이 사용된 경우, 해당 콘텐츠가 인공지능에 의해 생성되었음을 소비자가 쉽게 인지할 수 있도록 해야 한다.   

최소 위험 AI 시스템은 AI 기반 게임이나 자동 추천 시스템과 같이 비교적 영향력이 적은 AI 기술이 해당된다. 이들 시스템은 규제 대상에 포함되지는 않지만, 투명성을 높이기 위한 가이드라인이 마련될 가능성이 있다.  

EU 집행위원회는 AI Act가 기술 혁신을 저해하지 않으면서도 AI의 위험성을 효과적으로 관리할 수 있도록 설계됐다고 설명했다. 그러나 글로벌 IT 기업들은 이번 법안이 지나치게 엄격하다고 주장하며, 일부 조항에 대한 완화를 요구하고 있다.  

AI Act 시행을 앞두고 글로벌 IT 기업들은 EU의 규제를 준수하기 위한 대응책 마련에 나섰다. 구글, 메타, 마이크로소프트 등 글로벌 IT 기업들은 AI Act의 일부 조항이 혁신을 저해할 우려가 있다며 규제 완화를 요구했다. 이들 기업은 AI 기술이 빠르게 발전하는 만큼, 고정적인 규제 틀에 얽매일 경우 AI 개발 경쟁력이 저하될 가능성이 크다고 주장하고 있다. 

그러나 EU 규제 당국은 AI가 미칠 수 있는 사회적 영향과 위험성을 고려할 때, 최소한의 규제는 불가피하다는 입장이다. 유럽연합 집행위원회는 “AI 기술이 경제적 혁신을 견인할 수 있지만, 신뢰할 수 있는 AI 시스템 구축이 최우선 과제”라고 강조하며, 규제 완화 가능성은 낮다고 밝혔다.  

AI Act에 따라 고위험 AI 시스템을 운영하는 기업들은 EU의 엄격한 인증 절차를 준수해야 한다. 이에 따라 글로벌 IT 기업들은 내부 AI 규제 준수팀을 확대하고, 독립적인 평가 절차를 마련하는 등 조직 개편에 나섰다. 마이크로소프트는 EU 규제 준수에 대한 법률 및 정책 대응팀을 확대했으며, 특정 AI 모델의 유럽 시장 출시를 연기하는 방안도 검토하고 있다. 메타 역시 AI 관련 규제 준수에 대한 내부 가이드라인을 조정 중이며, AI가 생성한 콘텐츠의 출처를 명확히 밝히는 기능을 강화할 예정이다.  

AI Act를 4단계로 나눈 그림이다.(출처: trail-ml 홈페이지)

일부 AI 기업들은 규제 준수 비용이 급격히 증가할 경우, 유럽 시장에서 특정 AI 서비스를 축소하거나 출시를 연기하는 방안을 고려하고 있다. 특히 스타트업과 중소 AI 기업들은 대기업과 달리 규제 대응 인프라를 갖추기 어려운 만큼, 법률 자문과 내부 평가 시스템 마련에 상당한 부담을 느끼고 있다. AI Act 시행 이후 초기 대응이 중요한 만큼, 이들 기업들은 법적 리스크를 최소화하기 위한 전략을 수립하고 있다.  

전문가들은 AI Act가 시행된 후 기업들의 초기 대응이 향후 AI 산업의 발전 방향을 결정하는 중요한 변수가 될 것으로 전망하고 있다. 유럽 시장에서 AI 기술을 지속적으로 운영하기 위해 기업들이 얼마나 신속하고 효과적으로 규제에 적응할 수 있을지가 관건이 될 전망이다.