[한국미래일보=이종훈 대학생 기자]

‘인공지능 환각’이 법적으로 문제가 된 첫 사례가 등장했다. 인공지능 환각이란 인공지능이 실존하지 않는 자료를 실제 자료인 것처럼 제시하는 것을 이른다. 

2023년 10월, 유니버설뮤직스튜디오 등 음반사 3곳은 인공지능 클로드(CLAUDE AI)가 저작권이 있는 가사를 무단 학습·재생산했다는 이유로 7천500만 달러 규모의 손해배상을 청구했다. 클로드의 제작사 앤트로픽이 이를 반박하는 과정에서 논문을 제시했는데, 이  논문이 실존하지 않는 논문이었던 것이다. 앤트로픽 측 데이터과학자 올리비아 천이 4월 30일 제출한 전문가 의견서의 인용은 발행 연도·쪽수는 맞지만 제목과 저자가 전혀 다른 ‘유령 인용’이었다.

기사와 관련 없는 AI 이미지5월 13일 열린 심문에서 원고측은 해당 저널에 확인 결과 그런 논문은 존재하지 않는다고 지적했다. 재판부는 인공지능 환각과 단순 오기는 차원이 다르다며 48시간 안에 서면 해명을 요구했다. 전문가 의견서 전체를 배제하거나 제재를 부과할 수 있다는 경고도 동반됐다.

앤트로픽 대리인은 5월 15일 사과문을 제출하며 클로드를 통해 법원 양식에 맞춘 각주를 자동 생성하는 과정에서 제목과 저자가 잘못 채워졌고, 수작업 검수에서 이 오류를 걸러내지 못했다고 설명했다. 앤트로픽 측은 두 차례의 인용 오류가 추가로 있었다고 인정하며 다층 검수 절차를 도입하고 관련 자료를 보존하겠다 발언했다. 반면 음반사들은 잘못된 인용으로 통계 모델의 신뢰성이 근본적으로 훼손됐다 주장, 전문가 의견서 자체를 증거에서 제외해 달라고 요청했다. 

이번 사건은 인공지능 작업물의 검증 책임을 법정에서 다룬 첫 사례로 평가된다. 이로 인해 법적으로 AI 도구를 활용할 때 어느 수준까지 사실 확인 의무를 져야 하는지 논쟁이 점화됐으며, 관련 법적 지침에도 변화가 있을 전망이다.