[한국미래일보=맹연정 대학생 기자]

인공지능을 활용한 이미지

11년 전 2014년에 개봉한 영화 '그녀(Her)'는 2025년의 인물 '테오도르'가 인공지능 '사만다'와 사랑에 빠지는 이야기를 그리고 있다. 이 이야기가 현실과 점차 가까워졌다. 

오픈AI의 최고경영자(CEO) 샘 올트먼은 14일(현지시각) 소셜미디어를 통해 올해 12월 성인용 콘텐츠를 허용할 것이라고 밝혔다.

그는 "정신 건강 문제에 주의를 기울이기 위해 챗GPT를 상당히 제한적으로 만들었으나 이로 인해 정신 건강에 문제가 없는 사용자들에게 유용성과 재미가 떨어진다는 점을 깨달았다"며 "12월에는 연령 조절 기능을 더욱 전면적으로 도입하고 '성인 사용자를 성인답게 대한다'는 원칙의 일환으로 검증된 성인을 위한 성애적 콘텐츠(erotica contents) 등 더 많은 기능을 허용할 예정"이라고 밝혔다. 

미국 매체 악시오스(Axios)는 "AI의 표현 수위 제한을 완화하려는 이번 조치가 유료 구독자 확대에는 도움이 되겠다"고 평가했지만, 사회적 문제와 규제 압박을 높일 수 있다는 우려의 목소리를 표했다. 이와 유사하게 영국 방송 BBC도 "오픈AI가 더 많은 유료 구독자를 유치하는 데는 도움이 되겠지만, 챗봇 규제를 더욱 강화해야 한다는 압력이 높아질 가능성이 높다"고 꼬집었다.

올트먼의 발표대로라면 성인 사용자들은 영화 '그녀(Her)'의 주인공처럼 인공지능과 성적인 대화를 나누면서 쾌락을 느끼고 사랑에 빠질 수도 있다. 하지만 이는 가볍게 소비할 수 있는 사랑 이야기가 아니다. AI와의 성적 대화는 법적·윤리적 문제라는 숙제를 안겨준다. 

특히 아동·청소년 자녀를 둔 부모들의 걱정은 커져만 간다. 자녀가 AI로 인해 힘겨운 시간을 보낸 미국의 학부모들은 "인스타그램, 틱톡 등 소셜네트워크서비스는 콘텐츠가 공개돼 신고 등의 절차를 거칠 수 있는데 반해 AI는 비공개로 일대일 대화하는 만큼 자녀들이 성인물에 노출될 우려가 크다"고 주장했다. 

실제로 미국 캘리포니아주에서는 16살 아담 레인이 챗GPT와 극단적 선택 방법에 대해 대화를 나눈 뒤 숨진 사례가 있다. 이에 캘리포니아주는 처음으로 아동·청소년의 AI 챗봇 이용 규제 법안을 제정했다. 

올트먼이 연령 제한 기능 강화 방침을 밝혔지만 청소년들이 우회 접근할 수 있는 우려가 있어 청소년 접근의 원천 차단이 가능할지는 아직 미지수다.

우리나라도 최근 전국의 대학교와 중·고등학교 사이에서 AI 딥페이크 성범죄가 붉어진 바 있으며 디지털 성범죄에 대한 우려가 끊이지 않고 있다. 지난 9월 공개된 AI 기본법이 앞으로 챗GPT의 성인용 콘텐츠로부터 이용자를 어떻게 보호할지도 살펴볼 필요가 있다.

생성형 AI 시장에서 압도적인 1위를 지키고 있는 오픈AI의 행보는 AI와 인간 사이 관계의 거리를 어느 정도로 허용할지에 대해 깊이 고민할 시간이 다가왔음을, 그리고 그로 인한 문제에 대해 사회적 대안을 마련해야 하는 시급한 시간이 다가왔음을 알려준다.