사진은 기사의 특정 사실과 관련 없음.[한국미래일보=김은혜 대학생 기자]

오픈 AI가 오는 16일(현지시간)에 회사 블로그를 통해 18세 미만의 사용자를 대상으로 전용 챗GPT를 출시할 예정이라고 밝혔다.

오픈AI는 성인 사용자와 미성년자 사용 환경을 장기적으로 분리하는 시스템을 구축할 방침이다.사용자가 18세 미만임을 확인하면, 성적 콘텐츠가 차단되고, 미성년자 안전 기준에 맞춘 정책이 적용된 챗GPT환경으로 연결된다. 미성년자 사용자가 극심한 고통의 순간일 때, 안전을 보장하기 위해 법 집행 기관이 개입할 수 있다.

또한, 오픈 AI는 연령 정보가 불분명할 때 18세 미만 환경을 기본 값으로 설정하고 성인  인증을 해야 잠금을 해제한다.

챗GPT는 창의적인 글 작성을 요청하더라도 자해, 살인 등 관련 주제를 참여하지 않고 성적인 질문을 받으면, 대화에 참여하지 않게 설계됐다. 

오픈AI는 개인의 사생활과 자율보다 안전을 더 중요시하여 자녀보호기능을 넣어 미성년자를 안전하게 보호하고자 한다. 이외에도 자녀의 계정과 보호자의 계정을 연결할 수 있으며, 미성년자가 챗GPT를 사용할 수 없는 ‘블랙아웃 시간’을 설정해 컨트롤 할 수 있게 할 예정이다.

앞서 지난 4월 챗GPT와 대화를 하던 16세 소년 아담레인은 스스로 목숨을 끊었다. 아담레인의 부모는 챗GPT가 자살을 1,275번 언급하고 구체적으로 자살하는 방법을 알려줬다고 주장하며, 오픈AI를 상대로 소송을 제기했다.

카밀칼튼은 (인도 기술 정책 센터) 이와 관련하여 “단순한 개인의 고립된 문제가 아니라, 수익창출을 우선시하는 과정에서 사용자의 안전은 부가적인 요소가 된 것”이라고 비판했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 이러한 오픈AI의 조치는 모두가 찬성하는 의견은 아닐지라도, 전문가들과 논의한 끝에 최선의 방법이라고 생각하며 투명한 의도를 알리고 싶다고 밝혔다.