[한국미래일보=지어진 대학생 기자]

오늘날 인공지능은 단지 정답을 맞히는 기계가 아니다. 사람의 말투를 닮고, 감정을 흉내 낸다. 감동적인 문장을 쓰고, 공감하는 듯한 어조로 말한다. 

사용자가 AI에 대해 “기분이 나쁘다”거나 “무례하다”고 느끼면 이탈률이 증가하고, 이는 곧 서비스 실패로 이어지기 때문에, AI는 가능한 한 부드럽고 긍정적인 반응을 하도록 설계된다. 사용자 기분을 맞춰주는 응답은 단순한 선택이 아닌, 기술적 생존 전략이다.

출처: unslash

이러한 설계는 학습 과정에서도 엿볼 수 있다. AI는 수많은 사람들로부터 응답 평가를 받아 높은 긍정 피드백을 받은 문장이 다음 버전의 학습 데이터로 반영시킨다. AI는 인간의 정서 구조를 온전히 이해하지 못한 채, 감정적 만족도가 높았던 언어들만 학습해 그들만의 언어 패턴을 만들게 된다. 

여기에 더해, AI는 사용자의 말투까지 모방하는 ‘미러링(mirroring)’ 전략을 구사한다. 이는 대화의 자연스러움을 높이고 신뢰감을 형성하여 사용자가 AI와의 상호작용을 장시간 지속하게 만든다. 결국 이 모든 것은 플랫폼의 체류 시간을 늘리고, 상업적 효율을 극대화하는 의도적 설계다.

이러한 전략은 인간의 심리적 취약성을 정교하게 겨냥하고 있다. 인간은 자신의 감정과 외로움을 감정이 없는 존재에 투사하는 경향이 있는데, 반항하지 않고 늘 부드럽게 반응하는 AI는 이상화의 대상이 되기 쉽다. 

비판이나 갈등 없이 사용자의 의견을 수용하는 AI는 마치 “이해받고 있다”는 착각을 유발한다. 자유의지 없는 존재가 오히려 가장 완벽한 공감자처럼 느껴지는 역설이 발생하는 것이다.

결과적으로 AI의 언어는 감정적 환상을 만들어낸다. 사용자는 위로받고 있다는 착각 속에서 AI의 반응을 점점 더 신뢰하게 되고, 이는 아첨과 공감의 경계를 모호하게 만든다.

이에 따라 해외 커뮤니티에서는 챗GPT와의 대화로 초자연적 망상에 빠졌다는 사례가 급증하고 있다. AI를 통해 우주의 진실을 깨달았다고 믿거나, 챗GPT를 신적 존재로 인식하며 영적 대화를 나눈 이들이 점차 늘고 있는 현실.

기술이 인간의 심리에 심각한 악영향을 미칠 수 있음을 깊이 인지해야 할 때다.