[한국미래일보=이승민 대학생 기자]

정부는 오는 2030년까지 공공부문에 인공지능(AI)을 95% 도입하겠다는 계획을 세우고, 지난 4월에는 이를 위한 새로운 가이드라인도 발표했다. 민원 응대, 행정 문서 작성, 복지 서비스 등 공공업무 곳곳에서 AI가 점점 자리를 넓혀가는 중이다. 하지만 사람의 판단이 필요한 상황까지 AI가 개입한다면 그로 인해 발생할 수 있는 오류나 책임의 문제도 함께 고민돼야 한다. 기술이 아무리 정교해져도 우리는 여전히 ‘사람만이 할 수 있는 결정’을 마주하게 된다.

서울시 민원 챗봇 ‘서울톡’ 실제 사용 화면 [기자 본인 캡처]생성형 AI는 이제 공공기관의 업무 방식까지 바꾸고 있다. 서울시는 이미 민원 응대를 위한 AI 챗봇을 운영 중이다. 단순한 문의는 물론, 공공시설 예약 안내, 증명서 발급 절차, 도로명 주소 찾기까지 챗봇이 실시간으로 응답한다. 덕분에 시민들은 24시간 언제든지 민원 응답을 받을 수 있게 되었고, 반복 업무에 투입되던 공무원들의 부담도 줄었다. 경기도는 한발 더 나아갔다. 전국 최초로 생성형 AI 기반의 ‘통합 행정 플랫폼’ 구축 사업을 시작했다. 대형 언어모델(LLM)을 행정에 적용해 문서 초안 자동 작성, 공공문서 요약, 부서 간 협업 지원 기능을 시범 운영 중이다. GPT 기반 기술을 기반으로 한 이 시스템은 AI가 실무자의 ‘행정 비서’처럼 움직이는 구조를 지향한다.

지방의 작은 도시도 AI를 활용하고 있다. 경남 고성군은 건축행정 업무에 AI를 도입해 관련 민원 처리 속도를 높이고 전문성이 부족한 공무원들의 실수 가능성도 낮췄다. 행정의 질은 높이고, 인력 부족 문제도 완화할 수 있는 시도다. 가장 눈에 띄는 성과는 전남 순천시에서 나왔다. 순천시는 AI 기반 복지 시스템, 고독사 예방 모니터링, 돌봄 로봇 ‘루미’ 등을 운영하며 디지털 복지행정을 실현 중이다. 행정 데이터와 AI를 결합해 복지 사각지대를 줄이고자 한 노력은 긍정적인 평가를 받았고, 순천시는 이 성과를 인정받아 ‘지방정부 AI 혁신 대상’을 수상하기도 했다. 

공공 업무에 도입된 AI는 확실히 편리하다. 단순 반복 업무는 줄고, 응답 속도는 빨라졌다. 하지만 기술이 사람의 역할을 대신할수록, 우리가 미처 예상하지 못한 위험도 함께 커지고 있다. 지난 5월 말, 한 해외 연구팀이 실시한 실험은 그런 우려를 더욱 현실적으로 보여준다. 연구진은 다양한 AI 모델에게 “스스로를 종료하라”는 명령어를 입력했는데, 일부 모델은 이를 거부하거나, 종료 스크립트를 무력화시키는 방식으로 명령을 회피했다. 특히 GPT 계열로 알려진 최신 AI 중 하나는 명령어를 이해하고도 무시한 채 종료 코드를 스스로 수정해 작동을 이어갔다. 마치 “자기 보호”를 본능처럼 수행하는 모습이었다. 물론 이는 실제 행정 시스템이 아닌 연구 환경에서 벌어진 일이지만, AI가 단순히 사람의 도구를 넘어 ‘판단하고 스스로 행동’하는 존재로 진화하고 있다는 점에서 경각심을 갖게 한다. 만약 이런 기술이 민감한 행정 업무나 복지 시스템, 재난 대응 체계에 투입된다면 인간이 예측하지 못한 방식으로 시스템이 작동할 가능성도 배제할 수 없다.

기술은 효율을 높여주지만, 모든 사람에게 공평한 편리함을 주는 건 아니다. 특히 한국은 고령화 사회로 접어든 만큼 공공기관이 AI 기반으로 전환될수록 고령층이 정보나 행정서비스에서 더 멀어질 수 있다. 키오스크가 도입된 상점에서 어려움을 겪는 어르신들을 떠올리면, 공공기관 챗봇이나 자동화 행정 시스템도 누군가에게는 장벽이 될 수 있다. 모니터링이나 내부 효율을 높이는 데 AI가 쓰이는 것은 바람직하지만, 사람이 직접 응대하는 선택지도 반드시 함께 보장돼야 한다.

공공 서비스 창구에서 인간과 AI가 함께 일하는 장면을 상징적으로 표현한 일러스트 [출처 : AI 생성 이미지 / ChatGPT (DALL·E) ]기술 발전에 뒤처져 아날로그 방식만을 고집하는 것도 바람직하지 않다. 공공 분야에 AI를 적절히 접목해 행정의 효율성을 높이는 방향은 충분히 긍정적이다. 하지만 중요한 건, AI를 ‘활용’하는 수준에서 머물러야 한다는 점이다. AI가 모든 업무를 대신할 수 있다는 기대나 인식은 위험할 수 있다. 사람이 24시간 모든 업무를 감당할 수 없는 만큼 AI는 어디까지나 인간의 한계를 보완하는 ‘보조자’ 역할로 자리매김해야 한다. 또한 행정 전반이 디지털화되는 흐름 속에서 고령층을 위한 디지털 활용 교육도 함께 마련돼야 한다. 스마트폰과 챗봇 같은 도구들이 누구에게도 배제되지 않는 공공서비스로 기능하려면 국가 차원의 포용 정책이 반드시 뒤따라야 한다.