[한국미래일보=이현지 대학생 기자]ChatGPT 생성 사진.

2025년 1월 27일, 실리콘밸리에 충격이 가해졌다. 중국 스타트업 딥시크(DeepSeek)가 공개한 오픈소스 AI 모델 R1이 OpenAI의 o1에 버금가는 성능을 보인다는 사실이 알려지자, 엔비디아 주가는 단 하루 만에 17% 폭락했다. 시가총액 약 590조 원이 사라진 것이다. 미국 주식 시장 역사상 단일 종목 최대 일일 손실이었다. 사람들은 이를 'AI판 스푸트니크 쇼크'라 불렀다. 이 모델의 개발 비용은 고작 560만 달러였다.

18분의 1 비용으로 업계 선두주자를 따라잡다

오픈AI가 GPT-4를 훈련하는 데 들인 비용은 약 1억 달러로 추정된다. DeepSeek R1의 학습 비용은 560만 달러, 약 1/18 수준이었다. MATH-500 수학 벤치마크에서 97.3% 정확도를 기록하며, OpenAI o1과 비슷한 결과가 나왔다.

핵심 비결은 MoE(Mixture of Experts, 전문가 혼합) 아키텍처와 강화 학습이었다. 6,710억 개의 매개변수를 가지고 실제 연산 시에는 370억 개만 활성화하는 구조로 계산 비용을 줄였다. 인간이 직접 레이블을 붙인 데이터 없이 순수 강화 학습만으로 추론 능력을 키운 방식도 혁신적이었다.

DeepSeek는 이 모델을 MIT 라이선스로 완전 공개했고, HuggingFace에서 출시 며칠 만에 1,000만 건 이상의 다운로드를 달성했다. DeepSeek의 CEO 량원펑은 "폐쇄형 소스만으로 쌓아올린 해자는 오래가지 못한다”고 이야기하며 오픈소스의 미래를 긍정적으로 평가했다.

2026년 오픈소스 모델 지형도

DeepSeek의 혁신은 빅테크들을 자극했다. 메타는 2025년 4월 MoE 아키텍처를 자사 최초로 도입한 Llama 4를 출시했다. MoE는 각 질문마다 그에 맞는 적절한 모델을 알아서 활성화 시키는 구조를 이야기한다. Scout와 Maverick 두 모델은 전체 1,090억 개, 4,000억 개 매개변수 중 토큰당 170억 개만 활성화하는 방식으로 효율성을 높였다. 구글은 Gemma 3 27B 모델로 LMArena 벤치마크 상위권에 올랐고, 140여 개 언어를 지원하며 단일 GPU에서 구동 가능한 세계 최고 수준 경량 모델을 선보였다. 알리바바의 Qwen 3 235B는 GPQA Diamond 벤치마크에서 77.5%를 기록하며 그 뒤를 따라잡고 있다.

기업들이 오픈소스를 선택하는 이유

프로덕션 LLM 배포의 절반 이상은 이제 GPT나 Claude 같은 폐쇄형 API 대신 오픈소스 모델을 선택하고 있다. AI 분석기관 GAI Insights은 2023년 약 90%의 기업이 폐쇄형 모델에 집중하고 있다고 추정했다. 이와 비교하면 현재는 판이 뒤집어진 모습이다. LLM.co의 산업 보고서에 따르면, 기업의 41%는 오픈소스 LLM 사용을 확대할 계획이며, 41%는 성능 격차가 해소될 경우 폐쇄형에서 오픈소스로 전환할 의향이 있다고 이야기했다.

기업들이 오픈소스로 향하는 이유는 크게 세 가지이다. 첫째는 비용이다. 상용 API는 호출당 요금이 쌓이지만, 오픈소스 모델을 자체 호스팅하면 장기적으로 운영비를 크게 줄일 수 있다. 둘째는 데이터 주권이다. 상용 API는 입력 데이터를 외부 서버로 전송해야 하므로, 민감한 정보를 다루는 기업에게는 치명적 리스크가 된다. 오픈소스 모델을 온프레미스 또는 프라이빗 클라우드에서 운용하면 데이터가 외부로 나가지 않는다. 셋째는 커스터마이징이다. 기업 내부 데이터로 파인튜닝하거나 도메인 특화 모델을 만드는 일이 폐쇄형 모델에선 불가능하거나 극히 제한적이다.

한국에도 퍼진 오픈소스의 물결

국내 기업들도 오픈소스 물결에 올라타고 있다. LG AI연구원은 2024년 8월 엑사원(EXAONE) 3.0을 공개했다. 78억 개의 매개변수를 가진 이 모델은 메타 Llama, 알리바바 Qwen과 비교해도 뒤처지지 않는 성능을 보이며 글로벌 무대에서 주목받았다. 업스테이지는 Solar Pro 모델로 특정 도메인에서의 강점을 앞세웠고, 카카오는 카나나 서비스에 자체 LLM을 탑재하며 독자 노선을 걷고 있다. 

처음부터 모델을 개발하지 않고 Meta Llama나 Alibaba Qwen 같은 오픈소스 기반 모델에 한국어 데이터를 추가 학습시키는 방식도 빠르게 퍼지고 있다. 개발 비용을 대폭 줄이면서도 한국어 특화 성능을 확보할 수 있기 때문이다. 한국어 특화 오픈소스 LLM은 글로벌 모델 대비 한국어 문법·어휘·문화적 맥락을 세밀히 반영해 실제 사용자 경험에서 앞선다는 평가를 받는다.

그러나 오픈소스가 모든 기업들에게 긍정적인 전망만을 가져다주는 것은 아니다. 모델을 자체 운영하기 위해서는 GPU 서버 구축을 위한 비용이 소모되고, 이를 안정적으로 운영할 수 있는 인력을 고용해야 한다. 보안 관리와 모델 업데이트 또한 전적으로 기업의 몫이 된다. 중소기업이나 스타트업에게는 초기 인프라 비용과 운영 부담이 상용 API보다 클 수도 있다. 이러한 이유들로 모든 기업이 오픈소스를 쉽게 도입할 수 있는 것은 아니라는 지적도 나온다.

전 세계 LLM 시장은 2024년 64억 달러에서 2030년 361억 달러로, 연평균 33.2% 성장이 전망된다. 그 성장의 중심에 오픈소스가 자리잡고 있다. Meta·Google·Alibaba·Mistral의 모델들이 경쟁하고, 수만 명의 개발자가 이를 개량해 HuggingFace에 올리며, 전 세계 스타트업이 이를 기반으로 서비스를 만드는 생태계가 형성됐다. DeepSeek의 560만 달러 모델이 1억 달러 독점 모델의 수준까지 올라간 사건은, AI 업계의 권력이 소수 빅테크의 손에서 누구에게나 열린 생태계로 이동하고 있음을 보여줬다.