김재호 기자
LG CNS 사옥/사진=LG CNS 제공
LG CNS가 글로벌 AI 유니콘 기업 코히어와 손잡고 1110억 개 파라미터를 가진 초대형 추론형 LLM을 공동 개발했다고 10일 밝혔다.
이번 모델은 한국어와 영어 등 23개 언어를 지원하며, 특히 추론 분야에서 GPT-4o, 클로드 3.7 소넷 등 글로벌 상위권 LLM을 앞서는 성능을 보인 것으로 확인됐다.
LG CNS는 지난 5월 코히어와 70억 개 파라미터의 한국어 특화 경량 모델을 선보인 데 이어 두 달 만에 초대형 모델을 공개하며 생성형 AI 경쟁력을 다시 입증했다.
이번 추론형 LLM은 복잡한 문제 해결 과정에서 다양한 변수를 고려해 논리적 답변을 도출하는 기능을 갖췄다.
이는 AI가 스스로 판단하고 작업을 수행하는 ‘에이전틱 AI’ 구현에 필수적인 기술로, 금융·공공 등 민감 데이터를 다루는 산업에서 높은 활용도가 기대된다.
LG CNS는 코히어와 공동 개발한 초대형·경량형 LLM 2종과, 자사 LLM 라인업인 LG AI연구원의 ‘엑사원’ 등을 통해 맞춤형 에이전틱 AI 서비스를 제공할 방침이다.
김태훈 LG CNS AI클라우드사업부장은 “차별화된 AI 기술로 고객 비즈니스에 최적화된 에이전틱 AI를 제공해 AX를 선도하겠다”고 말했다.
LG CNS가 개발한 LLM은 코히어의 기업용 LLM ‘커맨드’ 모델에 LG CNS가 국내 산업별로 축적해온 IT 및 AI 전문성을 결합해 탄생했다.
커맨드 모델은 캐나다 최대 은행 RBC 등에서 이미 온프레미스와 클라우드 환경 모두에서 활용되며 안정성을 입증했다.
특히 이번 모델은 온프레미스 방식으로 제공돼 민감 데이터의 외부 유출 우려 없이 기업 내부 인프라에서 안전하게 운용할 수 있다.
또 모델 압축 기술로 인해 기존 대규모 LLM 대비 GPU 사용량이 크게 줄어, 2장의 GPU만으로도 운용이 가능하다.
이는 파라미터 수가 1000억 개 이상인 LLM에 통상 4장 이상의 GPU가 필요한 것과 비교해 비용과 효율 면에서 경쟁력을 높인다.
양사의 LLM은 추론 성능을 검증하는 글로벌 벤치마크 테스트 ‘Math500’과 ‘AIME 2024’에서 한국어·영어 모두 GPT-4o, GPT-4.1, 클로드 3.7 소넷 등 경쟁 모델보다 높은 점수를 기록했다.
Math500은 대학 수준 이상의 수학 문제 500개로 구성되며, AIME 2024는 미국 수학 경시대회 문제로 AI의 수학적 추론 능력을 평가한다.
또한, 한국어 특화 성능도 입증됐다. LG CNS와 코히어가 개발한 LLM은 한국어 이해력을 평가하는 ‘KMMLU’, 대화 및 지시 이해도를 측정하는 ‘KO-IFEval’ 테스트에서 글로벌 LLM을 앞서는 성적을 거뒀다.
특히 파라미터 수가 2배 이상 많은 모델인 Qwen3보다도 우수한 성능을 기록해 한국어 기반의 정교한 비즈니스 소통과 문제 해결 역량을 보여줬다.
LG CNS는 이번 LLM을 통해 고객이 자체 인프라 기반으로 자국의 언어·법·문화를 반영한 독립적 AI를 구축·운영할 수 있는 ‘소버린 AI(Sovereign AI)’ 실현에도 속도를 낼 계획이다.
[경제엔미디어=김재호 기자]