SK텔레콤이 독자 AI 파운데이션 모델 ‘A.X K2’를 공개했다. A.X K2는 총 6,880억 개의 매개변수(688B)를 갖춘 초거대 언어모델로, 이전 모델인 A.X K1보다 수학·과학 추론과 한국어 지식, 장문 이해 및 에이전트 역량을 강화했다. 국내외 14개 벤치마크 평균 성능은 A.X K1보다 32.2%p 향상됐으며, 장문 이해와 에이전트 관련 평가에서는 약 83.9%p의 개선 폭을 기록했다.

SKT는 A.X K2와 함께 이미지와 텍스트를 이해하는 비전 언어 모델, 상담·회의 등 음성을 인식하고 분석하는 오디오·음성 모델도 선보였다. 이를 제조·국방·바이오 등 산업 현장은 물론 사무 환경과 일상생활로 확산한다는 구상이다.

A.X K2는 기존 모델과 무엇이 달라졌으며, 실제 산업 현장에는 어떤 변화를 가져올까. 김태윤 SKT파운데이션 모델 담당에게 A.X K2의 기술적 특징과 활용 전략, SKT가 그리는 독자 AI 생태계의 방향을 들었다.

‘답하는 AI’에서 ‘일하는’ AI로… 스스로 계획하고 실행하는 A.X K2

A.X K2 테스트 결과에 대해 설명하는 김태윤 담당의 모습.

Q. A.X K2가 이전 모델에 비해 가장 개선된 점은 무엇인가요?
가장 큰 변화는 ‘답하는 AI’에서 ‘스스로 계획하고 실행하는 AI’로 무게중심을 옮겼다는 점입니다. 에이전틱(Agentic) 시대에 맞춰 추론 역량을 크게 끌어올렸고, 특히 수학과 한국어 영역에서 두드러진 성과를 냈습니다.

초고난도 수학 벤치마크인 ‘Apex’ 점수는 A.X K1의 1.0에서 A.X K2의 45.8로 올랐고,* AIME26에서는 97.1을 기록해 글로벌 오픈웨이트 모델 최상위 수준에 도달했습니다. 한국어 지식 평가인 KMMLU-Pro에서는 80.5, 한국 문화 이해를 평가하는 CLIcK에서는 91.6을 기록했습니다. 에이전트의 도구 사용 능력을 평가하는 τ²-Bench Telecom에서도 98.0을 기록해 비교 대상 오픈웨이트 모델 가운데 1위에 올랐습니다.

* 미국 고등학교 수학 경시대회인 AIME(American Invitational Mathematics Examination) 문제를 기반으로 한 AI 벤치마크

전체 모델 규모는 688B로 키웠지만, 추론 과정에서 실제로 활성화되는 매개변수는 33B로 유지했습니다. 이에 따라 모델 규모를 확장하면서도 추론 비용은 늘리지 않았습니다. 단순히 매개변수만 늘린 것이 아니라 데이터 품질과 독자 아키텍처, 정교한 사후학습이 복합적으로 작용한 결과입니다.

Q. 독자 개발한 SGA(Sparse Gated Attention) 구조는 실제 AI 에이전트 서비스에서 어떤 차별성을 만들어내나요?
AI 에이전트가 실제로 업무를 수행하려면 여러 차례의 대화와 도구 호출, 긴 문서 참조 과정이 이어집니다. 자연히 한 번에 처리해야 하는 문맥이 길어지는데, 이 과정에서 효율과 안정성이 떨어지면 전체 서비스 품질도 함께 낮아집니다.

SKT가 독자 개발한 SGA는 긴 문맥을 효율적이고 안정적으로 처리하기 위한 어텐션 구조입니다. 입력 길이가 32K(보고서 한 편, 50장 전후 단편소설 한 권 분량)를 넘어서면 A.X K2의 처리량과 지연 시간 측면의 이점이 본격적으로 나타나며, 120K(회의록 수 십 건, 300페이지가 넘는 장편소설 한 권 분량) 입력을 기준으로는 A.X K1보다 전체 토큰 처리량이 67.7% 개선됩니다.

대화와 도구 사용이 길게 이어지는 실제 에이전트 환경에서도 더 빠르고, 더 오래, 안정적으로 일할 수 있다는 의미입니다. 이는 응답 속도와 서빙 비용, 서비스 안정성과 같은 핵심 경쟁력으로 이어집니다.

Q. 텍스트를 넘어 비전 언어와 음성 등 다양한 파생 모델을 함께 구축한 배경은 무엇인가요?
산업 현장은 텍스트만으로 움직이지 않습니다. 제조 공정의 도면과 같은 시각 정보, 상담과 안내 과정에서 발생하는 음성 정보가 함께 얽혀 있습니다. 실제 현장에서 일할 수 있는 ‘Industry-ready AI’가 되려면 이러한 다양한 모달리티를 아울러야 한다고 판단했습니다.

‘A.X K2 VL Light-Preview’는 A.X K2 개발 과정에서 파생된 모델입니다. SKT가 처음부터 직접 개발한 비전 인코더 ‘A.X VE’를 결합해 제조 도면과 문서, 차트 등을 구조화할 수 있습니다. 음성 영역에서는 SKT가 자체 개발한 오디오 언어모델 ‘A.X K2 ALM’과 크래프톤과 공동 개발한 파생 모델 ‘A.X K2 Raon-Speech’로 라인업을 확장하고 있습니다.

대형 모델이 고성능 추론을 담당하고, 검증된 3종류의 경량화된 파생 모델이 현장 접점과 확산을 맡는 구조입니다. 자원은 대형 LLM의 에이전틱 역량에 집중하되, 멀티모달 기능은 경량 전문 모델로 분리해 개발한 뒤 점차 통합해 나가는 ‘선택과 집중’ 전략입니다.

Q. 벤치마크 평균 32.2%p 상승, 에이전트 평가 83.9%p 향상의 핵심 동력은 무엇이었나요?
세 가지를 꼽을 수 있습니다. 첫째는 데이터의 ‘질’입니다. 학습량을 무작정 늘리기보다 확보한 데이터 가운데 분야별 전문 지식이 담긴 고품질 데이터를 엄선하고 정제했습니다. 이러한 ‘품질 우선’ 전략을 통해 비슷한 학습량으로도 뚜렷한 성능 향상을 이끌어냈습니다.

둘째는 독자 아키텍처와 정교한 사후학습입니다. SGA를 비롯한 자체 설계 기술과 다단계 강화학습 레시피가 추론 및 에이전트 역량을 끌어올렸습니다.

셋째는 필요한 영역에 대한 집중적인 투자입니다. 제한된 자원을 고난도 추론 능력과 한국어 역량, 산업 도메인 지식처럼 SKT가 중요하게 판단한 분야에 집중했습니다.

이러한 성과가 가장 상징적으로 드러난 지표가 초고난도 수학 벤치마크 Apex입니다. A.X K1의 1.0에서 A.X K2의 45.8로 비약적인 개선이 있었습니다. 고등학생 대상 올림피아드와 같이 비교적 쉬운 문제는 많은 모델이 비슷하게 풀어내지만, 난도가 극단적으로 높아질수록 모델 간 격차가 벌어집니다. 바로 그 지점에서 A.X K2의 추론 깊이가 드러납니다.

산업 현장과 국민의 일상으로 확장하는 A.X K2

Q. A.X K2가 산업 현장에 투입되면 기업 고객은 어떤 변화를 체감하게 될까요?
SKT는 반도체·자동차·화학 등 3개 분야의 한국어 제조 AI 벤치마크를 자체 개발해 내부적으로 활용하면서, ‘데이터-학습-평가’가 하나로 연결되도록 했습니다. 현장에서 곧바로 활용할 수 있는 모델을 만들기 위해서입니다.

대표적으로 철강 제조 기업 KG스틸과 자동차 부품 제조 기업 코넥을 대상으로 제조 특화 AI 에이전트의 현장 실증을 추진하고 있습니다. 특정 생산 라인의 과거 불량 사례를 학습한 뒤, 불량이 발생하면 원인을 빠르게 파악하고 조치 방법을 안내하는 에이전트를 개발하고 있습니다. 이를 통해 제조 현장에서의 실질적인 활용 가능성을 검증할 계획입니다.

SK하이닉스 사내 AI 도구인 ‘LLM Chat’에도 경량 모델을 연동해 반도체 지식 검색과 정보 정리 등에 활용할 수 있도록 지원하고 있습니다. 제조뿐 아니라 법무·세무 검토, 데이터 분석과 같은 지식 노동과 사내 개발, 데이터센터 인프라 운영을 지원하는 어시스턴트로도 활용 범위를 넓히고 있습니다.

기업 입장에서는 숙련공이 보유한 암묵지와 곳곳에 흩어진 현장 문서를 디지털 자산으로 정리하고, 품질 판정과 생산 효율을 높일 수 있습니다. 고난도 과업은 대형 모델이 담당하고 단순 작업은 경량 모델이 처리하도록 구성해 비용과 성능의 균형도 맞출 수 있습니다.

Q. 국방과 같이 보안이 중요한 영역에서는 어떤 대응 전략을 준비하고 있나요?
국방부에는 A.X K1을 FP8·FP4·INT4 등 세 가지 형태로 양자화해 제공했으며, A.X K2도 공급계획을 세우고 있습니다. 양자화는 모델이 사용하는 메모리와 처리 부담을 줄여 자원이 제한된 환경에서도 모델을 안정적으로 구동할 수 있게 합니다.

보안 원칙은 명확합니다. 기밀 데이터가 A.X 모델 학습에 반영되는 일은 없습니다. 보안이 중요한 분야의 특화 학습은 해당 기관이나 기업의 망 내부에 구축된 *온프레미스(On-Premises) 폐쇄 환경에서 수행합니다. 데이터 역시 외부로 반출하지 않습니다.

* 기업이 자체적으로 데이터센터를 구축하고 서버, 네트워크 장비 등을 직접 운영하는 방식

SKT는 온프레미스 구축 이력을 이미 보유하고 있어 보안이 중요한 공공·산업 영역에도 같은 방식으로 대응할 수 있습니다. 여기에 모델이 스스로 취약점을 찾아 방어 데이터로 다시 활용하는 자체 안전성 검증 체계를 더해 신뢰성을 높이고 있습니다.

A.X K2는 보안 도메인에서의 적용에도 특화되어 있습니다. 외부 피싱을 걸러내는 봇이나 오디오 언어모델을 활용한 보이스피싱 실시간 탐지처럼 국민의 안전을 지키는 영역에도 쓰일 수 있는 모델입니다

지난 5월 SKT는 국방부와 국방 AX 촉진을 위한 업무 협약을 체결했다.

Q. 해외 오픈소스 모델과 비교했을 때, A.X K2가 국내 기업과 기관의 업무 환경에서 발휘하는 경쟁력은 무엇인가요?
첫째는 한국어와 한국 지식·문화에 대한 깊은 이해입니다. KMMLU-Pro 80.5, CLIcK 91.6 등 한국 관련 벤치마크에서 최상위 성능을 보이고 있습니다. 이는 국내 업무 문서나 법무·세무·의료처럼 맥락과 규범에 대한 이해가 중요한 영역에서 직접적인 강점이 됩니다.

둘째는 데이터 주권과 보안입니다. 자체 데이터를 통해 모델을 처음부터 구축했기 때문에 모델이 갖추고 있는 지식이나 데이터에 대해 신뢰를 갖고 활용할 수 있습니다. 과학기술정보통신부의 ‘독자 AI 파운데이션 모델’ 프로젝트를 통해 철저히 검증된 프로세스로 개발되었기 때문에, 보안이 중요한 기업과 기관이 안심하고 도입할 수 있습니다. 또한 협력기관을 통한 별도의 튜닝/최적화 지원이 가능해 보다 완성도 있는 서비스가 가능합니다.

셋째는 개방성입니다. 특정 기업이나 정책 변화에 종속되지 않고, 사용자가 원하는 환경에 자유롭게 도입할 수 있다는 점이 실제 업무 환경에서 중요한 차이를 만듭니다.

Q. 허깅페이스 모델 공개와 API 제공을 통해 그리려는 AI 생태계의 비전은 무엇인가요?
A.X K2 메인 모델은 Apache 2.0 라이선스로 가중치와 추론 코드를 공개합니다. SKT는 2019년부터 깃허브와 허깅페이스에 모델을 오픈소스로 공개해 왔으며, 현재 국내 AI 모델 보유 기업 가운데 가장 많은 다운로드 수(8/4 기준)를 기록하고 있습니다.

개발자와 스타트업이 독자 파운데이션 모델을 상업적으로 자유롭게 활용할 수 있도록 무료 라이선스 정책을 유지하고 있습니다. 또한 스타트업 액셀러레이팅 프로그램 ‘SKTCH with AI’와 ‘모두의 챌린지 AX-LLM’ 프로젝트를 연계해 서비스 고도화와 사업화 검증도 지원할 계획입니다.

실제로 SKT는 ‘모두의 챌린지 AX-LLM’을 통해 팀리미티드, 퍼셀리, 데브올컴퍼니 등 3개 스타트업에 A.X K1 API를 제공하고, 고객 접점에서 활용할 수 있는 AI 서비스 개발과 개념 검증을 지원하고 있습니다.

지향점은 분명합니다. 개발 성과를 학계와 산업계, 스타트업과 공유해 국내 AI 생태계 전체의 토대가 되는 것입니다. 모델을 개방해 신뢰와 AI 주권이라는 가치를 지키고, 파인튜닝과 서빙 인프라, 엔터프라이즈 지원 등 상위 영역에서 수익을 창출하는 지속 가능한 체계를 구축하고자 합니다.

조단위 매개변수로 글로벌 AI생태계 선도… 고객이 체감하는 실질적인 가치 만들 것

Q. 후속 모델을 조 단위 매개변수로 확장하기 위한 기술적 준비는 어떻게 진행되고 있나요?
A.X K2의 후속 모델을 조 단위 매개변수 규모로 확장해 글로벌 경쟁력을 확보하고자 준비하고 있습니다. 정부가 지원하는 GPU 인프라에 추가 투자를 더해 진행할 계획입니다.

기술적으로는 A.X K2를 한층 고도화하고, 에이전틱 강화학습과 사이버 보안 역량을 더 강화합니다. 동시에 차세대 아키텍처 연구도 병행하고 있습니다. Sliding window attention 같은 속도 최적화 기술도 계속 고도화하며, 서울대·KAIST·크래프톤과 mHC(매니폴드 제약형 하이퍼 연결) 같은 구조를 선행 연구하며 포스트-트랜스포머의 밑그림을 함께 그리고 있습니다.

이러한 어텐션 효율화와 고속 서빙 기술을 통해, 대형 모델임에도 긴 컨텍스트를 쓰는 에이전틱 과업에 빠르게 대응하고 서빙 비용을 낮출 계획입니다. 리벨리온과 함께 국산 NPU에서의 모델 서빙 최적화와 상용 서비스 실증도 강화해 나가고 있습니다.

SKT는 1차수에서 국내 오픈웨이트 모델 최초로 500B급 초대형 모델을 완성했고, 2차수에서 모델 규모를 성공적으로 확장하면서 롱컨텍스트 추론 효율도 크게 끌어올렸습니다. 이렇게 검증한 기술력을 바탕으로 차기 개발에서도 규모 확장과 효율을 동시에 잡아가겠습니다.

Q. A.X K2 공개를 기점으로 업계와 고객들에게 전하고 싶은 SKT의 비전은 무엇인가요?
SKT가 가려는 방향은 ‘답하는 AI를 넘어 일하는 AI로, 그리고 세계가 인정하는 소버린 AI로’라고 요약할 수 있습니다.

A.X K2는 한국이 설계부터 학습까지 처음부터 끝까지 자체 기술로 개발한 모델이 수학과 한국어 영역에서 세계 최상위권에 도달할 수 있다는 가능성을 보여줬습니다.

SKT는 이러한 역량을 내부에만 보유하지 않고 개방과 협력을 통해 국내 AI 생태계의 토대로 만들겠습니다. 이를 산업 현장과 국민의 일상으로 확산하고, 나아가 세계 시장으로 넓혀가고자 합니다.

기술 자체에 머무르지 않고 업계와 고객이 체감할 수 있는 실질적인 가치로 보답하겠습니다. 한국이 안심하고 사용할 수 있고 세계도 인정하는 AI를 향한 도전을 이어가겠습니다.

A.X K2가 지향하는 것은 단순히 더 많은 정보를 생성하는 AI가 아니다. 긴 문맥을 이해하고 필요한 도구를 활용해 과업을 수행하는 ‘일하는 AI’, 국내 산업과 제도·문화적 맥락을 이해하면서 민감한 데이터를 안전하게 다룰 수 있는 소버린 AI다.

SKT는 A.X K2를 제조와 국방, 바이오, 사무 환경과 일상생활로 확산하는 한편, 모델 공개와 API 지원, 스타트업 협업을 통해 독자 AI의 활용 사례를 넓혀가고 있다. 독자 기술로 확보한 모델 경쟁력이 산업 현장의 생산성과 국민이 체감하는 서비스로 연결될 수 있도록, A.X 모델의 진화와 AI 생태계 확산을 이어갈 계획이다.