과학기술정보통신부의 ‘독자 AI 파운데이션 모델’ 프로젝트 정예팀으로 선정된 SKT 컨소시엄은 대한민국의 AI를 글로벌 수준으로 이끌어가기 위해 노력하고 있다. 컨소시엄은 SKT를 비롯해 크래프톤, 리벨리온, 포티투닷, 셀렉트스타, 라이너, 서울대, KAIST 등 K-AI 생태계의 최정예 기관들이 함께하고 있다.

이 중 리벨리온(rebellions)은 국내 최고 수준의 추론형 AI 반도체(NPU) 개발사로, SKT 컨소시엄은 리벨리온이 보유한 국산 NPU 활용 기술 최적화를 통해 고성능·고효율 AI 서비스를 구현할 계획이다. 김홍석 리벨리온 소프트웨어 아키텍트 총괄과의 인터뷰를 통해 SKT 컨소시엄의 경쟁력과 리벨리온의 역할에 대해 들어봤다.
* 본 글은 다른 회사의 의견을 포함하고 있으며, SK텔레콤의 공식 입장과 다를 수 있습니다.

독자 모델 구축은 기술 주권 확보를 위한 국가적 과제

리벨리온 김홍석 소프트웨어 아키텍트 총괄(Chief Software Architect)

Q1. 이번 프로젝트의 정예팀으로 선정된 소감과 참여 배경이 궁금합니다.
A. 독자 AI 파운데이션 모델 개발 프로젝트는 한국어와 국내 데이터 기반의 독자 모델을 구축해 기술 주권을 확보하고, 해외 모델 의존도를 낮추기 위한 국가적 과제라는 점에서 큰 의미가 있습니다. 이러한 과제를 성공적으로 달성하기 위해서는 모델, 데이터, 서비스, AI 반도체, 학계 연구가 통합된 구조가 필수적인데, SKT 컨소시엄이 그 요건을 가장 적합하게 갖추고 있다고 판단했습니다.

특히, 국산 모델과 국산 AI 반도체 간의 최적화를 통해 기존 GPU 중심 인프라 구조를 보완하고, 국내 AI 풀스택을 구현할 수 있다는 점이 결정적인 참여 요인이었습니다. 리벨리온은 산업별 AI 전환(AX)이 본격화하는 상황에서 국내 기업들이 안정적으로 고성능 AI를 활용할 수 있는 기반을 마련하는 것이 무엇보다 중요하다고 보고 있습니다. 이번 과제는 공공·산업 전반에서 요구되는 데이터 주권과 보안 기준을 충족하는 인프라를 구축하는 작업이기도 하며, 리벨리온은 이 과정에서 기여할 수 있는 기술적 역할에 집중할 계획입니다.

Q2. SKT 정예팀의 강점은 무엇이라고 생각하시나요?

A. SKT 정예팀의 강점은 파운데이션 모델, 멀티모달 연구, 온디바이스 AI, 데이터 구축, NPU 최적화 등 각 분야의 핵심 기업과 연구기관이 한 팀으로 모여, 모델 개발에 필요한 역량을 하나의 구조 안에서 완성한다는 점입니다. 역할 분담 또한 명확해 SKT의 모델 개발·실증, 크래프톤ㆍ포티투닷의 소형모델 증류 및 게임/모빌리티 환경 적용, 리벨리온의 NPU 최적화, 라이너의 응용 성능 개선, 셀렉트스타의 데이터 구축, 대학 연구진의 기반 연구가 유기적으로 연결됩니다. 이런 구조가 대규모 모델 개발부터 실제 서비스 적용까지 빠르게 이어질 수 있는 가장 큰 강점이라고 생각합니다.

Q3. 글로벌 경쟁 환경 속에서 K-AI 모델이 가지는 경쟁력은 무엇이라 생각하시나요?
A. 글로벌 경쟁이 심화되는 상황에서 K-AI 모델 개발은 빅테크 중심의 AI 생태계에 대한 장기적 종속을 줄이는 동시에, 한국의 산업 특성과 사용 환경을 반영한 분야별 특화 AI 모델과 서비스를 만들어내는 중요한 출발점입니다.

한국은 통신, 게임, 콘텐츠, 제조 등 다양한 기술 서비스 영역에서 이미 글로벌 경쟁력을 확보하고 있으며, AI 모델 개발 경험 또한 꾸준히 축적해 왔습니다. 이러한 산업적 저력과 전문성이 결합될 때, 한국은 특정 분야에서 세계적으로 경쟁력 있는 파운데이션 모델을 만들 수 있는 토대를 갖추고 있다고 봅니다.

결국, K-AI 모델의 경쟁력은 한국 산업의 깊이 있는 도메인 지식과 실제 서비스 운영 경험이 모델 설계와 고도화에 직접 반영될 수 있다는 점에서 나온다고 생각합니다.

국산 NPU 상용화 경험으로 K-AI 서비스 경쟁력을 더하다

Q4. 리벨리온과 리벨리온의 서비스를 간략히 소개해 주세요.

데이터센터용 AI 반도체 아톰을 탑재한 서버를 에이닷 전화 통화요약에 테스트 진행 중

A. 리벨리온은 데이터센터와 온프레미스On-premise, 클라우드가 아닌 자체 전산 서버에 직접 설치하고 운영하는 방식 환경에 적합한 AI 추론용 NPU와 이에 최적화된 풀스택 소프트웨어를 개발하는 회사로, 주력 제품인 ATOM-Max를 중심으로 빠르게 상용화를 진행하고 있습니다. 실제 서비스 전환 사례도 확보해 국내에서는 SKT ‘에이닷’의 통화요약 테스트가 진행 중이며, 반려동물 AI 진단 보조 서비스 ‘엑스칼리버(X Caliber)’는 NVIDIA GPU에서 ATOM 기반 인프라로 전환되어 상용 운영되고 있습니다.

글로벌에서는 미국·사우디·일본 등으로 확장해 각 지역에서 고객사 검증, PoC 완료 또는 진행, 그리고 현지 기관과의 협업 체계를 구축했습니다. 이러한 활동을 통해 실서비스 중심의 AI 인프라 시장에서 적용 범위를 넓혀가고 있습니다.

Q5. 리벨리온의 컨소시엄 내에서의 역할과 기여하고 있는 차별적 경쟁력은 무엇인가요?
A. 리벨리온은 파운데이션 모델이 국민의 일상에 자연스럽게 스며들기 위해 필요한 안정적이고 고효율적인 추론 AI 인프라를 제공하는 역할을 맡고 있습니다. 이는 AI 접근성을 높이고, 국내 AI 생태계 전반이 건강한 밸류체인으로 확장되는 데 필수적인 기반입니다.

이를 위해 리벨리온은 컨소시엄과 함께 AI 반도체 기술을 공동 개발하며, 핵심 역량을 국내에 내재화하기 위한 노력을 이어가고 있습니다. 특히 국내에서 유일하게 대규모 상용 환경에서 성능이 검증된 NPU 제품과 모델–칩 최적화 경험을 보유하고 있어, 독자 파운데이션 모델의 효율성과 확장성을 실질적으로 높일 수 있는 차별적 경쟁력을 갖추고 있습니다.

Q6. 리벨리온은 국내 최초로 NPU 기반 AI 반도체를 데이터센터에 상용화한 기업입니다. 이러한 기술적 배경이 이번 컨소시엄에서 어떻게 활용되고 있나요?
A. 리벨리온은 1세대 제품인 ATOM 출시 후 약 3개월 만에 데이터센터 상용화를 이뤄내며, NPU 기반 서비스가 실제 운영 환경에서 안정적으로 동작하기 위한 핵심 기술과 운영 경험을 확보했습니다. 이 과정에서 단순히 칩을 만드는 것을 넘어, 데이터센터 안에서 NPU가 효율적으로 작동하도록 통신 구조를 정비하고, 모델이 매끄럽게 구동될 수 있는 필수 소프트웨어와 최적화 기술도 함께 개발했습니다.

이번 컨소시엄에서는 이러한 상용화 경험이 중요한 역할을 합니다. 다양한 파운데이션 모델과 서비스가 리벨리온 NPU 기반 인프라에서도 안정적이고 효율적으로 실행될 수 있는 환경을 마련하고 있으며, 실제 운영 과정에서 축적한 노하우를 적용해 모델 성능과 서비스 품질을 높이는 데 기여하고 있습니다.

또한, 국산 NPU가 컨소시엄의 개방형 AI 인프라에 자연스럽게 활용될 수 있는 기반을 마련해, 국내 AI 기술 생태계가 자체 역량을 갖춰 나가는 데에도 의미 있는 역할을 하고 있습니다.

Q7. 리벨리온은 GPU 대비 최대 4.5배 높은 에너지 효율의 NPU를 내세우고 있습니다. 이를 가능하게 한 핵심 기술은 무엇이며, 글로벌 AI 인프라 시장에서 어떤 새로운 기회를 만들고 있다고 보시나요?

리벨리온의 서버 및 카드

A. 리벨리온이 높은 에너지 효율을 구현할 수 있는 이유는 AI 추론에 필요한 연산만 집중적으로 수행하도록 설계된 전용 하드웨어 아키텍처 덕분입니다. 이 아키텍처는 컴퓨팅 리소스를 최대한 활용하면서, 실제 서비스에서 요구되는 다양한 AI 워크로드에 유연하게 대응할 수 있는 것이 특징입니다. 이러한 아키텍처가 리벨리온 NPU 코어의 경쟁력이자 고효율 성능의 기반입니다.

또한, 하드웨어 성능을 온전히 끌어낼 수 있는 자체 소프트웨어 스택 역시 중요한 역할을 합니다. 리벨리온의 소프트웨어는 컴퓨팅 자원을 효율적으로 관리하고, 여러 장비에 걸쳐 안정적인 성능을 유지할 수 있도록 최적화되어 있어 실제 서비스 환경에서 높은 효율을 구현합니다.

이러한 기술적 기반은 글로벌 AI 인프라 시장에서도 새로운 기회를 만들고 있습니다. AI 서비스가 본격적으로 확산되면서 기업들은 단순한 도입을 넘어 운영비용(OPEX)과 구축비용(CAPEX)을 동시에 고려한 지속 가능한 인프라를 요구하기 시작했습니다. 특히 AI 추론 트래픽이 기하급수적으로 증가하는 상황에서 에너지 효율이 높은 반도체는 선택이 아닌 필수 요소가 되고 있습니다.

리벨리온의 NPU는 이러한 시장 변화에 이미 대응하고 있으며, 기업들이 대규모 AI 서비스를 보다 낮은 비용으로, 더 안정적으로 운영할 수 있도록 돕는 핵심 인프라 선택지로 자리 잡고 있습니다. 이는 곧 AI 서비스의 지속 가능성을 높이고, 글로벌 시장에서 새로운 활용 기회를 여는 기반이 되고 있습니다.

통합 경험으로 기른 실전 역량, 글로벌 확장의 값진 레퍼런스

Q8. 리벨리온이 컨소시엄 참여를 통해 얻을 수 있었던 것이 있었다면 말씀해 주세요.
A. 리벨리온은 독자 AI 파운데이션 모델 개발의 전 과정을 함께 수행하며, 모델 최적화와 NPU-as-a-Service 구축 등 NPU 기반 AI 서비스를 실제로 운영하는데 필요한 실질적 경험을 폭넓게 축적할 수 있었습니다. 이러한 경험은 앞으로 다양한 대국민 서비스가 파운데이션 모델을 기반으로 확산될 때, 리벨리온 NPU 상에서 자연스럽게 구동될 수 있도록 준비하는 데 중요한 기반이 되고 있습니다.

또한, 컨소시엄에는 한국 AI 생태계를 이끄는 기업과 연구진이 참여하고 있습니다. 이들과의 협업 과정에서 AI 생태계 전주기가 단일 기업의 노력만으로는 완성되기 어렵다는 점, 그리고 모델 개발부터 서비스 제공까지 함께 만들어가는 경험이 얼마나 중요한지를 깊이 이해할 수 있었습니다. 이러한 통합적 개발 경험은 리벨리온이 앞으로 글로벌 시장으로 확장하는 데에도 값진 레퍼런스이자 경쟁력으로 작용할 것으로 생각합니다.

Q9. 앞으로의 리벨리온의 계획을 말씀해 주세요.
A. 리벨리온은 다양한 엔터프라이즈 고객이 AI 서비스를 보다 효율적으로 도입할 수 있도록 서버 단위부터 랙(POD) 규모까지 확장 가능한 인프라 솔루션을 제공할 계획입니다. 이를 통해 고객이 요구하는 규모와 워크로드 특성에 맞춰 최적의 AI 추론 환경을 구축할 수 있도록 지원하고자 합니다.

또한, 오픈소스를 적극 활용해 AI 추론 서빙이 필요한 기업들에게 하드웨어와 소프트웨어가 유기적으로 결합된 통합 제품을 제공할 예정입니다. 이를 통해 고객이 별도의 튜닝 없이도 안정적이고 일관된 성능을 확보할 수 있도록 하는 것이 목표입니다.

앞으로 대규모 상용 서비스 사례를 지속적으로 확대해 리벨리온 NPU의 활용 범위를 넓히는 한편, 다양한 형태의 AI 서비스를 더 빠르고 효율적으로 전달할 수 있는 인프라 구성 방식도 고도화해 나갈 계획입니다. 이를 통해 기업들이 AI를 비즈니스 전반에 실질적으로 적용하고, 운영 효율성을 확보할 수 있는 기반을 마련해 나가겠습니다.