(왼쪽부터) GPUaaS상품개발팀 양상훈, 최지만, 이재협 님

지난 3월초 스페인 바르셀로나에서 열린 MWC26에서 SK텔레콤의 GPU 클러스터 ‘해인(海印, Haein)’이 글로벌 모바일 어워드(GLOMO) ‘최고의 클라우드 솔루션(Best Cloud Solution)’ 부문을 수상했다. SKT는 2024년 ‘클라우드 레이다’, 2025년 ‘페타서스 AI 클라우드’, 그리고 올해 ‘해인’까지 같은 부문에서 3년 연속 수상을 기록했다.

특히 이번 수상은 개별 기술이 아니라 AI 인프라 전체를 완성한 성과라는 점에서 의미가 크다. GPUaaS 상품개발팀의 최지만, 양상훈, 이재협 님을 만나 SKT AI 인프라 해인이 만들어지기까지의 이야기를 들어봤다.

기술을 넘어 AI 인프라로… 여러 기술이 하나로 모여 완성된 ‘해인’

Q. 이번 GLOMO 수상은 SKT에 어떤 의미인가요?
A. 최지만 : 2024년에 수상한 클라우드 레이다, 그리고 2025년 페타서스 AI 클라우드는 각각 개별 솔루션의 기술력을 인정받은 사례였습니다. 반면 이번 ‘해인’은 그 기술들을 모두 모아 하나의 통합 서비스로 완성했다는 점에서 의미가 큽니다. GPU를 중심으로 한 AI 인프라는 그 자체로 난도가 높은 아키텍처와 엔지니어링 역량이 요구되는 영역입니다.

또한 SKT가 가진 회선, 데이터센터, 운영 노하우 같은 통신 인프라 역량을 AI와 결합해 실제로 작동하는 인프라로 구축했다는 점이 가장 큰 차이입니다. 단순한 기술을 넘어 실제 서비스로 운영되는 AI 인프라라는 점에서 의미가 있다고 생각합니다.

A. 양상훈 : 이전에 수상했던 기술들이 지금 해인 클러스터 안에서 실제로 운영되고 있습니다. 저희가 쌓아온 기술 역량이 단발성으로 끝난 것이 아니라 매년 더 큰 그림 속에서 해인이라는 하나의 통합 인프라 위에 차곡차곡 쌓여 완성된 서비스가 된 셈입니다.
특히 데이터센터와 GPU 인프라 같은 텔코 자산을 결합해 한국형 소버린 AI 인프라를 구축했다는 점에서 의미가 있습니다. AI를 통해 새로운 성장 동력을 모색하는 글로벌 통신사들에게도 의미 있는 사례가 될 수 있다고 생각합니다.

AI 개발에 필요한 GPU를 서비스로… GPUaaS라는 새로운 인프라 모델

해인을 이해하려면 먼저 GPUaaS(GPU as a Service)라는 개념부터 짚어볼 필요가 있다. AI 산업이 빠르게 성장하면서 GPU 인프라를 어떻게 효율적으로 활용할 것인지가 중요한 과제가 되었고, 그 해답 중 하나가 바로 GPUaaS다.

최근 AI 산업이 빠르게 성장하면서 GPU 수요가 폭발적으로 증가했고, 이른바 GPU 쇼티지 현상이 발생하기도 했다. 이러한 환경에서 GPU 인프라를 전문적으로 제공하는 클라우드 서비스 모델로 GPUaaS가 등장했다.

GPUaaS 상품개발팀 이재협 님

Q. GPUaaS가 무엇인지 설명 부탁드립니다.
A. 이재협 : GPUaaS는 쉽게 말해 GPU 렌터카 서비스라고 생각하시면 됩니다. 자동차가 필요할 때 직접 구매하지 않고 렌터카를 이용하는 것처럼 AI 개발에 필요한 고성능 GPU 서버나 스토리지, 네트워크 같은 인프라를 직접 구축하지 않고 필요한 만큼 빌려 사용할 수 있는 서비스입니다.

예를 들어 기업이나 연구기관이 AI 모델을 개발하려고 하면 대규모 GPU 인프라가 필요합니다. 하지만 GPU 서버는 비용이 굉장히 높고 구축에도 시간이 오래 걸립니다. GPUaaS는 이런 인프라를 서비스 형태로 제공해 사용자가 필요한 기간 동안 필요한 만큼 GPU 자원을 사용할 수 있도록 하는 모델입니다.

A. 양상훈 : 기존 클라우드 산업에는 IaaS, PaaS, SaaS 같은 다양한 서비스 모델이 있습니다. 기업이 직접 서버를 구축하는 대신 AWS나 Microsoft Azure 같은 클라우드에서 컴퓨팅 자원을 서비스 형태로 사용하는 방식입니다. GPUaaS는 이러한 클라우드 서비스 중에서도 AI 연산에 필요한 GPU 컴퓨팅 자원을 중심으로 제공하는 서비스라고 볼 수 있습니다.

GPUaaS 상품개발팀 최지만 님

Q. 그렇다면 GPUaaS 상품개발팀은 해인에서 어떤 역할을 맡고 있나요?
A. 최지만 : 해인은 엔비디아의 차세대 AI GPU인 B200을 1,000장 이상 단일 클러스터로 구성한 국내 최대 규모의 GPU 인프라입니다. 단순히 GPU 서버를 모아놓은 것이 아니라 고속 네트워크와 스토리지, 운영 플랫폼까지 모두 통합된 형태의 AI 인프라입니다.

이 인프라는 현재 국가 AI 전략에 맞춰 K-AI 파운데이션 모델 개발 사업자들에게 컴퓨팅 인프라를 제공하는 역할을 하고 있습니다. 저희 팀은 인프라 설계와 아키텍처 디자인, 비용 최적화 그리고 구축과 운영 등 실제 사업화를 위한 전반적인 역할을 맡고 있습니다.

앞으로는 해인을 통해 얻은 운영 노하우와 데이터를 바탕으로 피지컬 AI(Physical AI) 등 확장되고 있는 AI 산업 흐름에 맞춰 AI 인프라 사업을 지속적으로 발전시켜 나갈 계획입니다.

속도·보안·성능… AI 인프라 구축의 현실

해인은 국가 AI 인프라와 관련된 프로젝트였던 만큼 단순한 기술 구현을 넘어 여러 조건을 동시에 고려해야 했다. 제한된 시간과 다양한 요구 속에서 해인을 완성하기 위한 고민과 노력이 이어졌다.

GPUaaS 상품개발팀 양상훈 님

Q. 프로젝트에서 가장 중요했던 부분과 어려웠던 부분은 무엇이었나요?
A. 양상훈 : 이번 프로젝트에서 가장 중요하게 고려했던 것은 크게 네 가지였습니다. 속도, 보안, 유연성, 그리고 성능과 비용의 균형입니다.

먼저 속도입니다. 과학기술정보통신부 1차 사업을 목표로 구축을 진행해야 했기 때문에 실제 구축에 주어진 시간은 두 달 정도에 불과했습니다. GPU 장비 중에는 리드타임이 오랜 시간이 걸릴 정도로 수급 상황이 좋지 않았습니다. 그런 상황에서도 단순히 빨리 구축하는 것이 아니라 저희가 원하는 아키텍처와 스택으로 인프라를 완성해야 했습니다.

두 번째는 보안입니다. 국가와 협력하는 사업이다 보니 국가에서 권장하는 클라우드 정보보호 기준을 충족해야 했습니다. 동시에 향후 민간 시장으로 확장할 가능성까지 고려해 설계 단계부터 보안 인증 취득까지 염두에 두고 기획했습니다.

세 번째는 유연성입니다. 정부 사업 이후 민간 시장으로 확장될 수 있는 구조가 필요했기 때문에 강력한 보안과 확장 가능한 인프라 구조 사이에서 균형을 맞추는 것이 중요한 과제였습니다.

마지막으로 성능과 비용의 균형입니다. GPU를 전 세대인 H200으로 갈지, 최신 B200으로 갈지부터 네트워크와 스토리지 구성까지 어디에서 성능을 확보하고 어디에서 비용을 조정할지 세밀하게 판단해야 했습니다.

결국 그 모든 어려움을 돌파하게 만든 것은 사람이었습니다. 문제가 생기면 누가 시키지 않아도 현장으로 달려가 해결하려는 팀원들이 있었고, 밤낮없이 머리를 맞대며 해결책을 찾았습니다. 그 과정에서 프로젝트를 완성시키는 것은 결국 사람이라는 사실을 다시 느끼게 됐습니다.

Q. 세 분에게 ‘해인’은 어떤 의미인가요?
A. 이재협 : 저에게 해인이란 ‘증명’입니다. 처음 접하는 업무라 부족한 점도 많았지만 팀원들 덕분에 제 몫을 해낼 수 있었습니다. 저 자신에 대한 증명이었고, 힘든 상황에서도 웃음을 잃지 않는 우리 팀이 ‘1티어’라는 증명이기도 했습니다.

A. 양상훈 : 저에게 해인이란 ‘커리어의 두 번째 페이지’입니다. 그동안 클라우드와 온프레미스 인프라 쪽에서 일을 해왔지만 CPU 서버와 GPU 인프라는 완전히 다른 세계였습니다. 해인을 통해 GPU와 HPC 시장에 본격적으로 발을 들이게 되었고 AI와 함께 이어갈 제 커리어의 새로운 시작점이 되었습니다.

A. 최지만 : 저에겐 ‘반려동물’ 같은 존재입니다. 보고 있으면 흐뭇하고 어디에 내놓아도 자랑스럽지만 동시에 늘 관심을 가지고 돌봐야 하는 대상이기도 합니다. 앞으로도 계속 애정을 쏟으며 관리하고 성장시켜 나가야 할 소중한 존재라고 생각합니다.

GPU 클러스터 해인은 단순한 기술 성과를 넘어 SKT가 그리는 AI 전략의 중요한 기반이 되고 있다. GLOMO 수상이라는 성과 뒤에는 수많은 선택과 도전, 그리고 현장에서 문제를 해결해 온 사람들의 시간이 쌓여 있다.

이 인프라 위에서 해인은 앞으로 더 많은 AI 기술과 서비스를 연결하는 토대가 될 것이다. GPUaaS 상품개발팀의 다음 여정 역시 이제 막 시작됐다.