SK텔레콤은 지난 7월 초 대한민국의 ‘아시아 AI 인프라 허브’ 도약 비전을 발표했다. AI 모델 학습·추론 수요가 폭증하고 고성능 컴퓨팅 인프라가 국가 경쟁력을 좌우하는 시대에 SKT는 AI 인프라 경쟁을 선도해 대한민국의 AI 3강 진입에 기여할 방침이다. 이를 위해서는 통신, 반도체, 에너지 솔루션, 데이터센터 건설·운영 역량을 갖춘 SK그룹의 ‘풀 스택 AI 역량’을 결집하는 것이 핵심이다.

이를 위한 첫걸음이 바로 SK하이퍼(Hyper)의 출범이다. SKT는 AI DC 사업개발을 전담할 신설 법인 SK하이퍼를 설립하고, 2030년까지 7,500억 원을 출자하기로 결정했다. 대표이사는 정석근 SKT AI CIC장이 맡았다. 그는 SK텔레콤 AI CIC장과 AI DC 통합추진단장을 겸하고 있다.

SKT가 왜 AI DC에 집중하는지, SK그룹이 이를 가장 잘 해낼 수 있는 이유는 무엇인지, 그리고 SK하이퍼가 그리는 미래는 어떤 모습인지 정석근 CIC장에게 직접 들어봤다.

“AI 경쟁은 이제 인프라 경쟁”… SKT가 AI 데이터센터에 주목하는 이유

Q. SKT AI CIC장, SK하이퍼 대표이사, AI DC 통합추진단장까지 세 역할을 맡고 계십니다. 각각 어떤 역할인지 소개 부탁드립니다.
단순히 역할에 대해서 이야기하기보다는 각 조직에 대해서 먼저 말씀드리면 좋을 것 같습니다.

우선 AI CIC는 SKT에서 AI를 어떻게 더 잘 활용할지, 또 AI로 어떤 새로운 사업 모델을 만들지 오랫동안 고민해 온 조직입니다. 우리 회사가 AI 시대에 어떻게 적응하고 성장해 갈지를 고민하는 주체라고 보시면 됩니다.

그 고민의 결과로 시작한 것이 AI DC 사업이고, 이번에 새롭게 출범한 SK하이퍼와 그룹 차원에서 진행하는 AI DC 통합추진단이 이를 실행하는 조직입니다. SK하이퍼는 AI DC의 사업개발과 투자를 전담하는 법인이고, AI DC 통합추진단은 SK그룹이 가진 역량을 하나로 모아 실행 속도를 끌어올리는 역할을 합니다. 세 조직 각각이 제 역할을 원활히 수행할 수 있도록 하는 것, 그것이 바로 저의 역할입니다. 결국 대한민국의 ‘아시아 AI 인프라 허브’라는 목표를 이루기 위해 세 자리가 모두 맞닿아 있는 셈입니다.

Q. 최근 업계에서는 “AI 경쟁은 곧 인프라 확보 경쟁”이라는 말이 자주 나옵니다. AI 시대에 인프라가 왜 중요하며, AI DC는 기존 데이터센터와 어떻게 다른가요?
좋은 AI 모델은 좋은 알고리즘과 좋은 데이터가 있을 때 탄생합니다. 이 두 가지는 빠르게 상향 평준화되고 있습니다. 결국 핵심은 누가 더 많은 인프라를 가지고 있느냐입니다. 더 많은 전력과 더 많은 서버를 확보하는 것이 더 좋은 AI 모델을 만드는 핵심 요소가 된 것이죠.

데이터센터의 성격도 달라집니다. 기존 데이터센터가 주로 CPU와 스토리지를 넣었다면, AI DC는 여기에 엄청난 수의 GPU가 추가됩니다. GPU 하나가 소비하는 전력이 매우 크고, 여러 개를 한곳에 모을수록 AI 성능이 기하급수적으로 좋아집니다. 그래서 가능한 한 많은 자원을 한 군데 몰아두는 것이 AI DC의 핵심 차이점입니다.

Q. 지난 6월 진행된 ‘대한민국 3대 메가프로젝트 국민보고회’에서 SK는 AI DC를 ‘경부고속도로, 초고속 인터넷에 이은 제3의 국가 인프라 혁명’이라고 표현했습니다. 통신 기업을 넘어 AI 기업으로 전환하는 과정에서 AI DC가 갖는 전략적 의미는 무엇인가요?
과거 고속도로나 인터넷을 만들 때, 건설과 경제 성장 효과도 있었지만 그 인프라를 활용한 수많은 산업이 함께 발전했습니다. 자동차와 정유 산업, 게임 산업, 검색 회사, 통신사 같은 기업이 그렇게 생겨났죠. AI 데이터센터도 만들어지면 전후방에 큰 경제 파급 효과가 있을 것으로 봅니다.

전략적 의미는 더 큽니다. 통신 사업은 고객이 더 빠른 네트워크와 더 많은 데이터를 원할 때 거기에 맞춰 기술을 발전시키고 인프라에 투자해 온 사업입니다. 앞으로 고객들은 ‘토큰’을 요구하게 될 겁니다. 그 토큰을 만들어 낼 인프라를 우리가 직접 보유하고 효율화할 수 있는 기술을 갖는다면 AI DC는 새로운 사업일 뿐 아니라 통신 사업의 새로운 동력이 될 것입니다.

통신 · 반도체 · 전력 · 건설로 이어지는 SK그룹의 ‘풀스택 AI’ 경쟁력

Q. AI DC 사업은 많은 글로벌 기업이 경쟁하고 있는 분야입니다. SK그룹이 보유한 차별적 경쟁력은 무엇인가요?
AI DC는 건물 안에 GPU 서버를 넣고, 그로 인한 전력과 발열을 잡기 위한 냉각을 만들고, 거기에 맞춰 건물 구조를 설계하고, 외부에서 전력을 끌어옵니다. 이 모든 과정을 최적화하는 것이 진짜 경쟁력입니다. SK그룹 안에는 발전소를 운영하는 회사, 건설 회사, 반도체 회사, 그리고 컴퓨팅·네트워크·데이터센터를 운영하는 회사 등 AI DC를 위한 모든 멤버사가 존재합니다. 이런 역량들이 최적화된다면 훨씬 강한 경쟁력을 가질 수 있습니다.

특히, 강조하고 싶은 점은 ‘공급 가능성’ 그 자체입니다. 현재 AI DC 산업을 살펴보면 수요의 증가 속도를 공급이 따라가지 못하고 있습니다. 전 세계적으로 전력이 부족하고 AI DC 건설 자체도 매우 어려운 프로젝트입니다. SK그룹의 계획대로 안정적으로 AI DC를 건설하고, AI 컴퓨팅을 공급할 수 있다면 그 자체가 매우 강력한 의미가 될 것입니다.

Q. 이렇게 SK그룹이 보유한 다양한 역량 중에서 특히 주목할 만한 부분은 무엇인가요?
메모리는 AI 인프라 영역에서 구조적 차별성을 만드는 핵심입니다. AI DC를 만드는 가장 큰 이유가 ‘추론’ 때문인데 가장 큰 병목은 메모리의 절대적인 양에서 갈립니다. 메모리가 많아지면 같은 GPU로도 훨씬 많은 추론과 연산이 이루어집니다. SK그룹은 더 많은 메모리를 투입해 효율적인 서비스를 제공하는 기술을 선점할 수 있습니다. 이것이 핵심적인 요소입니다.

또 하나는 SKT의 인프라 운영 역량입니다. 통신 사업은 대규모 투자로 인프라를 만들고 안정적으로 운영하는 역량이 필수적입니다. SKT가 보유한 이러한 경험은 AI 인프라 사업을 추진하는 데 있어 매우 큰 경쟁력이 될 것입니다.

선언에서 실행으로… SK하이퍼가 그리는 ‘아시아 AI 인프라 허브’

Q. AI DC 사업개발 전문 법인으로 SK하이퍼가 출범했습니다. 왜 별도 법인이 필요했는지 설명 부탁드립니다.
1GW 규모의 AI DC 설립에 드는 비용은 수십조 원이 들어가는 천문학적인 규모입니다. 이를 감당하려면 고객을 유치하는 역량, 대규모 부지 확보 및 건설 역량, GPU 클러스터를 운영하는 역량, 막대한 자금을 조달하는 역량이 모두 필요합니다. SK하이퍼는 그 실행력을 높이기 위한 선택입니다.

물론 도전적인 목표입니다. 하지만 저는 이를 “생소한 숫자일 뿐, 허황된 숫자는 아니다”라고 봅니다. 이미 글로벌 빅테크들과 AI DC 관련 다양한 협의를 진행하고 있습니다. 전 세계적으로도 데이터센터를 짓기도 어렵고, 짓는다 하더라도 서버에 넣을 메모리를 확보하기 어려운 상황에서 앞으로 2~3년이 골든타임이 될 것입니다.

Q. ‘아시아 AI 인프라 허브’를 위해서는 글로벌 빅테크 유치가 핵심일 것 같습니다. 이들에게 무엇을 앞세워 소구하실 계획인가요?
세 가지를 말씀드리고 싶습니다. 첫째는 안정적인 전력입니다. 한국은 정전이 거의 없을 만큼 전력 인프라가 탄탄하고 지역 단위의 전력 공급량도 충분합니다. 지역 발전소 근처에 AI DC가 위치하면 안정적 전력 확보 측면에서 상당히 매력적인 요소가 될 것입니다.

둘째는 앞서 말씀드린 SK그룹이 가진 인프라 역량과 메모리에 대한 접근성입니다. SK하이닉스의 메모리 역량, SKT의 대규모 인프라 구축·운영 능력 등이 함께 어우러진다면 글로벌 빅테크 기업들이 가장 먼저 고려할 파트너는 SK그룹이 될 것입니다.

셋째는 신뢰입니다. 최근 AI가 전략 자산이 되면서, 자체 모델을 보유한 기업들은 서버의 물리적 보안을 매우 중시합니다. 많은 기업이 신뢰할 수 있는 국가와 사업자에게 인프라를 맡기려고 하며, SKT는 그 지점에서 중요한 경쟁력을 가지고 있습니다.

앞으로 하이퍼 스케일러들이 규모의 경제를 갖춘 데이터센터를 키워가는 한편, 각 국가는 자국 모델을 돌리기 위한 소버린 AI 인프라를 만들어 갈 것입니다. 미국과 유럽 시장은 물리적인 거리도 멀고, 경쟁이 매우 치열합니다. 이것이 아시아에는 오히려 기회가 될 것입니다. 빅테크를 유치하고, 메모리를 확보하고, 자금을 조달하는 역량을 갖춘다면, 한국은 명실상부 ‘아시아 AI 인프라 허브’로서 글로벌 AI 산업의 주역으로 자리매김할 수 있을 것이라고 생각합니다.

Q. 끝으로 앞으로의 사업 추진과 관련해 한 말씀 부탁드립니다.
지난해부터 다양한 글로벌 파트너들을 만나고 그들의 전략과 니즈를 파악하며 많은 것을 배울 수 있었던 값진 경험을 했습니다.

AI DC를 향한 SKT의 변화는 고객분들과 다양한 사업 파트너들께도 더 나은 가치를 드리게 될 것입니다. 데이터를 얼마나 사용하는 것이 중요했던 통신 서비스가 무제한 데이터 시대로 바뀌었듯, 앞으로는 고객이 직접 자신의 AI 비서를 만들고 그 비서가 구동될 수 있는 AI 인프라는 더욱 중요해질 것입니다.

SKT가 AI DC라는 인프라를 직접 갖춘다는 것은 AI 시대 고객분들께 더 많은 가치를 제공할 수 있다는 의미라고 생각합니다.

SKT의 발걸음에 많은 응원과 관심을 부탁드립니다.