‘Good Change’는 SKT 뉴스룸이 전개하는 캠페인으로 AX를 통한 일·문화 혁신과 고객 가치 혁신(CX)을 통한 신뢰 회복, 두 방향의 변화를 소개합니다.
[Good Change 콘텐츠 모아보기 링크]

SKT 뉴스룸은 IT·AI 분야의 최신 트렌드를 전문가의 시선으로 짚어보는 외부 기고 칼럼을 연재하고 있다. 광운대학교 경영학부 빅데이터경영전공 최재운 교수의 기고를 통해, AI 시대의 핵심 경쟁력이 모델에서 인프라로 이동하고 있는 흐름과 그 의미를 살펴본다.

1882년 9월 4일, 뉴욕 맨해튼의 좁은 골목에 사람들이 모여 있었다. 그날 오후, 펄 스트리트(Pearl Street)에 들어선 작은 발전소가 처음으로 가동되며 인근 사무실과 가게의 백열등이 하나 둘 켜졌기 때문이다. 발명가의 이름은 토머스 에디슨. 전구 자체는 이미 3년 전에 세상에 나와 있었지만 전구 하나만으로는 아무 일도 일어나지 않았다. 진짜 변화는 그것에 전기를 보낼 발전소가 가동된 그날, 시작된 것이다.

발전소가 늘어나자 사무실의 불빛은 길어졌고, 공장은 24시간 돌아갔으며, 도시는 잠들지 않게 됐다. 위대한 발명은 늘 그렇게 두 단계로 완성된다. 발명품이 먼저 만들어지고, 그것을 떠받치는 인프라가 뒤따르는 것이다. 자동차 이전에 도로가 있어야 하고, 인터넷 이전에 광케이블이 있어야 한다. 이번엔 AI 차례다. 우리는 그 두 단계의 한가운데에 서 있다.

* 본 칼럼은 외부 전문가의 기고로, SK텔레콤의 공식 입장과 다를 수 있습니다.

데이터센터가 아니라, AI 팩토리다

2024년 3월 19일, 미국 캘리포니아 새너제이의 SAP 센터의 무대 위로 특유의 가죽재킷을 입은 한 사람, 엔비디아 CEO 젠슨 황이 올라왔다. 그날 ‘GTC 2024 키노트’에서 그는 차세대 GPU 플랫폼 ‘블랙웰(Blackwell)’을 발표했지만, 정작 가장 많이 인용된 말은 키노트 직후 한 기자와 나눈 인터뷰에서 나왔다. “이 방들에서 새로운 산업혁명이 일어나고 있다. 나는 이것들을 ‘AI 팩토리’라고 부른다. 들어가는 원료는 데이터와 전기다. 그리고 나오는 것은 토큰이라는, 보이지 않지만 매우 가치 있는 무언가다.”

데이터센터를 더 이상 ‘비용센터’로 보지 말고 ‘공장’으로 보라는 도발이었다. 1차 산업혁명의 공장이 물과 석탄을 받아 직물을 뽑아냈다면, 21세기의 AI 팩토리는 데이터와 전기를 받아 지능을 뽑아낸다. 발언이 던진 메시지는 분명했다. AI 시대의 부가가치는 더 이상 알고리즘 한 줄에서만 나오지 않는다는 것. 그것을 돌릴 인프라가 곧 부가가치라는 것. 그의 비유가 마냥 마케팅 수사로 끝나지 않은 이유는, 산업 데이터가 그 변화를 정확히 따라가고 있기 때문이다.

추론의 시대, 그리고 굶주린 발전소들

글로벌 컨설팅사 딜로이트(Deloitte)는 2026년 기술·미디어·통신 전망 보고서에서 흥미로운 수치를 내놓았다. 2023년만 해도 전 세계 AI 컴퓨팅 자원에서 ‘추론(inference)’이 차지하는 비중은 약 3분의 1에 불과했다. 나머지 3분의 2는 모델을 가르치는 ‘학습(training)’의 몫이었다. 그런데 단 2년 만에 추론은 전체의 절반까지 올라오며 학습과 추론이 50대 50으로 균형을 이루었다. 2026년에는 추론이 약 3분의 2를 차지하게 될 것으로 전망된다.

이는 AI가 더 이상 연구실에 갇혀 있지 않는다는 신호다. 챗봇이 질문에 대한 답을 내놓고, 자율주행 차량이 신호등의 패턴에 따라 주행 여부를 판단하고, 음성통화 속에서 보이스피싱을 잡아내는 모든 순간이 추론이다. 학습은 비교적 드물게 일어나지만, 추론은 매 초마다 일어난다. 여기에 또 하나의 변수가 더해졌다. 바로 ‘AI 에이전트’의 부상이다. 사용자가 “이메일 정리해 줘”라고 한마디를 던지면, AI 에이전트는 메일함을 훑고, 중요도를 분류하고, 답장 초안을 만들고, 일정에 회의를 잡는 모든 과정을 추론으로 처리한다. 하나의 요청사항에 대한 응답을 내놓기 위해서는 수십 번의 추론이 필요하다. 추론은 단순히 늘어나는 게 아니라, 폭증한다.

폭증의 끝에는 결국 전력 문제가 기다리고 있다. 국제에너지기구(IEA)에 따르면, 2024년 전 세계 데이터센터의 전력 소비량은 약 415TWh였다. 인류 전체 전기 사용량의 약 1.5% 수준이다. 그런데 IEA는 2030년이면 이 숫자가 945TWh 안팎까지 늘어날 것으로 예측하고 있다. AI 가속 서버 영역만 따로 보면 매년 약 30%씩 성장한다. 이쯤 되면 한 가지가 분명해진다. 이제는 ‘AI를 가진 나라’와 ‘그 AI를 돌릴 전기를 가진 나라’가 다시 한번 갈라지는 시대라는 것. 핵심 변수는 모델의 성능보다 발전소가 되었다.

SKT가 그리는 한국형 AI 발전소

SK브로드밴드 가산 AI DC에 구축된 ‘해인’의 모습.

SKT는 이런 흐름을 잘 읽어내고 있다. AI를 한쪽 끝에서만 보지 않고 인프라부터 모델, 서비스까지 세 층의 구조를 통째로 묶어 제공하는 ‘풀스택 AI(Full Stack AI)’를 준비하고 있다.

먼저 인프라 층이다. 2025년 8월 1일, SKT는 SK브로드밴드 가산 AI 데이터센터에 ‘해인(海印)’이라는 GPU 클러스터를 가동시켰다. 엔비디아 최신 칩 블랙웰 B200을 1천 장 넘게 단일 클러스터로 묶은, 국내 최대 규모이자 최고 성능의 GPUaaS(서비스형 GPU)다. 이름은 팔만대장경이 보관된 합천 해인사에서 따왔다. 디지털 시대의 팔만대장경을 품겠다는 다짐과 같다.

그리고 한 달 뒤인 8월 29일, 더 큰 그림이 모습을 드러냈다. SKT와 아마존웹서비스(AWS), SK에코플랜트, 울산광역시가 함께 손잡고 울산미포국가산업단지에서 ‘SK AI 데이터센터 울산’ 기공식을 열었다. 국내 비수도권 최대 규모의 AI 전용 데이터센터로, 2027년 11월 41MW 규모의 1차 가동을 시작해, 2029년 2월까지 총 103MW로 완공한다는 계획이다. SKT는 여기에 더해 향후 GW급 AI 데이터센터 클러스터로 확장하기 위한 양해각서를 울산시와 함께 체결했다. 30년간 약 7만 8천 명의 고용 창출과 25조 원 이상의 경제 효과가 기대되는 거대한 프로젝트다.

모델 층에는 5천 억(500B) 매개변수 규모의 초대형 언어모델 ‘A.X K1’이 자리 잡고 있다. SKT와 8개 기업·기관이 함께 꾸린 ‘SKT 정예팀’이 개발한 모델로, 과학기술정보통신부의 독자 AI 파운데이션 모델 프로젝트 1차 평가에서 고난도 수학과 코딩 추론 영역에서 우수한 평가를 받으며 2단계 진출에 성공했다.

SKT이 MWC26에서 AI 인프라·모델·서비스 전반을 아우르는 ‘풀스택(Full-Stack) AI’ 경쟁력을 선보였다.

서비스 층에는 우리에게 익숙한 에이닷이 있다. 에이닷 전화, 에이닷 노트, 에이닷 오토, 에이닷 비즈까지. 인프라가 전기라면, 모델은 발전기, 서비스는 우리 손에 들어오는 스마트폰의 전구다.

특히 흥미로운 건, SKT가 ‘AI 인퍼런스 팩토리(Inference Factory)’라는 차세대 추론 솔루션을 연구 중이라는 점이다. AI 데이터센터가 마주한 비용과 전력, 메모리 한계를 한꺼번에 풀기 위해 GPU 자원과 추론 소프트웨어, 액침냉각 기술까지 하나의 풀스택으로 묶는 발상이다. 젠슨 황이 던진 ‘AI 팩토리’라는 비유가 2년 만에 한국 기업의 실제 설비 이름으로 옮겨붙은 셈이다.

발전소를 가진 나라가 다음 시대의 빛을 켠다

전구를 가진 자가 아니라, 발전소를 가진 자가 새로운 시대의 주인공이 된다. 142년 전 에디슨이 펄 스트리트에서 증명한 이 원리는 AI 시대에도 그대로 반복되고 있다. 모델이 아무리 뛰어나도 그것을 돌릴 인프라가 없다면, 우리 손에 든 AI는 필라멘트만 갖춘 전구에 지나지 않는다.

‘AI 자립’이라는 말이 자주 들리지만, 자립의 여건은 모델 한두 개에 있지 않다. 모델을 돌릴 GPU, GPU를 식힐 냉각수, 그 모든 것에 전기를 보낼 발전소까지. 학습의 시대에서 추론의 시대로 무게중심이 옮겨진 지금, 인프라는 기술의 뒤편이 아니라 기술의 전제 조건이 되었다. 전구들이 꺼지지 않을 발전소를 먼저 짓는 일. 다음 시대의 빛은 바로 그 발전소에서 시작될 것이다.