SK텔레콤은 지난 6월, 아마존웹서비스(Amazon Web Services, 이하 AWS), SK그룹 멤버사들과 함께 울산에 국내 최대 규모의 하이퍼스케일 AI 전용 데이터센터(AI DC)를 구축한다고 발표[글 보기]했다. 울산 AI DC는 2027년 가동을 목표로 하며 SK그룹 전반의 역량을 기반으로 ‘AI 인프라 슈퍼 하이웨이(AI Infra Super Highway)’의 핵심 거점으로 자리매김할 예정이다.

뉴스룸은 AWS 인프라 서비스 부사장 프라사드 칼야나라만(Prasad Kalyanaraman)과의 인터뷰를 통해 AI가 가져올 산업의 변화, 회사의 AI 인프라 전략 그리고 SK그룹과의 협업 성과에 대해 물었다. 아마존에서 18년간 근무한 그는 현재 전 세계 AWS 글로벌 인프라의 설계, 계획, 구축, 운영을 총괄하는 글로벌 팀을 이끌고 있다. 1만 9천여 명의 직원과 함께 ‘클라우드 기반 구축’을 위해 데이터 센터 전기·기계 시스템을 설계 및 엔지니어링 하고, 부동산·에너지·지속 가능성 전략 수립과 실행 업무를 담당하고 있다.

*본 글은 다른 회사의 의견을 포함하고 있으며, SK텔레콤의 공식 입장과 다를 수 있습니다.

AI 개발의 최전선을 지원하는 인프라 구축에 총력 중

AWS 인프라 서비스 부사장, 프라사드 칼야나라만

Q1. AI가 지난 몇 년간 사회와 산업에 가져온 변화에 대해 어떻게 생각하시나요?
A. 생성형 AI와 같은 기술은 살면서 한 번 있을까 말까 한 기회입니다. 아마존은 지난 25년간 AI가 고객 경험을 더 쉽고 더 나은 방향으로 발전시킬 것이라는 관점을 유지해 왔습니다. 생성형 AI는 이러한 변화를 가속화했고, 그 영향은 매일 빠르게 확산되고 있습니다. 현재 수백만 개의 고객사가 헬스케어, 제조, 자동차, 금융 서비스, 통신 등 다양한 산업 분야에서 AWS의 AI 기반 기능을 적극적으로 도입하고 있습니다.

앞으로 생성형 AI는 단순한 기능을 넘어 컴퓨팅, 스토리지, 데이터베이스와 같은 전통적인 요소들과 마찬가지로 사실상 모든 애플리케이션의 근본적인 구성 요소가 될 것으로 전망합니다. 기업들은 점점 더 복잡한 업무를 수행하고 다른 시스템과 상호작용할 수 있는 지능형 에이전트를 자체적으로 개발하게 될 것입니다. 이러한 변화가 지금 이 순간에도 진행되고 있다는 점이 매우 기대됩니다.

AI에 대한 비전은 최근 SK그룹과의 협력에서 잘 드러납니다. AWS는 이번 협력을 계기로 울산에 새로운 AWS AI 존(AWS AI Zone)을 구축하여 세계적인 수준의 클라우드 컴퓨팅 인프라를 확장했습니다. 이번 협력으로 한국이 세계적인 AI 선도국으로 자리매김하는 국가적 AI 이니셔티브에 기여할 수 있게 된 것을 매우 뜻깊게 생각합니다. SK그룹과 AWS는 단순히 인프라를 구축하는 것이 아니라, 한국의 AI 혁신과 AI 리더십의 새로운 장을 여는 기반을 마련하고 있습니다.

Q2. AWS가 AI 데이터센터 운영과 AI 인프라 개발에서 거둔 주요 성과와 현황을 말씀해 주시겠습니까?
A. 저는 AWS가 효율성, 성능, 지속 가능성에 집중하면서도 끊임없이 가능성의 한계를 넓혀온 점에 대해 특히 자부심을 느끼고 있습니다.

먼저 뛰어난 성과를 거둔 맞춤형 반도체 전략을 말씀드리겠습니다. AWS가 자체 설계한 AWS 트레이니엄(AWS Trainium)비용을 절감하면서도 고성능을 제공하기 위해 AWS가 AI 훈련 및 추론용으로 특별히 구축한 AI 칩 제품군
과 AWS 인퍼런시아(AWS Inferentia) 칩딥 러닝 및 생성형 AI 추론 애플리케이션을 위해 최저 비용으로 고성능을 제공하도록 설계된 칩 제품
에 대한 수요가 꾸준히 늘고 있습니다. 이는 머신러닝 워크로드에서 고객이 성능을 극대화하면서도 비용을 절감할 수 있게 해주는 칩의 경쟁력을 보여줍니다. 최근 발표한 아마존 EC2 Trn2 인스턴스(Amazon EC2 Trn2 Instances)16개의 AWS 트레이니엄2 칩으로 구동되며 생성형 AI용으로 특별히 구축되었으며 수천억에서 조 단위 이상의 파라미터로 모델을 훈련하고 배포할 수 있는 고성능 EC2 인스턴스
는 생성형 AI 학습을 위해 설계됐으며, 이전 세대 대비 에너지 효율이 3배 향상되었습니다. 이는 고급 실리콘 공정과 하드웨어·소프트웨어 최적화를 결합한 결과입니다.

효율성 측면에서는 랙 구성부터 전력 분배, 냉각 기술까지 데이터센터 전체를 통합적으로 설계하여 워크로드와 관계없이 에너지 효율을 지속적으로 높이고 있습니다.

무엇보다 고무적인 것은 세계적인 AI 혁신 기업들이 AWS 인프라를 기반으로 서비스를 구축하고 있다는 점입니다. 앤트로픽(Anthropic), 데이터브릭스(Databricks), 레오나르도 AI(Leonardo.ai), 퀄트릭스(Qualtrics), 리코(Ricoh) 등 여러 고객이 맞춤형 AWS 칩을 활용하고 있으며, 전 세계 수만 개의 기업이 아마존 베드록(Amazon Bedrock)생성형 AI 애플리케이션 및 에이전트 구축을 위한 완전관리형 서비스로, AI21 Labs, Anthropic, Cohere, Meta, OpenAI 등의 선도 AI 모델들을 제공
을 이용해 생성형 AI 애플리케이션을 개발하고 있습니다.

이러한 성과들은 AWS가 효율성, 성능, 지속 가능성을 지속적으로 개선하면서 AI 개발의 최전선을 지원하는 인프라를 구축하는 것에 총력을 다하고 있음을 보여줍니다.

Q3. 특히 AWS가 구축중인 AI 존과 관련해, AWS의 AI 전략에 대해 말씀해 주시겠습니까?
A. AWS의 접근 방식은 전례 없는 규모로 글로벌 인프라를 설계·구축·운영해 온 약 20년간의 경험을 바탕으로 합니다. 아무 기반 없이 새로 시작하는 것이 아니라, 키로(Kiro)AI 에이전트가 개발 목표와 요건을 분석해 설계부터 코드 작성까지 자동화하는 아마존의 차세대 개발 도구, 아마존 베드록 에이전트코어(Amazon Bedrock AgentCore)기업이 다양한 프레임워크와 모델을 사용해서 AI 에이전트를 안전하고 대규모로 배포하고 운영할 수 있게 도와주는 완전관리형 서비스와 같은 기계 학습 및 AI 애플리케이션 서비스의 기반이 되는 이미 검증된 인프라를 지속적으로 진화시켜 차세대 AI 워크로드와 첨단 클라우드 기술의 요구를 충족하고 있습니다.

이를 위해 냉각, 전력, 하드웨어 설계에서 지속적으로 혁신을 이어가고 있습니다. 예를 들어, AWS는 새로운 데이터센터와 기존 데이터센터 모두에 적용 가능한 액체-칩 냉각(liquid-to-chip cooling)을 제공하는 새로운 기계식 냉각 솔루션을 개발했습니다.

전력 관리도 중요한 혁신 영역입니다. AWS는 데이터 분석과 생성형 AI로 구동되는 정교한 소프트웨어를 활용해 가장 효율적인 서버 배치 패턴을 예측하고, 가용하지만 사용되지 않는 유휴 전력을 크게 줄였습니다.

가장 괄목할 만한 발전이 이루어진 분야는 아마 네트워킹 솔루션일 것입니다. 생성형 AI 워크로드를 위해 구축한 울트라클러스터 2.0(UltraCluster 2.0)수만 개 GPU와 AWS 트레이니엄 AI 칩을 연결하는 초저지연, 초고속 네트워크 기반 슈퍼컴퓨터네트워크는 2만 개 이상의 GPU를 지원하며, 1세대 설계보다 지연 시간을 25% 낮췄습니다. 이를 통해 초당 수십 페타비트의 처리량과 10마이크로초 미만의 왕복 시간을 제공하여, 모델 학습 속도를 최소 15% 향상시켰습니다.

SK그룹-AWS 협력, 한국의 AI 미래에 대한 AWS의 확고한 의지 보여줘

MWC25에서 선보인 SK텔레콤 전시관의 AI 데이터센터 부스

Q4. 최근 SK그룹과의 협력 배경과 이번 협력이 양사에 갖는 의미를 말씀해 주시겠습니까?
A. 이번 협력은 AWS와 SK그룹이 15년간 이어온 파트너십에 대한 중요한 이정표라 할 수 있습니다. SK그룹이 울산에 데이터센터를 구축하고, 그 안에 새로운 AWS AI 존을 조성함으로써 한국 내 기업들은 AWS의 폭넓은 기술 역량을 활용하면서도 현지에서 혁신적인 AI 애플리케이션을 개발할 수 있게 될 것입니다.

AWS는 SK그룹과 함께 한국이 글로벌 AI 리더로 도약하도록 협력하고, 한국의 기업과 공공기관이 AI를 통해 혁신과 경제 성장을 이끌어갈 수 있도록 돕고자 합니다. 이번 협력은 AWS에서 이미 공개한 바가 있는 2027년까지 한국에 58억 8천만 달러(7조 8500억 원) 규모를 장기 투자하기로 한 계획과도 맞닿아 있습니다.

양사의 역할은 명확합니다. SK그룹은 데이터센터 구축을 담당하고, AWS는 AI 존을 구축해 독립적으로 운영하며, 한국 고객에게 AWS의 선도적인 AI·클라우드 역량을 제공합니다. 이번 프로젝트에는 SKT, SK브로드밴드, SK하이닉스, SK가스, SK케미칼, SK멀티유틸리티, SK AX 등 SK그룹의 핵심 계열사들이 참여해 ICT, 에너지, 반도체 등 그룹의 핵심 역량을 결집하고 있습니다.

SK그룹의 뛰어난 기술력과 AWS의 종합적인 AI 클라우드 서비스가 결합되면, 한국의 모든 산업 분야 및 다양한 규모의 고객들이 안전하고 신뢰할 수 있는 AI 기술을 기반으로 혁신을 이어갈 수 있을 것입니다. 이번 협력은 한국의 AI 미래에 대한 AWS의 확고한 의지를 보여줍니다.

Q5. SKT의 AI 사업 전략과 그 활동에 대해 어떻게 평가하나요?
A. SK그룹, 특히 SKT는 한국 내 AI 인프라 발전을 위해 강력한 의지를 보여주고 있습니다. AWS와 협력해 개발 중인 새로운 클라우드 인프라는 SKT가 2024년에 발표한 ‘AI 인프라 슈퍼 하이웨이’ 전략의 일환으로, SK그룹의 AI 이니셔티브를 선도하고 있습니다. 이 전략을 통해 SK그룹은 초대형 AI 인프라의 핵심 허브를 구축하고자 합니다. 특히 한국 내에서 발생하는 AI 워크로드를 현지에서 직접 처리함으로써 데이터 주권을 강화하고, 글로벌 AI 경쟁력을 높이는 것을 목표로 하고 있습니다.

울산은 안정적인 가스 공급망, 첨단 에너지 솔루션, 전략적 입지 등 AI 인프라 개발에 유리한 자산을 보유하고 있습니다. 또한 적합한 해저 케이블 환경과 산업 활동에 대한 탄탄한 지원도 갖추고 있습니다. SKT를 포함한 SK그룹의 이번 협력은 세계적 수준의 AI 인프라가 한국의 기술 및 경제의 미래에 필수적이라는 인식을 잘 보여줍니다.

Q6. AWS의 AI 인프라 비전과 향후 SKT와의 협력 관련해 기대하는 바를 말씀해 주십시요.
A. AWS 인프라 접근 방식의 핵심은 효율성, 보안, 지속 가능성 수준을 유지하면서 AI를 포함한 다양한 첨단 클라우드 컴퓨팅 기술을 통해서 혁신을 가능케 하는 기반을 꾸준히 발전시키는 데 있습니다.

앞으로 AI가 애플리케이션의 기본 요소가 될 것으로 보고 있습니다. 애플리케이션은 생성형 AI 기능을 점점 더 많이 포함하게 되고, 추론은 컴퓨팅, 스토리지, 데이터베이스와 함께 표준적인 구성 요소가 될 것입니다. 기업은 복잡한 업무를 처리하고 다른 시스템과 상호작용할 수 있는 지능형 에이전트를 개발하게 될 것이며, AWS에서는 이러한 AI 기반 세계는 대부분 클라우드 인프라 위에서 구축될 것이라고 생각합니다.

이 비전을 실현하기 위해 AWS는 여러 우선 과제를 추진하고 있습니다. AI와 머신러닝 경험을 바탕으로 기존 시스템은 물론, 차세대 AI 워크로드를 모두 지원하는 인프라를 제공하기 위해 지속적인 개선에 주력하고 있습니다. 생성형 AI가 요구하는 막대한 컴퓨팅 파워를 충족하기 위한 에너지 효율성도 핵심 과제입니다.

이번 SK그룹과의 협력은 한국 내 AI 도입을 확장하려는 양사의 공통된 비전을 보여줍니다. 울산의 AWS AI 존은 전용 AWS 인프라와 세계적 수준의 반도체를 사용한 서버, 더 빠른 AI 학습·추론을 위한 울트라클러스터 네트워크, 아마존 세이지메이커(Amazon SageMaker)관리형 기계 학습(ML) 모델의 구축, 훈련, 배포를 간소화하는 AWS의 완전 관리형 서비스와 아마존 베드록 같은 서비스뿐만 아니라 아마존 Q(Amazon Q)개발자 코딩 지원부터 비즈니스 인텔리전스, 고객 서비스까지 다양한 업무를 자동화하는 AI 어시스턴트, 키로, 아마존 베드록 에이전트코어 등 AI 애플리케이션 서비스를 통합 제공합니다.

AI 존은 AI 최적화 컴퓨팅 시스템, 초고밀도 랙 구성, 공랭·수랭을 결합한 하이브리드 냉각 시스템, 안정적인 네트워크 인프라를 갖추고 있습니다. 이를 통해 한국 고객들은 아마존 베드록과 AWS 로컬 존(AWS Local Zones)사용자 근처에 AWS 리소스를 배치해 지연 시간을 대폭 줄이는 인프라
을 통해 첨단 AI 모델에 저지연으로 접근할 수 있으며, 아마존 베드록 가드레일(Amazon Bedrock Guardrails)AI 응용 프로그램에서 유해 콘텐츠와 민감 정보 노출을 차단하는 보안 필터링 정책과 지식 베이스(Knowledge Bases)아마존 베드록에서 제공하는 완전 관리형 서비스로 기업의 데이터를 AI 모델과 연결해서 더 정확하고 관련성 높은 답변을 생성할 수 있게 함와 같은 도구를 활용해 기초 모델에도 안전하게 접근할 수 있습니다.

앞으로도 SK그룹과 AWS는 전략적 파트너십을 확대하여, 컴퓨팅, 스토리지, 데이터베이스, 엣지 컴퓨팅 역량을 통해 빠르게 성장하는 생성형 AI 수요를 충족할 수 있도록 광범위한 협력을 추진할 계획입니다.