SK텔레콤은 美 AI 데이터센터 통합 솔루션 대표 주자인 ‘펭귄 솔루션스(Penguin Solutions)’와 AI 인프라 사업 영역에서 협력을 추진하고 있다. SKT는 지난 1월에 열린 CES 2025에서 SK하이닉스, 펭귄 솔루션스와 ‘AI 데이터 센터 솔루션 공동 R&D 및 사업 추진’을 위한 협력 계약을 체결[글 보기]하였고, 앞서 지난해 7월에는 SKT의 AI 투자 중 최대 규모인 2억 달러 투자 계약을 진행[글 보기]한 바 있다.

뉴스룸은 펭귄 솔루션스 글로벌 마케팅 부사장(VP) 마크 시먼스(Mark Seamans)와의 인터뷰를 통해 회사의 사업 전략과 AI 인프라 전망 그리고 SKT와의 협업이 갖는 의미를 들어보았다. 마크 시먼스 부사장은 클라우드 컴퓨팅, AI, 빅데이터 스토리지, 고성능 컴퓨팅(High Performance Computing, 이하 HPC) 및 비즈니스 프로세스 관리와 같은 복잡한 엔터프라이즈 인프라의 설계 및 구현에 대한 전문적인 기술 지식과 풍부한 리더십 경험을 보유하고 있다. 이러한 기술적 경험을 바탕으로 펭귄 솔루션스의 글로벌 마케팅 전략을 개발하고 추진하는 역할을 담당하고 있다.

* 본 글은 다른 회사의 의견을 포함하고 있으며, SK텔레콤의 공식 입장과 다를 수 있습니다.

인프라는 AI 성장의 핵심, 경쟁 우위 확보 위해 AI 도입하는 엔터프라이즈 시장에서 더욱 중요해

펭귄 솔루션스 글로벌 마케팅 부사장, 마크 시먼스

Q. AI 생태계가 빠르게 형성되고 있습니다. AI가 앞으로 산업에 어떤 변화를 일으킬까요?
AI는 다양한 제품과 서비스의 효율성과 효과성을 높이는 능력을 바탕으로 사실상 모든 산업에서 근본적인 변화를 일으키고 있습니다. 이미 제품 분야에서 AI를 활용하는 사례가 많습니다. 연구자는 신약 개발부터 개인화된 의료까지 새로운 돌파구를 찾는 방식을 발전시키고 있으며, 개발팀은 상품 개념을 더욱 정교하게 다듬고 디자인 속도를 높이는 데 AI를 활용하고 있습니다.

현재까지 많은 기업이 AI의 가능성을 탐색하고, 시장에서의 잠재적 활용 사례(use cases)를 발굴 해왔고, 초기 도입을 위한 모델을 학습하고 정교화하는 데 필요한 엔터프라이즈 AI 데이터 확보 방법을 이해하기 시작했습니다. 이러한 초기 단계는 처음에는 다소 느리게 진행되는 경향이 있지만, 이는 향후 AI 도입을 가속화 할 수 있는 기반을 다지는 과정입니다. AI 도입은 이러한 실험 단계를 거쳐 점차 핵심 비즈니스 도구로 발전할 것이며, 곧 기업들은 자체 통제 가능한 소버린(Sovereign) AI 인프라에 대한 엔드투엔드(end-to-end) 제어를 경쟁력으로 인식하게 될 것입니다.

예를 들어, 펭귄 솔루션스는 AI 기술이 주목받기 시작한 초기에 AI를 도입한 금융 서비스 분야의 얼리어답터 고객들과 협력하고 있는데, 이들은 현재 비즈니스 전반에 걸쳐 점진적인 개선부터 혁신적인 개선까지 다양한 활용 사례를 확인하고 있습니다.

퍼블릭 클라우드 내 범용 가상화 환경에서 AI 학습 및 추론 프로세스를 실행할 경우, 회사의 IT 책임자들이 원하는 수준의 성능, 응답성, 제어 기능이 나오지 않을 수 있습니다. AI 기술이 기업의 핵심 자산으로 자리 잡으면서, 기업들은 맞춤형 AI 인프라를 전략적 경쟁력으로 인식하게 될 것입니다. 하지만 AI 인프라 도입 시, 특히 대규모로 진행되는 경우에는 하드웨어, 소프트웨어, 프로세스 구성요소 등이 기존과 다르고 새롭기 때문에 엔터프라이즈 IT 부서에게는 어려운 과제가 될 수 있습니다.

이러한 트렌드와 사업에 미치는 영향을 고려할 때, AI는 고성능 컴퓨팅(HPC), 가속 네트워킹, AI 전용 시스템 관리 등의 분야에서 전문가들에게 중요한 새로운 기회를 열어줌으로써, 기업 IT 인프라 서비스 산업에 큰 변화를 불러올 것으로 예상됩니다. 초기에는 기업들이 단기적인 핵심 인프라 구축에 집중하겠지만, 시장의 변화와 혁신 속도가 빠른 만큼, 최신 기술을 지속적으로 도입하고 이를 고객의 기술적 경쟁력으로 전환해 줄 수 있는 펭귄 솔루션스와 같은 기업들이 기회를 얻을 것입니다.

Q. AI 인프라가 AI 생태계에서 어떤 역할을 할 것으로 생각하시나요? 특히, AI 인프라의 핵심이라 할 수 있는 AI DC 시장의 규모나 트렌드는 어떻게 변화할 것이라고 보시나요?
AI 인프라는 AI 성장의 핵심이고 특히 기업이 차별점 및 경쟁 우위를 확보하기 위해 AI를 도입하는 엔터프라이즈 시장에서는 더욱 중요합니다. AI를 자동차에 비유하자면 AI 인프라는 AI 자동차 운전에 동력을 제공하는 엔진과 변속기라고 할 수 있습니다.

펭귄 솔루션스는 다양한 시장 영역에서 기술 투자가 진행되면서 AI 가 일련의 ‘파동(waves)’으로 나타날 것이라고 꾸준히 이야기해 왔습니다.

첫 번째 파동(wave)은 대규모 파운데이션 모델 개발이 이루어지는 단계로, 기업들은 새로운 차원의 초고성능 AI 핵심 모델을 구축하기 위해 AI 학습 시스템에 대규모 투자를 합니다. 펭귄 솔루션스는 메타(Meta)와 같은 선도 기업과 협력하여 라마(LLaMA) 등 업계 주요 AI 모델 학습을 위한 클러스터의 설계, 구축, 배포 및 지속적인 관리에 참여해 왔습니다. 이러한 클러스터 도입은 매우 큰 규모가 될 수 있기에, 펭귄 솔루션스는 대규모 인프라 설치를 최적화하는 데 있어 상당한 경험을 보유하고 있습니다.

하지만 대부분의 기업은 이 정도의 대규모 인프라가 필요하지 않습니다. AI 도입의 두 번째 파동은 실제 기업 수준의 도입 단계로, 1차 파동에서 개발한 모델을 기반으로 특정 용도에 최적화된 애플리케이션 모델을 만들 수 있도록 지원합니다. 이러한 모델은 중간 규모나 대규모 인프라를 활용하여 학습 및 조정(finetune)될 수 있으며, 이 과정에서 비즈니스 운영 효율화나 자동화 중에 얻은 특정 기업 데이터가 활용될 수 있습니다. 이러한 고객 맞춤형 솔루션의 설계, 구축, 배포 및 관리는 펭귄 솔루션스의 전문 영역입니다.

AI 도입의 세 번째 파동은 앞선 1, 2차 파동의 모델을 활용하여 AI 추론을 대규모로 확장하는 단계입니다. 대부분의 AI 기반 기업들은 어느 정도 이 단계에 포함될 것입니다. 일부 사례는 적당한 수준의 추론 구성이 필요한 반면, 미션 크리티컬설명 보기미션 크리티컬(Mission-critical)은 정상적으로 작동되지 않거나 파괴되면 업무 수행 전체에 치명적인 영향을 미쳐 조직이나 사회에 재앙을 가져올 수 있는 특성 또는 상태를 말함. 온라인 비즈니스 회사의 통신 시스템, 재난 안전 통신망, 항공기 운항 관제 시스템 등이 이에 해당. 시스템과 같은 활용 사례도 있습니다. 3차 파동에서는 추론 솔루션의 시스템 아키텍처, 프로세서 및 네트워크 옵션이 훨씬 더 다양해집니다. 어떤 고객은 데이터가 생성되는 곳과 가까운 ‘엣지(Edge)’에 일부 AI 시스템을 구축할 수도 있습니다.

이처럼 고객이 AI 인프라와 관련된 다양한 선택지를 이해하고 탐색할 수 있도록 돕는 것이 펭귄솔루션스가 제공하는 핵심 가치입니다. 펭귄 솔루션스의 목표는 AI 인프라 구축에 있어 신뢰할 수 있는 조언자이자 장기적인 파트너가 되어 고객이 AI로 경쟁 우위를 확보할 수 있도록 지원하는 것입니다.

펭귄 솔루션스는 2024년 11월 4, 5일 양일간 열린 ‘SK AI Summit 2024’에서 글로벌 빅테크 전시에 참여했다. 펭귄 솔루션스 전시 부스 모습

펭귄 솔루션스는 2024년 11월 4, 5일 양일간 열린 ‘SK AI Summit 2024’에서 글로벌 빅테크 전시에 참여했다. 펭귄 솔루션스 전시 부스 모습

펭귄 솔루션스는 2024년 11월 4, 5일 양일간 열린 ‘SK AI Summit 2024’에서 글로벌 빅테크 전시에 참여했다. 펭귄 솔루션스 전시 부스 모습

펭귄 솔루션스는 2024년 11월 4, 5일 양일간 열린 ‘SK AI Summit 2024’에서 글로벌 빅테크 전시에 참여했다. 펭귄 솔루션스 전시 부스 모습

펭귄 솔루션스는 2024년 11월 4, 5일 양일간 열린 ‘SK AI Summit 2024’에서 글로벌 빅테크 전시에 참여했다. 펭귄 솔루션스 전시 부스 모습

펭귄 솔루션스는 2024년 11월 4, 5일 양일간 열린 ‘SK AI Summit 2024’에서 글로벌 빅테크 전시에 참여했다. 펭귄 솔루션스 전시 부스 모습

PreviousNext

Q. 펭귄 솔루션스는 AI 팩토리 분야로 사업을 확장하고 있습니다. 이 분야로 진출하게 된 계기는 무엇인가요? 그리고 펭귄 솔루션스의 포트폴리오에서 AI 팩토리 사업은 어떤 부분을 차지하는지요?
펭귄 솔루션스는 25년 이상 HPC 솔루션의 설계, 제공 및 관리에 주력해 왔습니다. 이러한 솔루션 중 상당수는 다양한 분야의 회사들과 연구자들을 위해 대규모로 맞춤 제작되었습니다. 활용 사례는 효율적인 자동차 설계를 위한 풍동(wind-tunnel) 시뮬레이션부터 일기 예보 및 기후 시뮬레이션, 석유와 가스 탐사를 위한 지진파 데이터 분석에 이르기까지 다양합니다.

2017년, 펭귄 솔루션스는 AI 모델 학습을 위한 대규모 GPU 가속 클러스터 프로젝트를 처음 진행했습니다. 이 프로젝트를 성공적으로 완료하고 몇 가지 AI 학습 추가 설정 작업을 한 후, 효율적으로 활용, 배포 및 관리할 수 있는 AI 팩토리 솔루션 아키텍처를 패키징하는 영역에서 펭귄 솔루션스가 상당한 가치를 지속해서 제공할 수 있다는 것이 분명해졌습니다.

이에 따라 펭귄 솔루션스는 ‘오리진AI(OriginAI)’ 솔루션 플랫폼 개발에 착수했습니다. 이 플랫폼은 고객이 원하는 규모에 맞춰 엔드투엔드 인프라 환경을 제공합니다. 펭귄 솔루션스는 진정한 ‘엔드투엔드’ 경험을 제공합니다. 즉, 새로운 AI 솔루션의 빠른 구현과 원활한 관리에 필요한 모든 하드웨어, GPU, 네트워크, 스토리지, 소프트웨어 및 전문가 서비스를 포함해 완전한 관리형 경험을 제공합니다.

펭귄 솔루션스의 ‘오리진AI’ 플랫폼을 통해 고객은 AI 인프라의 복잡성을 해결하고 핵심 비즈니스에 집중할 수 있습니다. 이러한 이유로 ‘오리진AI’는 핵심 포트폴리오가 되었으며, 많은 신규 고객사가 관심 가지는 포인트가 되기도 했습니다.

Q. 펭귄 솔루션스는 최근 ‘볼티지 파크(Voltage Park)’의 AI 클러스터 프로젝트를 수주하며 역량을 입증하였습니다. 펭귄 솔루션스의 AI 데이터 센터 통합 솔루션의 차별화된 장점은 무엇인가요?
펭귄 솔루션스와 볼티지 파크설명 보기미국 차세대 GPU 클라우드 서비스 업체의 작업은 창의적이고 유연한 접근 방식을 보여주는 훌륭한 사례입니다. 볼티지 파크는 이미 약 24,000개의 최신 엔비디아(NVIDIA) GPU를 포함한 대규모 하드웨어 인프라 구성요소를 확보했지만, 이를 네 개의 다른 위치에 있는 데이터센터에 걸쳐 운영되도록 상용화 수준의 GPU 서비스(GPU-as-a-Service) 클러스터로 전환할 수 있는 파트너가 필요했습니다. 빠르게 상용 서비스 수준으로 만들어서 사용자에게 탁월한 경험을 제공하는 것이 목표였습니다.

저희는 각 데이터 센터를 방문한 후 자사의 차별화된 ‘클러스터웨어(ClusterWare)’ 소프트웨어 플랫폼과 함께, 시스템 배포 및 프로덕션을 아우르는 엔드투엔드 서비스를 결합한 방식을 볼티지 파크에 제안했습니다. 펭귄 솔루션스와 볼티지 파크의 협업에서 물론 자사의 경험과 역량도 중요했지만, 고객과의 관계를 단순한 구축 프로젝트 그 이상으로 보았기 때문에 큰 성과를 거둘 수 있었습니다. 현재도 볼티지 파크의 사용자들이 만족스러운 AI 인프라 경험을 할 수 있도록 매일 운영 서비스를 지원하고 있습니다.

펭귄 솔루션스의 ‘클러스터웨어’는 본래 20여 년 전 미국 항공우주국(NASA)의 강력한 컴퓨팅 클러스터를 위한 기반 솔루션으로 개발되었습니다. 이후 펭귄 솔루션스에 인수되어 상용 HPC 클러스터 플랫폼 제품의 기반이 되었습니다. 펭귄 솔루션스는 고성능 컴퓨팅 기술 제공에 대한 공로로 미국 우주 기술 명예의 전당에 헌액되었으며, ‘클러스터웨어’가 이에 큰 역할을 했습니다. 자사의 소프트웨어 엔지니어링 팀이 수년 동안 플랫폼을 크게 개선했으며, AI 및 GPU 전용 기능을 추가했습니다.

서비스 측면에서도 펭귄 솔루션스의 HPC 및 AI 클러스터에 대한 집중과 경험이 차별점입니다. 일반적인 IT 서비스 제공보다는, GPU 기반 시스템 구축, 엔비디아 네트워킹 기술, 병렬 파일 시스템 스토리지 및 사전 예방적 시스템 관리에 대한 뛰어난 역량과 검증된 프로세스를 보유하고 있습니다.

Q. AI 버블에 대한 우려로 AI 인프라 투자가 감소할 것이라는 이야기도 있습니다. 이에 대해 어떻게 생각하시나요?
미래를 예측할 수는 없지만, 펭귄 솔루션스는 AI에 대한 고객들의 관심과 열의가 줄어들고 있다는 징후를 전혀 느끼지 못하고 있습니다. 우리는 아직 AI 도입이 초기 단계에 있다고 생각하며, AI 인프라의 설계, 구축, 배포 및 관리에 대한 밝은 미래가 있다고 확신합니다.

앞서 간략히 말씀드린 바와 같이, AI는 일련의 파동으로 다가오고 있습니다. 이제 2차 파동에 진입하고 있으며, 고객사들은 GPT, LLaMA와 같은 파운데이션 모델로 진행한 중요한 작업 기반 위에 더 많은 작업을 쌓아 올릴 것입니다. 앞으로 수개월 동안 특정 국가 및 지역에서 소버린 AI 모델을 사용자, 활용 용도, 규제 환경에 맞춰 발전시키는 작업이 진행될 것입니다.

이런 초기 도입 단계에서는 고객의 다양한 활용 사례가 등장할 것이며, 이를 위해 상용 AI 모델이 실행될 추론 클러스터 배포가 필수적입니다. 불과 1년 전만 해도 AI 추론 클러스터의 설계 및 제공에 대해 논의하는 일은 드물었지만, 이제는 이러한 논의가 매일 이루어지고 있습니다. 추론 환경에서는 리벨리온(Rebellions)의 AI 추론 전용 NPU 프로세서와 같은 더 다양한 기술을 활용할 기회가 열립니다. 이로 인해 펭귄 솔루션스가 AI의 복잡성을 검토하는 고객사에게 가치를 제공하고 전문적인 조언을 제공할 기회가 많아집니다.

정리하자면 앞으로 몇 년 동안 AI 사용 형태와 그 접근 방식이 빠르게 진화함에 따라 거의 모든 기업이 사업 효율화와 차별화를 위해 AI 활용 방법을 모색할 것이 분명합니다. 결국 고객들은 AI 투자를 확대할 것이며, 펭귄 솔루션스에게는 더 많은 기회로 이어질 것입니다.

SKT와 협력, 광범위하고 전략적인 가치 창출할 것… 강력한 커뮤니케이션과 파트너십 유지

Q. SKT와의 이번 협력의 의미와 기대 효과는 무엇인가요?

SKT, SK하이닉스, 펭귄 솔루션스 주요 경영진이 CES2025가 열린 미국 라스베이거스에서 ‘AI 데이터센터 솔루션 공동 R&D 및 사업 추진’을 위한 협력 계약을 체결하고, 기념 사진을 촬영하고 있는 모습. 사진 왼쪽부터 김주선 SK하이닉스 AI Infra(인프라) 사장, 유영상 SKT CEO, 마크 아담스(Mark Adams) 펭귄 솔루션스 CEO

펭귄 솔루션스와 SKT의 협력은 AI 스펙트럼 전반에 걸쳐 다양한 분야에서 이뤄지고 있으며, 분야별로 담당 팀과 프로젝트가 운영되고 있습니다.

소프트웨어 워크스트림(workstream) 관련해서는 펭귄 솔루션스와 SKT 양사가 AI 클러스터 배포 및 관리와 관련된 강력한 역량을 가지고 있습니다. 이러한 역량들은 더 완전한 형태의 AI 인프라 소프트웨어 스택의 구성요소가 되고, 이 스택은 베어메탈(bare-metal) AI 하드웨어를 고객의 워크로드를 실행할 수 있는 강력한 AI 컴퓨팅 클러스터로 만들 수 있습니다.

AI 프로세서 워크스트림의 경우, AI 컴퓨팅 서버 개발 및 제공에 대한 펭귄 솔루션스의 전문성과 AI 추론용 리벨리온社 가속기(Advanced Accelerator Cards)에 대한 SKT의 투자가 좋은 시너지를 만들 것입니다.

AI 모델의 크기와 복잡성이 계속 증가함에 따라 메모리는 AI 시스템 아키텍처에서 점점 더 중요해지고 있습니다. 메모리 워크스트림에서는 펭귄 솔루션스의 스마트 모듈러(SMART Modular) 사업부가 SK하이닉스와의 강력한 협력을 더욱 확대할 것입니다. 이를 통해 고객에게 혁신적이고 비용 효율적인 솔루션을 제공할 수 있는 분야를 찾는 데 집중하고 있습니다.

마지막으로, 글로벌화 워크스트림은 비즈니스 협력 계획을 수립하고 있으며, SKT의 글로벌 입지와 펭귄 솔루션스의 미국 내 브랜드 및 소비자 기반을 활용해서 성장할 수 있는 부문을 파악하는 데 초점을 맞추고 있습니다.
SKT와의 협력이 양사에 광범위하고 전략적인 가치를 창출할 것으로 보고 있으며, 계속해서 강력한 커뮤니케이션과 파트너십 정신을 유지해 오고 있습니다.

Q. SKT의 AI 산업 접근 방식에 대한 평가는 어떻게 하시나요?
SKT의 AI 산업에 대한 의지는 고객과 펭귄 솔루션스 모두에게 틀림없이 이익이 될 것입니다. 새로운 성장 영역을 추구하는 여정에서의 협업이 매우 기대됩니다.

SKT는 AI를 사업과 고객 가치 제공 측면에서 핵심이 될 혁신적인 기술로 본다는 점을 분명히 했습니다. ‘AI 인프라 슈퍼 하이웨이 구축’이라는 비전에서도 네트워크 및 통신 분야 강점을 활용해 AI 워크로드 및 활용 사례의 기반을 다지겠다는 핵심 메시지를 볼 수 있습니다.

SKT는 AI 인프라 소프트웨어 스택 작업처럼 큰 기대가 되는 기술 투자들을 하고 있습니다. 더 효율적인 AI 클러스터 활용, 멀티테넌트 클라우드 환경 및 소버린 AI 모델과 같은 고객 중심 기능에 투자하고 있으며 이는 고객이 파트너 및 잠재적인 기술 방향을 평가할 때 차별화 요소가 될 수 있습니다.

마지막으로, SKT는 고객에 초점을 두고 고객에게 AI 관련 가치를 제공할 방법을 찾아 주는 파트너사가 되고자 하는 접근 방식을 취하고 있습니다. 고객 가치 및 장기적인 고객 관계에 집중하고 있기 때문에, 새로운 기술과 혁신적인 기능이 도입되어 AI 시장이 계속 진화하여도, SKT는 지속적인 수익 성장의 기반을 다질 수 있을 것입니다.