11월 4일 서울 코엑스에서 ‘SK AI SUMMIT 2024(이하 SK AI SUMMIT)’가 개최됐다. 이날 현장에는 최태원 회장이 참석, 오프닝 스피치를 통해 SK AI SUMMIT의 개최를 알리고 AI가 미래로 나아가는 데 있어 당면한 해결 과제들을 점검하는 한편 글로벌 AI 혁신을 더욱 가속화할 솔루션을 제안했다. 최태원 회장의 오프닝 스피치 전문을 SK텔레콤 뉴스룸에서 소개한다.

※ 현장에서 제공된 축하, 대담 등 영상의 내용은 스피치 전문에 포함되지 않았습니다.

“AI, 다양한 분야 리더들과 함께 풀어야 할 난제 많아… AI의 미래 위해 모두의 협력 필요”

SK AI SUMMIT 2024에 참여해 주신 여러분 환영합니다. 최태원입니다. 이틀 동안 벌어지는 행사에 3만 5천 명이 등록을 했습니다. 그리고 온라인으로도 1만 7천 명이 넘는 분들이 참여 중이라고 들었습니다. 오늘 행사의 사전 등록이 열리자 마자 10분 만에 마감되었다고 들었습니다. 이렇게 많은 분들이 저처럼 AI에 뜨거운 관심을 가지고 계신다는 사실입니다.

오늘 행사의 슬로건은 “AI Together, AI Tomorrow”입니다. AI의 미래를 위해서는 많은 사람들의 협력이 필요하다는 이야기입니다. AI를 혼자서 할 수 없는 이유는 두 가지 입니다. 첫 번째는, AI를 많은 사람들이 ‘안다’고 하지만, 아직 저희가 모르는 것이 더 많습니다. 다양한 분야의 리더들이 함께 고민하며 풀어야 하는 많은 난제들이 있습니다. 둘째는, AI는 우리 모두의 삶과 사회에 광범위한 변화를 가져올 기술입니다. 이 변화를 긍정적으로 이끌기 위해서는 우리 모두의 협력이 필요합니다.

SK는 AI를 위해 어떤 협력을 하고 있는지 말씀드리겠습니다. 모두 아시다시피, AI의 개화는 Open AI의 Chat GPT 부터 시작되었습니다. 그리고 여기에는 마이크로소프트(MS)와의 파트너쉽이 매우 중요한 역할을 하였습니다. SK 역시 Open AI와 MS 두 회사와 많은 협력을 논의하고 있습니다.

Satya Nadella MS 회장이 영상을 통해 SK AI SUMMIT 2024 개최에 대한 축하인사를 전하고 있다.

MS의 Satya 회장과는 AI와 관련한 많은 얘기를 나누고 있습니다. MS는 SK 하이닉스 HBM의 중요한 고객 중 하나이기도 하고, 잠시 후 설명 드릴 저희의 AI 데이터 센터 솔루션과 에너지 솔루션 관련 협업을 논의하고 있는 파트너입니다.

몇 년 전 Satya 회장과 탄소 중립을 달성하려는 목표와 Data Center 확장 목표를 동시에 달성하는 것에 대한 어려움을 이야기했던 것이 기억납니다. 이를 해결하기 위한 방법으로, 빌게이츠 재단과 SK 주식회사는 핵에너지 업체에 함께 투자한 바 있습니다.

오늘 이 자리에는 MS의 CVP인 Rani Borkar께서 오셨습니다. 오늘 오후에 MS가 생각하는 AI의 미래에 대해 이야기 해주실 계획입니다.

AI 시대를 리드하고 있는 Open AI와 MS의 파트너십이 앞으로 만들어나갈 미래에 대해서 저도 기대가 큽니다. 하지만 아까 말씀드린 대로, AI가 계속해서 선순환하고 성장하기 위해서 해결해야 할 몇 가지 Bottleneck이 있습니다. 오늘 저는 이 Bottleneck에 대해 이야기하고, 이 문제를 어떻게 해결할 것인가에 대해서 말씀드려보겠습니다.

“AI Killer Use Case 찾는 다양한 시도가 중요… SK, GPU 공급부족∙에너지 문제 해결 위해 노력 중”

첫 번째 Bottleneck은 Use Case입니다. ‘AI 시대의 겨울’을 걱정하는 이유 중 하나가 AI에 대한 대규모 투자가 지속되고 있는데, 이를 회수할 Use Case와 수익 모델이 아직 나오지 않는다는 것입니다. 인터넷과 모바일 초기에도 그랬듯이, 이 영역에서는 Killer Use Case를 찾기 위한 다양한 시도가 중요할 것입니다. 최근 Microsoft의 Co-pilot처럼 그 가능성을 보여주는 사례들이 등장하고 있습니다.

저희 SK텔레콤에서도 글로벌 통신사들과 협업하여 AI 콜센터 등 텔레콤 컴퍼니들의 B2B AI 솔루션을 만들고, 이를 Telco LLM이라는 이름으로 제공하고 발전을 시켜 나가고 있습니다. 또한, 에이닷이라는 개인화된 AI Agent를 만들어서 사용자들에게 제공해보는 것을 실험하고 있습니다. 이에 대한 자세한 내용은 뒤에 이어질 SK텔레콤에서 준비한 세션들을 통해서 확인하실 수 있습니다.

두 번째 Bottleneck은 GPU입니다. 다들 아시다시피, LLM은 막대한 양의 연산을 요구합니다. 솔직히 지금은 공급이 수요를 따라가지 못하는 상황입니다. 또한 아주 많은 Big Tech 기업들도 본인들만의 AI칩을 개발하고 있습니다만, 지금까지는 NVIDIA의 GPU가 압도적이고 독보적인 위치에 있는 것도 사실입니다.

NVIDIA가 독보적일 수 있는 것은 성능이 가장 좋은 칩을 만들 뿐만 아니라, 매년 새롭게 더 좋은 더 좋은 버전을 내놓고 있기 때문입니다. 그리고 새로운 버전의 GPU들이 계속 나올 때 마다 하이닉스에 더 많은 HBM을 요구하고 있습니다. 이 Bottleneck을 해결하기 위해 SK와 NVIDIA는 함께 협력하며 노력하고 있습니다.

NVIDIA의 Jensen Huang CEO와 David Patterson 교수의 특별 대담 영상이 상영되고 있다.

Jensen Huang CEO를 만나보면, 정말 ‘엔지니어’ 입니다. 합의된 일정도 항상 앞당겨 달라고 요청합니다. 하지만 이런 Jensen CEO의 리더십 덕분에 NVIDIA가 AI 시대를 이끄는 세계 최고의 칩 회사가 되었다고 생각합니다. 물론 하이닉스와의 파트너십도 크게 기여를 했다고 생각합니다.

그리고 여기에 또 하나의 파트너가 필요합니다. 아무리 좋은 칩을 디자인하더라도, 그것을 실제로 만들어낼 수 없다면 의미가 없습니다. 영상에서 Jensen Huang CEO가 말씀하셨듯, NVIDIA는 직접 칩을 만들지는 않습니다. 이 분야에서 압도적인 경쟁력을 가지고 있는 회사가 있습니다. 바로 TSMC입니다. TSMC는 탁월한 공정 기술력을 가진 전 세계 최고의 반도체 파운드리 회사입니다. SK는 NVIDIA와 함께 TSMC와 긴밀히 협력하며 전 세계 AI Chip의 공급 부족 현상을 해결하기 위해 노력하고 있습니다.

TSMC의 C.C. 웨이 회장이 영상을 통해 SK AI SUMMIT 개최를 축하하고, SK 그룹과의 협력에 대한 계획을 발표했다.

TSMC와 이야기 할 때마다, 언제나 파트너를 존중하고 그들의 고민을 함께 해결하기 위해 노력하는 회사라는 생각이 듭니다. 상대가 원하는 것을 정확하게 파악하고 적시에 딜리버리해야 하는 파운드리 업의 특성 때문이겠지만, 정말 이상적인 파트너라고 생각합니다.

이렇듯 SK하이닉스는 NVIDIA, 그리고 TSMC와의 3자간 협력을 통해 AI의 혁신을 이끄는 세계 최고 수준의 반도체를 만들고 있습니다.

다음의 Bottleneck은, 이러한 AI 반도체를 기반으로 막대한 Computing Power를 구동하기 위해 필요한 에너지입니다. SOTA(소타)급 LLM을 학습시키기 위해서는 수십메가와트 단위의 전력이 필요하다고 합니다. 아마도 내년에 나올 LLM은 수백 메가와트 단위의 전력을 요구할 것이고, 3년 내에는 기가와트 단위까지 요구 전력의 수준이 높아질 것으로 예상됩니다. 전력의 규모도 문제이지만, Carbon Foot Print를 줄이면서 동시에 안정적으로 공급하는 것도 중요한 과제입니다.

SK는 나름대로 에너지를 오랫동안 사용해오고, 만들어내고, 또 제조했던 회사입니다. SK가 다양한 기술과 역량을 활용해서 여러 문제를 해결하고자 하는 노력을 소개해 드리겠습니다. 먼저, SK가 2022년 투자한 TerraPower는 최근 AI Data Center 수요의 대응을 위해 주목받고 있는 차세대 전력원인 SMR을 설계하는 기업입니다. SMR은 기존의 원전에 비해 안정성과 경제성이 높고, 탄소 배출이 없어 AI DC를 위한 대규모 전력 수요 대응에 이상적인 솔루션입니다. 오늘 오후에 TerraPower CEO인 Chris께서 에너지의 미래에 대해 말씀하실 예정이니 들어보시면 좋겠습니다.

SK에코플랜트는 미국의 연료전지 제조사 블룸 에너지와 함께 데이터센터의 분산형 전원 공급 솔루션을 통해 그리드와 전력 인프라의 문제를 해결하고자 노력하고 있습니다. 또한, SK엔무브는 액침 냉각 선도 기업 GRC과 함께 데이터센터 액침 냉각 사업을 추진하고 있습니다.

칩과 서버의 전력 효율을 높이고, 이를 위해 발열을 해결하는 것도 중요한 과제입니다. 하이닉스는 저전력 고효율 칩의 개발을 위해 노력하고 있으며, SK앱솔릭스와 Chipletz는 차세대 기판 소재로 주목받고 있는 유리기판을 만들고 있습니다. 유리기판은 기존 실리콘 기판에 비해 소비전력이 낮고 발열을 감소시킬 수 있다고 알려져 있습니다. 이에 대해서는 오늘 오후 Chipletz의 CEO인 Bryan Black이 참여하는 세션을 통해 좀 더 많은 설명을 들으실 수 있을 것입니다.

지금까지 이야기한 칩을 비롯한 컴퓨팅 솔루션과 다양한 에너지 솔루션을 잘 연결해서 플랫폼의 형태로 제공하는 것이 데이터 센터입니다. 수만 개의 대규모 GPU 서버로 구성된 AI 클러스터를 설계, 구축, 운영하는 것은 쉽지 않은 일입니다. SK텔레콤이 올해 투자한 Penguin Solutions은 Meta가 라마를 학습할 때 활용한 대규모 AI 클러스터를 구축한 것으로 유명한 기업입니다. Penguin Solutions의 Mark Adams CEO의 오후 세션을 통해 이러한 문제를 어떻게 해야하는지 자세히 들어보시기 바랍니다.

그리고, AI 시대의 데이터 센터에서는 한정적인 GPU 자원을 효율적으로 활용하기 위해 ‘GPU as a service’라는 새로운 모델도 등장하였습니다. 이는 공급이 부족하고 가격이 높은 GPU를 직접 구매하지 않고 데이터 센터로 구축한 가상 환경에서 빌려 쓰는 서비스입니다. 역시 SK텔레콤이 투자한 미국의 람다가 이러한 서비스를 제공하는 가장 대표적인 회사인데요. 람다의 Stephen Balaban CEO께서 오후 세션에서 자세히 소개 해주실 예정입니다.

“SK, AI의 Bottleneck 해결 위한 AI 인프라 솔루션 패키지로 글로벌 AI 혁신 가속화할 기반 제공할 것”

마지막으로, 향후 데이터가 Bottleneck이 될 수 있는 가능성에 대해 이야기 해보겠습니다. 미래 AI 경쟁에 누가 더 많은, 그리고 양질의 데이터를 확보하느냐가 변수가 될 수 있을 것 같습니다. 혹자는 Data와 Privacy의 문제로 온 디바이스 AI와 특정 영역을 위한 Specialized AI의 세상이 될 것이라고 예상합니다. 그만큼 차별화된 Private Data를 확보하는 것이 갈수록 중요해진다는 이야기입니다.

SK가 전세계 통신사와 협업하며 텔코 얼라이언스를 만들고, 가우스랩스를 통해 제조업에서의 AI 사례를 만들어 가고 있는 이유입니다. 또한, 개인화된 AI 에이전트 서비스를 개발하며 Private Data의 안전한 활용에 대한 고민도 계속해 나가고 있습니다.

SK는 칩부터 에너지, 그리고 데이터 센터의 구축 운영과 서비스의 개발까지 가능한 전세계에서 유일한 기업입니다. 그리고, 오늘 보셨듯이, 저희의 부족한 부분을 보완하고자 각 분야에 있는 세계 최고의 파트너들과 협업하고 있습니다.

SK는 저희와 파트너들의 다양한 솔루션을 묶어 AI의 Bottleneck을 해결할 수 있는 AI 인프라 솔루션 패키지를 제공하고자 합니다. 이를 통해, 글로벌 AI 혁신을 가속화하는데 기여하고자 합니다.

마지막으로 기업의 입장 뿐만 아니라 국가 차원에서의 고민도 말씀드리고자 합니다. 한국은 이미 인터넷 시대의 진입에 있어서 선도적인 역할을 해온 바 있습니다. 한국이 AI 시대에도 선도적인 역할을 수행하기 위해서는 AI 인프라에 대한 투자, 특히 대규모 AI 데이터센터 구축과 양질의 데이터 확보, 그리고 AI 시대에 맞는 인재 양성이 가장 중요할 것입니다.

한국에는 많은 AI 스타트업들이 있습니다. SK는 AI 인프라를 통해 새로운 도전을 하는 이들의 성장과 한국 내 AI생태계 구축을 지원할 것입니다.

이러한 역할에 대해서는 이어지는 SK텔레콤 유영상 CEO의 발표를 들어보시면 좋겠고, 또 한국의 국가적 AI 전략 방향성에 대해서는 내일 있을 국가 AI 전략 세션에서 염재호 태재대 총장님의 이야기를 들어보시면 도움이 될 것입니다.

다음 세션의 주인공인 OpenAI의 Greg Brockman 회장님을 소개해드리고자 합니다. Greg 회장께서는 OpenAI의 시작부터 함께한 분으로, AI 업계에서 매우 중요한 영향력을 가지고 계신 분이기도 합니다. OpenAI의 Greg Brockman 회장님을 무대로 모시면서, 저는 이만 물러가겠습니다. 유익한 시간 보내시길 바랍니다. 감사합니다.

오프닝 스피치는 최태원 회장의 소개를 통해 OpenAI의 Greg Brockman 회장의 키노트 세션으로 이어졌다. 한편 SK AI SUMMIT 2024은 4일부터 5일까지 양일간 서울 코엑스에서 진행된다. SKT 뉴스룸은 이후 이어지는 SKT 유영상 CEO의 키노트 스피치, 그리고 SK AI SUMMIT 2024의 생생한 현장을 독자들에게 전달할 예정이다.