※ ‘어렵게 느껴지는 기술! 쉽게 이해할 수 없을까? <테크 스토리>는 기술에 관한 궁금증을 꼬리에 꼬리를 무는 질문을 따라가며 풀어보는 기획 시리즈입니다. 기술과 친해져 보세요.

알파고와 이세돌 9단의 세기의 바둑 대결 이후, 6년이 흐른 지금. 먼 미래로 느껴졌던 인공지능(AI)은 우리 일상에 깊게 들어왔다. 가전, 스마트 기기, 인터넷, 의료, 자율주행 등 산업과 생활 전반에 AI가 쓰이지 않는 데가 없다.

AI 기술이 확대되면서 함께 변화하는 영역으로 대표되는 것이 ‘반도체’ 이 중에서도 ‘AI 반도체’다. 기존 반도체 분야의 강자들뿐만 아니라 글로벌 빅테크 기업들까지 앞다퉈 천문학적인 투자와 인수합병을 통해 AI 반도체 개발에 열을 올리고 있다. 미래 반도체 산업의 중추로 전망되는 ‘AI 반도체’에 대한 궁금증을 질문과 답변을 통해 풀어본다.

반도체면 반도체지… AI 반도체는 무엇일까?

AI는 수많은 데이터를 학습하고 이를 통해 추론한 결과를 도출 한다. 학습 데이터를 단시간에 받아들이고 처리하기 위해서는 특별한 프로세서가 필요한데, 이 프로세서가 ‘AI 반도체’다. AI 반도체는 AI 서비스 구현에 필요한 대규모 연산을 초고속, 초전력으로 실행하는 효율성 측면에서 특화된 비메모리 반도체로, AI의 핵심 두뇌에 해당한다.

AI 반도체가 개발되기 전에는 이 핵심 두뇌 역할을 CPU(중앙처리장치)와 GPU(그래픽처리장치)가 담당했다. 다만, 이 둘은 AI를 처리할 수 있는 성능은 갖췄지만 애초에 AI용으로 개발된 것이 아니다 보니 AI연산 외의 부분에 성능이 낭비되고, 비용이나 전력 소모 등 비효율적인 부분이 발생했다. 인간의 뇌처럼 수많은 데이터를 처리하려면 높은 전력과 빠른 속도가 필수적이다. CPU, GPU 대비 범용성은 낮지만, AI 알고리즘에 최적화된 AI 전용 반도체가 등장하게 된 배경이다. AI의 딥러닝에 특화되었다는 의미에서 흔히 NPU, Neural Processing Unit(신경망 처리장치)라고 부르기도 한다.

AI 반도체는 어떻게 CPU · GPU보다 높은 성능을 낼까?

CPU는 컴퓨터의 입력, 출력, 명령어 처리 등을 모두 다루는 컴퓨터의 두뇌다. 데이터를 순차적으로 직렬 처리하는 CPU는 대규모 병렬 처리 연산을 필요로 하는 AI에 최적화되어 있지 않다. 이 한계를 극복하기 위해 GPU가 대안으로 등장했다. GPU는 3D 게임 같은 고사양의 그래픽 처리를 위해 개발됐으나 데이터를 병렬 처리한다는 특징이 있어 AI 반도체 중 하나로 자리 잡았다.

GPU가 본래 AI 연산을 위해 만들어진 반도체가 아니기 때문에, GPU의 병렬 처리 특성은 유지하면서 AI만을 위한 전용 반도체가 등장하게 되었는데 FPGA나 ASIC* 형태의 NPU가 이에 해당한다. GPU가 병렬 연산에 최적화되어 있어서, AI의 대규모 학습 데이터 처리에 유용하지만, 이를 토대로 추론의 결과를 뽑아내는 데에는 AI 알고리즘을 고려한 최적화가 필요하다. 또한, 학습 및 추론 과정에서의 중간 데이터들을 저장하는 메모리와의 연결 구조도 성능과 에너지 소모에 큰 영향을 미치는데, AI 반도체 NPU는 이를 모두 고려했기에, 고성능과 에너지 고효율이 가능한 것이다. 스마트폰으로 촬영할 때, 인물 주변은 흐리게 날리기 위해서 인물을 인식하는 것은 NPU 역할, 사진에 뽀샤시한 필터를 적용하는 것은 GPU 역할이라고 생각하면 된다.

FPGA(Field Programmable Gate Array)는 칩 내부의 하드웨어를 목적에 따라 재프로그래밍이 가능해 유연성이 높은 것이 특징이고, ASIC(Application Specific Integrated Circuit)은 특정 목적에 맞춰 제작된 주문형 반도체로 고효율이 특징이다. ASIC 형태로는 주로 글로벌 IT 기업에서 개발하고 있다. 뉴로모픽(Neuromorphic) 반도체는 사람의 뇌에 존재하는 신경세포와(뉴런)와 연결고리(시냅스) 구조를 모방했다. 성능과 효율성은 앞선 반도체보다 뛰어나지만 범용성이 낮고 아직은 개발 중인 차세대 AI 반도체다.
* Application Specific Integrated Circuit, 애플리케이션 특성에 맞는 시스템을 구현하기 위해 제작된 주문형 반도체

AI 반도체는 누가 만드는가? AI 반도체 시장은 얼마나 될까?

AI가 미래 IT 산업의 판도를 바꿀 핵심 기술로 부상하면서 AI 반도체 시장은 뜨겁다. AI 반도체 시장을 선점하기 위해 전통적인 반도체 기업인 퀼컴, 인텔, 엔비디아는 물론, SKT, 구글, 아마존, 애플, 테슬라 등 글로벌 빅테크 기업들도 AI 반도체 개발에 뛰어들고 있다. AI 서비스 컴퍼니로의 전환을 선언한 SK텔레콤도 2020년에 첫 국산 AI 반도체 ‘사피온 X220’을 상용화하며 AI 반도체 산업을 이끌고 있다.

일부 빅테크 기업들은 각 기업의 서비스에 맞는 AI 반도체를 직접 만드는 게 더 낫다는 판단에 자체 AI반도체 개발도 고려하고 있다. 예를 들어, 테슬라가 자율주행에 특화된 자체 AI 반도체를 만드는 것이 이에 해당한다.

시장조사업체 가트너는 AI 반도체 시장이 2023년에 343억 달러(약 40조) 규모로 성장할 것으로 전망했으며, 2030년에는 전체 시스템 반도체 시장의 31.3%를 점유할 것으로 내다봤다.

AI에 사용하는 반도체 중 범용성이 높은 CPU, GPU 시장은 기술 성숙 단계에 접어들었고, 최적화된 저전력, 고효율의 ASIC 중심으로 시장이 성장 중이다. 향후 AI 반도체는 데이터 센터(Data Center) 등 고성능 서버에 활용 가능한 반도체에서 자동차, 스마트폰 등에 탑재되는 디바이스용으로, 학습용에서 추론용으로 시장 비중이 확대될 것으로 전망된다. 초기에는 머신러닝 학습 목적의 ‘학습용’ 수요가 높지만, 장기적으로는 학습 데이터를 기반으로 AI 서비스를 구현하는 ‘추론용’ 수요 증가가 예상된다.

SKT가 직접 AI 반도체 개발에 나선 이유는?

SKT는 ’20년 11월 국내 최초로 AI 반도체 ‘사피온(SAPEON) X220’을 공개했다. AI 서비스는 SKT의 5대 사업군 중 하나로, 많은 SKT 서비스에 딥러닝, 비전 AI(Vision AI), 음성/대화 AI 등의 기술이 활용되고 있다. SKT는 시장 성장세와 함께 5G MEC, 머신러닝 서버 등 내부 수요가 급증하는 상황이라는 판단 하에 미래 반도체 시장에 출사표를 던졌다.

‘SAPEON’은 인류를 뜻하는 ‘SAPiens(사피엔스)’와 영겁의 시간을 뜻하는 ‘aEON(이온)’의 합성어로, 인류에게 AI 반도체 기반 인공지능 혁신의 혜택을 지속 제공하겠다는 의지를 담았다. ‘SAPEON’은 GPU 대비 딥러닝 연산 속도가 1.5배 빠르고, 전력 사용량은 80% 수준이며, 가격은 GPU의 절반에 불과하다. SKT는 올해 열린 CES2022와 MWC22 자사 전시관에서 사피온을 전 세계에 선보였다. 내년에는 추론에 최적화 되어있는 X220에 실시간 학습 기능까지 더한 후속 모델 X330을 출시할 예정이다.

SKT는 또 AI 반도체 칩 기반 하드웨어부터 AI 알고리즘, API(응용 프로그램 인터페이스) 등 소프트웨어까지 AI 서비스 제공에 필요한 통합 솔루션을 제공하는 ‘AIaaS(AI as a Service, 서비스형 AI)’ 전략을 통해 글로벌 시장 공략에 나설 계획이다.

SKT의 글로벌 공략법은?

SKT는 올해 글로벌 AI 반도체 시장 진출을 위해 SK스퀘어, SK하이닉스와 함께 ‘SK ICT 연합’을 구성하고, AI 반도체 사업을 담당할 미국법인 ‘사피온(SAPEON) Inc.’를 설립했다. 또한, 한국과 아시아를 거점으로 하는 사피온 코리아도 한국에 설립했다. SK텔레콤에서 AI액셀러레이터담당을 지낸 류수정 대표가 두 회사의 대표를 겸직한다.

SAPEON Inc.는 미국에 거점을 둔 글로벌 빅테크 기업을 주요 고객사로 삼아 사피온의 글로벌 시장 진출과 AI 반도체 사업 확장을 도모하는 전초기지 역할을 할 계획이다.