SK텔레콤은 국내 AI 생태계 활성화와 글로벌 경쟁력 강화를 위해 대한민국 대표 AI 스타트업들과 함께 ‘K-AI 얼라이언스(Alliance)’를 운영하고 있다. 현재 30여 개의 혁신 기업이 참여 중인 K-AI 얼라이언스는 과학기술정보통신부가 주관하는 독자 AI 파운데이션 모델 개발 프로젝트를 포함한 다양한 협력 활동을 진행하고 있다.

과학기술정보통신부의 독자 AI 파운데이션 모델 프로젝트의 SKT 정예팀 참여 기업 중 하나인 ‘셀렉트스타’는 ‘다투모 이밸(Datumo Eval)’를 중심으로 생성형 AI 신뢰성 검증 분야를 선도하고 있다. 2018년 설립 이후 국내 최초 올인원(All-in-one) 신뢰성 검증 솔루션 구축, 글로벌 AI 학회 다수 등재 등 성과를 거두었으며, 이번 컨소시엄에서도 모델 안정성 검증을 위한 레드티밍 데이터 구축 및 고품질 학습데이터 구축 등 데이터 분야를 총괄하고 있다.

뉴스룸은 김세엽 셀렉트스타 대표를 만나 K-AI 얼라이언스 참여 성과와 SKT 컨소시엄에서 맡은 역할에 대해 자세하게 들어봤다.

* 본 글은 다른 회사의 의견을 포함하고 있으며, SK텔레콤의 공식 입장과 다를 수 있습니다.

국내 최초 AI 신뢰성 검증 솔루션 ‘다투모 이밸(Datumo Eval)’

셀렉트스타 김세엽 대표

셀렉트스타는 2018년 카이스트 창업팀에서 출발한 AI 데이터 구축과 신뢰성 검증 전문 기업이다. ‘AI로 세상을 바꾼다’는 미션 아래 AI의 핵심 경쟁력인 ‘데이터’를 중심으로 성장해 왔다. 창업 7년 만에 셀렉트스타는 320개 이상의 고객을 확보하고, 누적 2억 5천만 건 이상의 고품질 데이터를 공급하며, AI 전문기업으로 입지를 다지는 중이다.

최근에는 포브스 아시아 100대 유망 기업에 선정되며 글로벌 무대에서의 가능성 또한 확인했다. 또한, 셀렉트스타는 SKT 컨소시엄에서 과학기술정보통신부가 주관하는 ‘독자 AI 파운데이션 모델’ 개발 프로젝트 정예팀으로 참여하고 있다. 셀렉트스타는 데이터 전문 기업으로서 축적해온 경험을 바탕으로 AI 모델의 전 주기에서 ‘데이터 구축’과 ‘신뢰성 검증’이라는 두 축을 책임지는 역할을 맡았다.

Q. AI 서비스 신뢰성 검증은 왜 중요한가요?
AI가 일상과 산업 전반에 확산되면서 AI가 내놓는 결과물이 정확하고 공정하며 안전한지가 중요한 과제가 되었습니다. 실제로 기업들은 AI를 통해 생산성과 효율성을 높이고 있지만, 동시에 ‘환각(할루시네이션)’ 현상처럼 사실과 다른 정보를 만들어내거나, 의도치 않은 편향적·유해 콘텐츠를 생성하는 문제에 직면하고 있습니다.

이런 리스크는 기업의 신뢰도 하락과 법적 문제로 이어질 수 있습니다. 특히, 금융·의료·공공서비스와 같이 작은 오류도 큰 피해로 연결되는 분야에서는 아주 치명적입니다. 신뢰성 검증은 이런 위험을 사전에 탐지하고 대응함으로써, AI 서비스의 안전한 운영을 가능하게하는 핵심 요소입니다.

기존 AI 평가 방식은 전문가의 주관에 의존하거나 정량화되지 않은 기준이 많았습니다. 셀렉트스타는 이를 해결하기 위해 AI가 얼마나 정확하게 작동하는지, 얼마나 유해하지 않은지, 정책이나 사회적 기준에 부합하는지 등을 정량적으로 검증할 수 있는 체계를 마련했습니다. 이를 바탕으로 개발한 AI 신뢰성 검증 솔루션이 ‘다투모 이밸(Datumo Eval)’입니다.

셀렉트스타 ‘다투모 이밸(Datumo Eval)’ 서비스 화면

Q. 셀렉트스타의 신뢰성 검증 솔루션 ‘다투모 이밸(Datumo Eval)’의 특징은 무엇인가요?
‘다투모 이밸(Datumo Eval)’은 생성형 AI의 신뢰도를 자동으로 평가하는 국내 최초 솔루션입니다. 다양한 도메인과 시나리오를 고려해 검증용 질문을 자동 생성하고, AI의 응답을 사전에 정의된 기준에 따라 자동으로 평가합니다. 정량화된 결과는 대시보드에서 확인할 수 있으며, 의도적으로 취약점을 이끌어내는 자동 레드티밍(Red-teaming) 기능도 제공합니다.

가장 큰 강점은 정밀도와 효율성입니다. 기존에 한 달 이상 걸리던 평가 과정을 하루 만에 마칠 수 있고, ‘에이전트 기반 워크플로우복수의 LLM 에이전트를 분업화해 평가를 진행’와 ‘휴먼 얼라인먼트 기술사람과 비슷한 기준으로 판단할 수 있도록 학습하는 기술’을 적용해 평가 신뢰도를 크게 높였습니다. 또한 산업별 규제나 정책에 맞춰 맞춤형 기준을 설정할 수 있어 다양한 분야에서 활용 가능합니다. 다투모 이밸은 현재 글로벌 시장에서도 평가 데이터 자동 생성 등 전 과정을 수행 수 있는 유일한 서비스입니다.

SKT 컨소시엄 내 데이터 분야 총괄, 한국형 AI 모델의 품질 책임

Q. K-AI 얼라이언스 파트너사로 참여해 온 소감에 대해 말씀 부탁드립니다.
셀렉트스타는 SK텔레콤이 주도하는 ‘독자 AI 파운데이션 모델’ 개발 프로젝트 컨소시엄에 참여하면서 얼라이언스 멤버가 되었습니다. K-AI 얼라이언스는 단순한 기업 연합을 넘어 대한민국 AI 기술의 저력을 보여주는 상징적인 의미라고 생각합니다. 특히, SKT의 글로벌한 리더십 아래 다양한 전문성을 가진 기업들이 모여 있어, 상호 기술 융합과 공동 기획을 통해 큰 시너지를 낼 수 있을 것이라 기대합니다. 이번 참여를 통해 한국 AI 생태계 성장에 기여하는 동시에, 셀렉트스타가 보유한 데이터 및 신뢰성 검증 전문성을 널리 알릴 기회가 될 것이라 생각합니다.

Q. 이번 ‘독자 AI 파운데이션 모델’ SKT 컨소시엄에 합류하게 된 배경은 무엇인가요?
급속도로 성장하는 글로벌 AI 시장에서 한국이 경쟁력을 유지하기 위해 자체적인 AI 파운데이션 모델의 필요성이 강조되고 있습니다. 이에 따라 ‘독자 AI 파운데이션 모델’ 프로젝트가 AI 시대의 새로운 산업 주권이자 국가 경쟁력의 핵심 열쇠가 될 것이라고 생각합니다. 셀렉트스타는 국가대표 데이터 전문 기업으로서, 다양한 산업의 데이터 구축 경험과 신뢰성 검증 기술을 기반으로 기여할 수 있다고 생각해 참여하게 되었습니다.

특히 이번 컨소시엄은 단순한 기술 개발을 넘어, 글로벌 시장 진출을 전제로 설계된 점에서 의미가 더욱 큽니다. 또한 SKT가 주도하는 만큼 사용자 친화적 모델 구현과 독자 기술 기반 풀스택 AI 구현이 가능할 것이라는 점에서도 기대하고 있습니다.

Q. 컨소시엄 내에서 셀렉트스타가 맡은 주요 역할은 무엇인가요?
셀렉트스타는 데이터 분야를 총괄하는 역할을 담당하고 있습니다. 2억 5천만 건 이상의 데이터 구축 경험을 바탕으로 학습부터 평가까지 전 과정을 지원합니다.

먼저, 프로젝트를 통해 축적되는 현장 데이터와 기술 노하우를 ‘캐시미션셀렉트스타의 24만 명 규모 데이터 가공 플랫폼’을 통해 고품질 학습 데이터셋으로 전환하고, 멀티모달 모델 학습에 필요한 데이터도 구축할 예정입니다. 또한, 다투모 이밸, 한국어 맞춤형 LLM 벤치마크 ‘KorNAT(코낫)’, 국내외 생성형 AI 레드팀 챌린지 운영 경험 등을 통해 안전성과 편향성까지 검증 가능한 고도화된 체계를 제공할 계획입니다. 이를 통해 모델의 잠재적 취약점을 사전에 검증하고 안정성을 강화할 것입니다.

Q. SKT가 ‘글로벌 AI 컴퍼니’ 비전을 선포하고 AI 컴퍼니로 도약해 나가는 것에 대해 어떻게 생각하시나요?
SKT의 AI Company 비전은 단순히 기술을 도입하는 수준을 넘어 기업 전반의 운영 체계, 서비스, 제품, 인프라, 문화 등 모든 부분에 AI를 내재화하겠다는 의지로 보입니다. 통신, 데이터, 인프라, 플랫폼을 모두 보유한 SKT는 AI 기술을 실제 고객 경험과 서비스로 연결할 수 있는 유리한 위치에 있습니다. 이러한 기반은 국내 AI 스타트업들과의 연계 속에서 더욱 강력한 생태계로 확장될 수 있고, K-AI 얼라이언스 멤버사들이 더 큰 목표를 향해 나아가는 데 강력한 동기 부여가 될 것으로 기대합니다.

셀렉트스타 김세엽 대표

Q. 한국형 AI 생태계 구축에서 셀렉트스타가 기여하고자 하는 바는 무엇인가요?
AI가 만들어낸 결과물에 대한 객관적이고 투명한 검증 체계를 확립해, AI가 신뢰 기반의 기술로 자리 잡도록 하는 것이 저희의 목표입니다. AI 생태계는 데이터·모델·서비스가 유기적으로 연결될 때 완성됩니다. 셀렉트스타는 이 중 데이터와 모델 검증이라는 두 축을 맡아, 보다 신뢰성 있는 AI 생태계를 만드는 데 기여하고자 합니다.

AI 기술의 근간은 결국 양질의 데이터입니다. 저희는 전문 도서 등 웹에서 얻기 어려운 데이터를 합법적으로 확보하고, 설계부터 가공, 제공까지 전 주기를 관리해 품질을 보장하고 있습니다. 특히, 개인정보보호와 저작권, 정책 적합성 같은 복잡한 이슈를 해결한 데이터셋을 제공해, 국내 기업들이 안심하고 AI를 개발·활용할 수 있도록 지원합니다.

AI 서비스 상용화의 가장 중요한 과제인 신뢰성 문제를 해결하는 데 앞장서겠습니다. ‘다투모 이밸’을 통해 기업들이 AI를 더욱 정확하고 안전하게 운영할 수 있도록 돕고, 잠재적 오류와 위험을 사전에 식별하고 대응할 수 있도록 지원하겠습니다.

Q. 앞으로의 계획은 무엇인가요?
셀렉트스타는 AI 데이터 구축과 신뢰성 검증 사업을 필두로 글로벌 시장을 선도하는 글로벌 AI 인프라 기업으로 도약하고자 합니다. 장기적으로는 ‘신뢰성 기반 AI의 표준’이 되는 기업으로 자리매김하고, 대한민국 AI 생태계의 질적 성장을 이끄는 중심 기업이 되고자 합니다.

그 일환으로 ‘독자 AI 파운데이션 모델’ 개발 프로젝트 최종 선발에 힘쓸 예정입니다. SKT 컨소시엄이 국민 누구나 활용할 수 있는 진정한 ‘국가대표 AI’를 구현하는데 일조하고, 국가 AI 경쟁력을 강화하는 데 초점을 맞추고자 합니다.

더불어 글로벌 시장 진출 가속화에 나설 예정입니다. ‘다투모 이밸’의 글로벌 SaaS화를 통해 해외 기업들이 손쉽게 신뢰성 검증을 수행할 수 있도록 하고, 북미 시장을 시작으로 글로벌 데이터셋 협업을 본격화할 계획입니다. 내년 MWC26에서는 올해보다 더 큰 규모의 글로벌 레드팀 챌린지를 진행하여 AI 신뢰성 검증의 중요성을 세계에 지속적으로 알릴 예정입니다.