SK텔레콤은 MIT(매사추세츠 공과대학교)가 주관하는 글로벌 산학 협력 연구 컨소시엄인 ‘MGAIC(MIT Generative AI Impact Consortium)’의 주요 멤버로서 AI 혁신을 위한 긴밀한 협력을 이어가고 있다.

MGAIC는 SKT를 비롯해 오픈AI, 코카콜라 등 산업별 글로벌 대표 기업들이 함께하는 Cross-industry AI 플랫폼으로, 현재 60개 이상의 프로젝트를 통해 실질적인 AI 변화를 만들어내고 있다.

SKT 뉴스룸은 앞으로 MGAIC를 통해 SKT와 협력하고 있는 다양한 MIT 교수들의 연구 결과를 인터뷰를 통해 소개할 예정이다.

그 첫 번째로 SKT와 협력해 ‘AI 에이전트 행동 기초 연구’를 수행한 MIT 미디어랩의 패티 매이스(Pattie Maes) 교수를 만나 AI 에이전트와 인간이 공존하는 미래를 위해 우리가 지금 준비해야 할 과제는 무엇인지, 그리고 SKT의 ‘소버린 AI’ 전략이 갖는 글로벌 경쟁력은 무엇인지 들어보았다.

MIT 패티 매이스(Pattie Maes) 교수

AI 에이전트의 성공적 안착을 위한 핵심 요소는 ‘역량’과 ‘신뢰’

Q1. 지난 3월 교수님의 연구논문 “A Framework for Studying AI Behavior(AI 에이전트 행동 기초 연구)”이 AI 분야 세계 최고 권위 학회인 ICLR(International Conference on Learning Representations) 2026에서 Conference Paper로 채택되었습니다. 해당 주제를 선정한 배경과 주요 연구 결과를 간략히 소개 부탁드립니다.
소프트웨어 에이전트가 성공적으로 안착하려면 두 가지 과제가 해결되어야 합니다. 첫째는 에이전트가 사용자의 과업을 도울 수 있는 지식과 기술을 갖추는 ‘역량(Competence)’, 둘째는 ‘신뢰(Trust)’입니다. 즉, 사용자가 에이전트를 믿고 일을 맡길 수 있는지, 그리고 에이전트가 사용자의 방식과 의도에 맞게 행동하는 ‘정렬(Alignment)’이 이루어지는지가 핵심입니다.

따라서 AI 에이전트가 어떻게 행동하는지, 그 행동은 어떻게 유도되고 영향을 받는지, 그리고 사람의 방식과 얼마나 일치하는지를 이해하는 것이 중요합니다. 저희는 이를 확인하기 위해, 다른 변수는 일정하게 유지하면서 에이전트 환경에 작은 변화를 주어 분석할 수 있는 프레임워크(Framework)를 개발했습니다. 이를 통해 에이전트의 의사결정에 영향을 미치는 요소를 연구해 궁극적으로 에이전트의 행동에 대한 이해도를 높이고자 합니다.

Q2. 이번 연구 결과를 바탕으로 SKT의 A.X K1과 같이 기업이 자체적인 독자 파운데이션 모델을 보유하고 검증하는 것은 어떠한 전략적 우위를 갖는다고 보시나요?
기업이 자체 모델을 구축해야 하는 중요한 이유는 국가적·사법적 환경이 전혀 다른 해외 기업의 제품과 서비스에 의존하지 않기 위해서입니다. AI는 점점 정치, 경제, 안보의 핵심 이익으로 간주되고 있습니다. 특정 국가에서 운영되는 기업으로서, 블랙박스와 다름없는 타국의 기술에 전적으로 의존하는 것은 위험한 선택일 수 있습니다.
데이터 프라이버시와 보안 측면에서도 자체 모델은 필수적입니다. 개인이나 기업의 민감한 데이터가 유출되거나 수집되지 않는다는 점을 100% 보장받기 위해서는 독자적인 모델을 보유하는 것이 유리합니다.

Q3. 인간과 AI 에이전트가 공존하며 올바른 의사결정을 내리는 미래를 위해, 기업과 학계가 함께 풀어나가야 할 가장 시급한 과제는 무엇이라고 생각하시나요?
가장 시급한 과제는 이번 SKT와의 협업에서도 집중했던 주제인 ‘AI 에이전트의 행동 이해’입니다. 에이전트가 특정 상황에서 어떻게 행동할지 예측하고, 한계점이 무엇인지, 언제 신뢰하고 언제 신뢰하지 말아야 할지를 명확히 알아야 합니다. 인류는 전통적으로 우리가 모델링하고 예측할 수 있는 기술에 의존해 왔습니다. 하지만 AI와 에이전트는 여전히 불확실하고 예측 불가능한 ‘블랙박스’인 경우가 많아 우리를 취약하게 만듭니다. 책임 소재를 명확히 할 수 없는 의사결정 주체를 가졌던 적은 역사상 없었습니다. 따라서 AI와 에이전트의 행동을 이해하는 과학과 기술을 발전시키는 데 지금 바로 행동해야 합니다.

Q4. 빠르게 증가하고 있는 AI 에이전트 서비스 이용자들에게 가장 당부하고 싶은 것은 무엇인가요?
사용자들이 에이전트를 사용할 때 예기치 못한 불상사를 피하기 위해 매우 주의 깊게 접근해야 한다는 점입니다. 특히 매우 중요하거나 민감한 과업일수록 더욱 그렇습니다. 또한, AI 시스템에 지나치게 의존하여 우리 스스로가 가진 특정 기술이나 능력을 퇴화시키지 않도록 유의하는 것도 중요합니다.

독자적인 AI 전문성을 확보하려는 SKT의 전략은 매우 영리한 선택

Q5. 이번 논문은 MGAIC 일환으로 SKT와 협력을 통해 진행되었습니다. 이번 협력이 갖는 의미와 향후 SKT와의 협력 확대 계획은 무엇인가요?
SKT와의 협력에 깊은 감사를 표합니다. SKT의 지원 덕분에 AI 기술에 대한 이해, 특히 에이전트 행동 과학을 한 단계 발전시킬 수 있었습니다. AI가 궁극적으로 성공하기 위해서는 AI의 행동을 투명하게 이해하고 예측할 수 있는 역량을 갖추는 것이 필수적입니다.

Q6. SKT는 한국의 소버린 AI 주도권 확보를 비롯해 AI 인프라, 서비스 등 다양한 영역에서 노력하고 있습니다. 평소 SKT의 AI 전략과 경쟁력을 어떻게 평가하시나요?
자체 모델을 개발하고 AI 분야의 독자적인 전문성을 확보하려는 SKT의 전략은 매우 영리한 선택이라고 생각합니다. 앞서 언급했듯이 AI가 개인, 기업, 국가적 이익에 막대한 영향을 미치는 상황에서, 설령 성능이 조금 더 앞선 외부 시스템이 있더라도 이를 단순히 도입하는 데 그치지 않고 직접 제어하고 이해할 수 있는 ‘우리만의 솔루션’을 구축하는 것이 전략적으로 훨씬 우월합니다.

Q7. 현재 글로벌 AI 시장에서 비영어권 및 로컬 환경에 최적화된 ‘소버린 AI’ 구축에 대한 목소리가 높습니다. 소버린 AI가 범용적인 성능 외에 추구해야 하는 차별점이 있을까요? 글로벌 소버린 AI 경쟁에서 한국만이 가지고 있는 장점은 어떤 것일까요?
현재의 AI 모델들은 사용되는 곳의 문화에 급격히 영향을 미치고 있습니다. 현재 생성되는 정보와 사례들은 대부분 모델이 개발된 국가의 시각에 편향되어 있습니다. 한국이 예술, 언어, 문학, 그리고 한국만의 독특한 관점과 접근 방식을 보호하고 지지하기 위해서는 한국의 데이터로 학습되고 한국의 주체들이 관리하는 한국형 모델을 만드는 것이 중요합니다. 한국은 오랜 기술 혁신의 전통을 가지고 있으며, 이는 소버린 AI 경쟁에서 승리할 수 있는 훌륭한 기반이 될 것입니다.