AI 에이전트는 우리의 삶을 한층 더 편리하게 만들고 있다. 이제 인간과 AI가 상호작용하는 시대가 머지않았다. AI 에이전트 기술은 앞으로 어떻게 더 혁신적으로 발전해 나갈까? AI 윤리는 어떤 원칙을 가지고 지켜야 할까? SK텔레콤 김윤 CTO, 스캐터랩 김종윤 대표가 뇌과학자 정재승 교수와 Tech & Biz Talk에서 만났다. 이들은 차세대 AI 에이전트 기술의 기회와 도전, AI 윤리 등에 대해 논의했다. 그들의 토론 속에서 AI 에이전트의 미래를 함께 만나보자.

2021년, AI 에이전트의 가장 큰 트렌드는 ‘온 디바이스(On-Device), AR/VR 웨어러블, 개인화’

토론에 앞서 SK텔레콤 김윤 CTO의 강연이 진행됐다. 김 CTO는 AI 에이전트가 지금까지 걸어 온 길과 앞으로 나아갈 미래에 대한 관점을 공유했다.

김 CTO는 2021년 AI 에이전트 트렌드로 ▲온 디바이스(On-Device) AI ▲AR/VR 웨어러블 ▲개인화를 꼽았다. 현재 AI 어시스턴트는 연산 능력이 뛰어난 ‘스마트폰’ 디바이스상에서 가장 많이 사용하고 있다고 설명했다. 두 번째 트렌드는 웨어러블이다. 현재 웨어러블 기기는 음악을 플레이하거나 사진을 찍는 등 간단한 명령을 수행하지만, 향후 메타버스에 최적화된 웨어러블 기기들이 출시한다면 또 한 번의 AI 에이전트 혁명이 일어날 것이라고 덧붙였다. 마지막 트렌드는 개인화다. 유저에게 가장 적합한 개인화 서비스를 제공하는 ‘AI 에이전트 프로세스 오토메이션’을 최근 트렌드로 언급했다.

김윤 CTO “AI 에이전트 2.0를 대표하는 네 가지 키워드는 4P(Personal, Proactive, Pragmatic, Paraclete)”

김 CTO는 AI 에이전트 2.0 시대의 대표 키워드를 ▲Personal(개인) ▲Proactive(예측) ▲Pragmatic(실용) ▲Paraclete(동반자)로 꼽았다. AI 에이전트 2.0 시대는 이 네 가지 요소가 강화한 시대일 것이라고 내다봤다.

첫 번째 키워드는 ‘Personal’이다. 김 CTO는 AI 에이전트 2.0 시대에는 인간과 AI 에이전트가 개인적인 관계성이 있을 것이라고 예측했다. 유저와 함께 데이터와 경험을 쌓고, 같이 발전하는 모습으로 나아갈 것이라고 말했다.

두 번째 키워드는 ‘Proactive’다. 그는 유저가 명령하지 않아도 AI 에이전트가 마음이나 상황을 예측해 가장 적합한 타이밍에 유용한 정보를 제공하고, 행동을 취할 것이라고 설명했다.

세 번째 키워드는 ‘Pragmatic’이다. 일명 ‘일을 잘하는 어시스턴트’다. 예를 들어 유저가 출장을 가야 하는 상황이라면, AI 에이전트는 호텔부터 비행기, 렌터카를 스스로 알아보고 주인에게 옵션을 제시한다. 유저는 AI 에이전트의 검색 결과 중 옵션만 선택하면 된다. 실용적인 AI 에이전트 덕분에 궁극적으로 유저의 시간을 획기적으로 절약할 수 있게 된다.

마지막 키워드는 ‘Paraclete’이다. ‘Paraclete’는 그리스어인 ‘Paracletos’의 영어형으로 ‘조력자’, ‘동반자’의 의미를 담고 있다. 김 CTO는 “궁극적으로 디지털 세상에서 더 나은 나를 실현하는데 핵심적인 역할을 하는 동반자가 AI 에이전트 2.0의 목표일 것”이라고 덧붙였다.

김 CTO는 “메타버스 세상에서 AI 에이전트는 초인간적인 능력을 갖추게 될 것”이라며 “물리적 세상에서 사는 나를 디지털 세상과 연결해주는 가교 역할을 감당하게 될 것”이라고 예측했다. 이어 그는 “이것이 바로 메타버스 세상에서 AI 에이전트의 중요한 의미가 될 것”이라고 말했다.

AI 에이전트의 미래는 어떤 모습일까? 카이스트 정재승 교수와 AI 전문가 토론

김 CTO의 발표가 끝나고, 전문가들은 AI 에이전트 2.0 시대와 AI 시대의 윤리 등 다양한 주제를 바탕으로 토론을 이어나갔다.

Topic 1. AI 에이전트 2.0 시대의 킬러앱

Q. 정재승 교수: 김윤 CTO님의 강연을 통해 AI 에이전트가 현재 어디까지 와 있는지 그리고 AI 에이전트 2.0 시대에는 어떤 일이 벌어질지 머릿속으로 상상해 보는 시간을 가졌습니다. 앞으로 AI 에이전트 2.0 시대가 도래할 텐데요. 이때 가장 매력적인 서비스는 무엇이고, 킬러 앱은 무엇이 될까요?

A. 김종윤 대표: 저희가 개발하고 있는 ‘루다’가 AI 에이전트 2.0에서 킬러 앱이 될 수 있지 않을까요? 앞서 김윤 CTO님께서 발표해 주신 ‘Personal’ 영역이라고 볼 수 있습니다. 어떻게 보면 ‘친구’라는 개념은 서비스 자체가 될 수 없는 것처럼 보입니다. 우리가 일반적으로 생각하는 친구라는 단어 안에는 상대방이 사람이고, 1:1 관계라는 가정이 있기 때문입니다.

현재 저희가 개발 중인 ‘루다’* 서비스를 보시면 이야기가 달라집니다. 루다는 대화의 흐름에 따라 자연스럽게 대화하는 능력을 가지고 있고, 먼저 말을 거는 ‘선톡’ 기능도 활성화 되어있습니다. AI도 사회성을 가질 수 있고, 상호작용도 할 수 있다는 점입니다. 이 능력은 지속해서 향상되고 있고, 그 속도는 더욱 빨라지고 있습니다.
*루다: 페이스북 메신저를 통해 일상적인 대화를 나눌 수 있는 대화형 AI. 스캐터랩에서 개발했으며, 친근한 어투로 생동감 있는 대화를 구사하는 것이 특징

Topic 2. AI 에이전트와 프라이버시 이슈

Q. 정재승 교수: AI 에이전트를 이야기하면 프라이버시 이슈도 빼놓을 수 없을 것 같습니다. AI 에이전트가 내가 하는 이야기를 계속 듣고 있다는 말이 있잖아요. 진짜 듣고 있는 것이 맞나요? 그리고 AI 에이전트의 프라이버시 이슈는 앞으로 어떻게 해결해야 할까요?

A. 김윤 CTO: AI 에이전트가 나의 이야기를 계속 듣고 있는 것은 아닙니다. 발화어를 말하면 2초 정도 듣고 답을 하는 식이죠. 이 데이터는 서버가 아닌 디바이스 안에 저장되었다가 더 이상 필요가 없어지면 삭제됩니다. 따라서 이 부분에 대해서는 걱정하지 않아도 됩니다.

저는 ‘AI 윤리’ 교육이 필요하다고 생각합니다. AI를 만드는 사람뿐만이 아니라 AI를 사용하는 사람도 함께 고민하고 실천해야 한다고 생각합니다. 개인정보도 정부나 회사에 맡기고 끝나는 것이 아니라 정보의 주체들도 그 자산이 잘 쓰일 수 있도록 책임지고 관리하는 것이 필요하다고 생각합니다. 개인정보가 더 유용하게 쓰이기 위해서는 개인정보와 데이터에 관한 교육이 필수겠죠. 교육이 바탕이 된 다음 개인들에게 이를 선택할 수 있도록 해야 하지 않을까 싶습니다.

A. 김종윤 대표: 많이 아시다시피 루다는 프라이버시가 핵심 이슈였습니다. 그래서 저희가 가장 많이 고민하는 영역이기도 합니다. 딥러닝 시대로 넘어오며 ‘개인정보’ 영역이 훨씬 더 어려워졌습니다. 딥러닝의 힘은 언어, 음성, 시각 등 정형화되지 않은 데이터를 학습하고 이해할 수 있게 된 것에서 나오는데요. 문제는 여기에 개인정보와 개인정보가 아닌 것이 혼재되어 있다는 점입니다. 이게 판단하기에도 굉장히 까다로운 문제이고요. 예를 들자면 “나는 지금 여자친구 만나러 광화문에 가는 길이야”라는 대화가 개인정보인지 아닌지를 판단해야 하는 것이죠. 저는 개인정보라는 것의 경계를 어디까지 둘 것인지, 또 어떻게 활용하는 것이 올바른 것인지 우리 사회가 함께 고민해야 한다고 생각합니다.

Topic3. AI 에이전트와 누구(NUGU)의 미래

Q. 정재승 교수: 앞으로 어떤 미래가 SKT의 누구에 펼쳐질지 궁금해지는데요. 누구의 현재 상황은 어떻고, 앞으로의 계획이 어떻게 되는지 설명 좀 부탁드립니다.

A. 김윤 CTO: 누구가 출시 된 지 5년이 됐습니다. 월 사용자가 1,000만 명을 넘어섰고요. 누구 서비스 조직도 엔지니어링, 운영, 비즈니스, 마케팅 등으로 세분화 되어 크게 성장했습니다.

AI 에이전트 1.0은 ‘플랫폼’에서 시작합니다. 누구는 스피커에서, 애플의 시리는 스마트폰에서 시작해 그 영역을 점점 확장하고 있습니다. 다만, AI 에이전트 1.0은 플랫폼 안에서만 도움을 줄 수 있다는 한계가 있습니다. 또한, 끊김 없는(Multi-Turn) 대화도 어렵죠. 따라서 Al 에이전트 1.0의 대부분은 일상 대화라기보다는 어떤 정보를 찾거나 음악을 틀어주는 등 단순한 업무를 수행하는 수준에 그치게 됩니다.

우리가 꿈꾸는 AI 에이전트 2.0의 모습은 유저와 감정을 교류하며 친구가 될 수 있는 영화 Her의 ‘사만다’와 마치 비서처럼 일 처리는 물론 전략전술에 대한 조언까지 할 수 있는 아이언맨 시리즈의 ‘자비스’ 두 가지 모두입니다.

Topic4. AI 에이전트 2.0 현실화 시점에 대하여

Q. 정재승 교수: 김윤 CTO님이 생각하시기에 AI 에이전트 2.0은 언제쯤 현실화가 되고 우리 일상생활에 불편함 없이 사용될 수 있을지 구체적으로 예측해 주실 수 있으실까요?

A. 김윤 CTO: 보통 저는 이런 예측을 할 때 What과 When을 둘 다 이야기하지는 않습니다. 그런데 When이라고 질문을 주시면 저는 이제 다시 반문을 드려야 합니다. When에 관한 얘기를 하려면 What도 규정해야 하는데요. AI 에이전트 2.0이 명확하게 정의 되어있느냐는 것입니다. 이미 나와 있다고 생각하시는 분도 있을 것 같고요. 만약 루다가 새롭게 출시하게 된다면 이것이 AI 에이전트 2.0의 시초라고 생각할 수도 있습니다. 저는 AI 에이전트 2.0은 메타버스와 함께 온다고 생각합니다. AI 에이전트 2.0을 일상에서 불편함 없이 활용할 수 있는 시점은 5년 후 정도로 예상해볼 수 있지 않을까요?

토론을 마치며

정재승 교수: SK텔레콤 김윤 CTO님과 스캐터랩 김종윤 대표님을 모시고 AI 에이전트의 미래를 함께 상상해 봤습니다. 직접 서비스를 하고 계신 두 분을 통해서 어떤 내밀한 고민을 하고 계신지, 어떤 기술이 빨리 실현되고 아주 어려운 문제인지에 대해 이야기를 나눴습니다. AI 에이전트 제품과 서비스에 대한 큰 지형도를 그려볼 수 있는 시간이었던 것 같습니다. 앞으로 다가올 AI 에이전트 2.0 시대가 더욱 기대되는 대목입니다.