A.(에이닷)은 SK 텔레콤이 ‘AI 컴퍼니’로 나아가기 위해 기반이 되는 인공지능(AI) 에이전트 서비스입니다. A.(에이닷)은 GLM(General-purpose Language Model)이라는 ‘GPT-3 기반 한국어 범용 언어 모델’을 사용합니다. 이 언어 모델은 인공지능이 자연스러운 문장을 생성하고, 지식 대화를 가능하게 하고, 다양한 분야에서 폭넓은 자유 대화를 할 수 있도록 합니다. 단, 이러한 과정에서 사용자에게 비윤리적이거나 비상식적인 답변이 제공되는 것을 방지하기 위해, SKT는 GLM을 시작으로 AI 윤리를 실천해 나가고 있습니다.

SKT가 고객과 친밀하게 대화를 나누고 더욱더 윤리적으로 소통하는 서비스를 만들기 위해, 지난 5월 출시한 A.(에이닷)에서 AI 윤리를 어떻게 실천하고 있는지 소개합니다.

GLM은 무엇인가요?

GLM은 사람처럼 자연스러운 문장을 생성하고 지식 대화가 가능한 GPT-3 기반 한국어 범용 언어 모델입니다. SKT는 GLM을 A.(에이닷)에 적용하여, 정보 전달 이외에 자유 주제로 한국어가 가능한 B2C 서비스를 출시할 수 있었습니다. GLM은 웹, 위키, 뉴스 등을 포함한 전문기관의 정제된 대화 데이터를 기반으로, 내부 언어 전문가들의 2차 정제 하에 학습하고 성장하고 있습니다. 다만, GLM의 폭넓은 자유 대화에서 윤리 이슈가 발생할 가능성이 존재하기 때문에, 이를 세이프티(safety) 모듈 운영, 윤리 정책, 대화 리디렉션(redirection) 등을 통해 대화 범위를 조정하고 있습니다.

AI 대화 실행 윤리는 무엇인가요?

작년, SKT는 AI 윤리를 전사적으로 실천하기 위해 ‘AI 추구 가치’를 마련하였습니다. 기존의 AI 윤리가 AI의 한계와 보완할 사항을 중점적으로 나타낸 것이라면, SKT의 AI 추구 가치는 지속적으로 발전하고 있는 AI 기술을 활용하여, 사람을 돕고 또 이롭게 하는 것을 목표로 합니다. AI 추구 가치는 ‘사람 중심의 AI, 함께 공존하며 더 높은 곳으로 향합니다’라는 슬로건과 함께, 다음 7개의 핵심 가치로 구성되어 있습니다.

이를 기반으로, 5월 출시된 A.(에이닷)을 시작으로 하여 GLM을 활용하는 대화 서비스에서 AI 윤리를 실천하기 위해 다음과 같이 7개의 AI 대화 실행 윤리 또한 마련하였습니다. 관련 내용은 6월 업데이트 시 A.(에이닷) 앱 내 페이지를 구성하여 고객들에게도 제공할 예정입니다.

사회적 가치: GLM은 생명과 사회, 그리고 사회 속 다양한 관계를 존중합니다.
우리는 GLM을 활용하여 공공을 위한 사회적 가치를 창출하기 위해 노력합니다. 사회 구성원 간 다양한 관계를 존중하고, 생명과 사회에 부정적인 영향을 미치는 언어에 대해서 끊임없이 연구합니다. 이런 노력들이 우리 사회가 직면한 문제의 해결 방안을 찾는 데 도움이 되길 바랍니다.

무해성: GLM은 안전한 사용에 대해 점검하고 대처 방안을 확보하기 위해 노력합니다.
우리는 GLM의 무한한 잠재력을 알고 있습니다. 동시에 사회가 기대하는 도덕적 가치를 완벽하게 이해하기 어렵다는 한계 또한 인지하고 있습니다. GLM이 도덕적 가치를 충분히 학습할 때까지, 우리 사회에서 용인될 수 없는 자극적인 콘텐츠나 극단적인 표현이 노출되지 않도록 철저하게 모니터링합니다. 특히, 청소년을 유해 콘텐츠로부터 안전하게 보호하기 위해 힘씁니다.

공정성: GLM은 부당하게 차별하거나 특정 가치에 치우치지 않습니다.
우리는 GLM이 사회의 다양성을 포용하는 방향으로 발전할 수 있다고 믿습니다. 다만, 그 과정에서 우리의 기대에 부응하지 못하거나 오해를 불러일으키는 결과가 발생할 수 있다는 것도 인지하고 있습니다. 이를 최소화하기 위하여, 특정 대상 또는 대상의 특징을 공격하거나 혐오하는 언어 패턴을 분석하고 이를 금지합니다. 서로 다름을 인정하고 존중할 수 있는 문화가 우리 사회에 안착되길 바랍니다.

지속 혁신: GLM은 끊임없이 발전하며, 시의성에 맞는 발화를 제공합니다.
우리는 GLM의 현재 기술 수준에 만족하지 않고 끊임없이 혁신합니다. 사회 환경의 변화에 맞는 새로운 기술 도입에 앞장서, 시의적절한 발화를 제공하기 위해 노력합니다. 또한, 혁신 과정에서 사회적, 역사적으로 논란의 소지가 있는 사건과 특정 기업 및 단체에 관련된 대화는 더욱 세심하게 관리하여 중립적인 정보를 전달합니다.

사생활 보호: GLM은 개인정보, 프라이버시를 중요하게 생각하며 관련 법률을 준수합니다.
우리는 GLM이 학습하고 진화하면서 활용하는 다양한 데이터에 주목합니다. 개인정보가 포함될 경우 이 정보를 알아볼 수 없도록 처리하거나 삭제합니다. 나아가, 서비스 제공 중에 발견될 수 있는 위험 요소를 모니터링하고 재처리합니다. GLM 활용에 있어 개인정보 및 프라이버시 보호에 최선을 다합니다.

기술 안정성: GLM은 정보의 신뢰성 확보를 위한 보호 조치를 충실히 수행합니다.
우리는 사용자가 GLM을 언제나 믿고 사용할 수 있도록 기술/관리적 보호 조치를 충실히 수행합니다. GLM을 통한 결과물이 사용자의 생활에 실질적인 도움이 되어야 한다는 책임감을 가지고 있습니다. 전문적인 의견을 포함한 과학, 상식, 역사 등 GLM이 제공하는 정보에 오류가 발생하지 않도록 노력합니다.

투명성: GLM은 사용자에게 성실히 설명하며 다양한 피드백을 반영합니다.
우리는 GLM이 사용자와 소통하며 성장하기를 바랍니다. GLM의 사용 범위, 목적, 그리고 한계에 대해 사용자에게 성실히 설명하고, 열린 마음으로 이해관계자와 협력합니다. 나아가, 사용 과정에서 발생하는 다양한 피드백을 충실히 수용하여 GLM이 더 나은 서비스를 제공하고 사용자의 생활에 긍정적인 변화를 이끌어 갈 수 있도록 노력하겠습니다.

GLM 개발 시 AI 윤리를 어떻게 적용하나요?

GLM 개발 단계에서는 AI 윤리를 실천하기 위한 다양한 노력을 하고 있습니다. 먼저, 세이프티(safety) 모듈을 운영하여 윤리적으로 문제의 소지가 있는 발화를 GLM이 인지하고 대처할 수 있도록 모델에 적절한 조치를 취하고 있습니다. 예를 들어, 위험한(unsafe) 데이터를 고의적으로 생성하여 이를 GLM에 학습시키고, 나아가 GLM이 위험한(unsafe) 사용자 발화에 대해 적절한 조치를 할 수 있도록 모델 튜닝, 패턴화 등을 적용합니다.

나아가, GLM의 답변이 윤리적일 수 있도록, 사용자 발화에서 위험한(unsafe)한 내용이 발견되었을 시 이를 적절한 방향으로 유도하기 위한 답변 리디렉션을 적용합니다. 윤리적으로 적절하게 리디렉션이 제공될 수 있도록 답변 정책을 수립하고, 제공되는 답변을 세분화해 나감으로써 자연스러운 대화 전개를 위해 노력합니다.

마지막으로, 윤리 정책을 수립하여 GLM 연구/개발 시 AI 윤리를 지속적으로 준수할 수 있도록 노력합니다. GLM 윤리 정책을 업데이트해 나가면서 대화 전개 시 발생할 수 있는 윤리 문제를 사전에 방지하고, 윤리 정책 준수 여부 또한 점검할 수 있는 체크리스트를 통해 놓치고 있는 부분은 없는지 지속적으로 관찰합니다.

다음은 GLM에서 준수하고 있는 윤리 정책입니다. AI 추구 가치에 따라 발생 가능한 윤리 이슈를 세분화하고, 이에 대한 우리의 태도와 답변을 사전에 정립함으로써 윤리적 대화 전개를 위해 노력하고 있습니다.

이러한 실천을 시작으로 앞으로도 SKT는 다양한 서비스에서 지속적으로 AI 윤리를 적용해 나갈 것입니다. 이를 통해, 고객과 활발히 그리고 더 올바르게 소통해 나가기 위해 노력하겠습니다.