SK텔레콤이 한겨레 신문 부설 사람과 디지털연구소가 제정한 ‘휴먼테크놀로지 어워드’에서 사회공공부문 우수상을 수상했다. 휴먼테크놀로지 어워드는 디지털 환경에서 사용자 주권과 기술의 가치를 높이기 위해 제정한 상으로 2015년부터 개최해오고 있다.

 

SKT는 AI 서비스 기획, 개발, 배포, 운영 단계에서 AI 추구가치를 구체적으로 반영하는 방법인 ‘AI 추구가치 체크리스트’를 개발해 업무에 적용한 성과를 인정받았다. 사람에 따라 다르게 적용될 수 있는 여지를 최소화함으로써 AI 추구가치를 안정적이며 객관적으로 실천할 수 있는 기준을 제시했다. AI 서비스 개발·운영 조직을 중심으로 SKT 제품 생애 주기 관리와 위험 관리 시스템에 AI 추구가치 체크리스트를 지속 적용해 나갈 예정이다.

 

SKT의 휴먼테크놀로지 어워드 수상을 기념해 T3K 시너지추진팀 송진한 리더와 임수현 님이 공동으로 작성한 특별 기고문을 소개한다.

다큐멘터리 ‘소셜 딜레마’가 세간의 관심을 끈 적이 있다. 페이스북, 인스타그램 등 소셜미디어가 가짜 뉴스를 확산하고, 사용자를 소셜미디어에 중독시키는데다 선거 결과에까지 영향을 주었다는 충격적인 내용을 다뤘다. 특히, Big Tech 기업들이 무분별하게 AI를 활용하였을 때 사용자에게 발생하는 피해와 부작용을 지적하였다. 한편, 우리나라에서도 2020년 말 스캐터랩의 AI 챗봇 ‘이루다’가 혐오 발언, 성희롱, 개인 정보 유출 등의 이슈로 출시 3주 만에 서비스를 중단한 적이 있었다. 개인정보보호위원회는 스캐터랩에 과징금/과태료를 부과하고 시정조치를 명령했다. 이는 AI 기술 기업의 개인정보 처리에 대한 첫 제재 사례였다.

이러한 논란이 발생하는 원인은 무엇일까? 지금까지 우리는 성능 향상을 중심으로 AI 기술을 개발해왔지만, 이제 AI 기술은 소비자들과 다양하게 교류하며, 그들의 인지/판단 영역까지 대신하기에 이르렀다. 사람이 직접 선택하던 콘텐츠를 AI가 대신 추천해주고, AI 챗봇이 마치 사람 친구처럼 말상대를 해준다. 하지만, AI 기술에 사람의 편견이 반영된 입력 데이터를 사용할 경우 원하지 않는 동작을 할 수 있고, 개발하는 사람의 목적과 의도에 따라 악용될 여지도 많다.

이러한 AI 기술의 특징은 ‘맹모삼천지교’ 고사에 비교해 설명할 수 있다. 맹자가 무덤가에 살았을 때는 곡소리를 배우고, 시장에서는 장사꾼 흉내를 냈는데, 맹자 어머니가 서당으로 이사를 하니 맹자가 예의범절을 배우고 학업에 힘썼다는 이야기이다. 맹자가 사상가로 성장하는 데 있어 결정적인 역할을 한 맹자 어머니처럼, 엄청난 잠재력을 가진 AI를 제대로 키우려면 세심하게 보살피고 이끌어주는 역할이 필요하다는 것이다. 이러한 노력의 일환으로 등장한 것이 바로 ‘AI 윤리’이다.

AI 윤리는 AI를 적용할 때 발생하는 한계를 제시하고, 이에 따른 문제점을 극복하기 위한 규범이다. 전 세계의 많은 기업과 정부 기관이 각자 나름의 AI 윤리를 제시하고 있다. 글로벌 기업인 구글, MS 등이 AI 윤리를 제정하고 관련 기술을 공개하였으며, 국내에서는 삼성, 네이버, 카카오 등이 AI 윤리를 발표하였다. 미국에서는 기업 중심으로 AI 윤리가 논의되는 데 반해, 유럽에서는 EU 차원에서 AI의 법제화가 논의되고 있다. 우리나라 정부도 지난해 과기정통부 주관으로 ‘AI 윤리 기준’을 제정하여 공개하였다.

사람 중심의 AI를 실천하는 SK텔레콤

SKT가 명문화된 AI 윤리를 가지고 있었던 것은 아니지만, 2018년부터 주관한 AI.X 행사의 “Man Machine Experience Together”와 같은 슬로건에서 볼 수 있듯이 AI 기술과 사람이 어떻게 공존할 수 있는지에 대한 고민을 해오고 있었다. 또한, 사회적 가치 제고를 위해 노인을 위한 ‘인공지능돌봄 서비스’나 코로나 안전지수를 제공하는 ‘safecaster’와 같은 AI 서비스를 출시하는 등 사람 중심의 AI 중요성은 늘 강조해 왔다.

이러한 AI 기술에 대한 이해와 인식을 정리한 것이 SKT의 ‘AI 추구가치’이다. 기존의 AI 윤리가 AI의 한계와 보완할 사항을 나열한 것이라면, SKT의 ‘AI 추구가치’는 아직 계속 발전하고 있는 AI 기술을 활용하여 고객에게 제공할 수 있는 가치를 먼저 고민하겠다는 의미를 담았다. SKT가 지향하는 AI 추구가치를 함축하여 담은 것이 ‘사람 중심의 AI, 함께 공존하면 더 높은 곳을 향합니다’라는 슬로건이다. AI가 사람을 대체하는 것이 아니라 사람을 도와주고 이롭게 하는 것을 목적으로 한다는 의미이다. 90년대 SKT 광고 카피인 ‘사람을 향합니다’도 기술의 궁극적인 목적인 사람을 이롭게 한다는 점을 강조해왔고, AI에서도 그 뜻이 이어지고 있다.

AI 추구가치는 7개 핵심 가치로 구성되어 있다. 사회적 가치, 무해성, 기술 안정성, 공정성, 투명성, 사생활 보호, 지속혁신인데, 특히 사회적 가치, 기술 안정성, 지속혁신은 SKT가 차별적으로 제공하고자 하는 가치이다.

사회적 가치는 SK그룹에서 지향하는 핵심가치이다. 소셜 딜레마에서 소개된 AI 기술은 기업 이윤의 극대화를 목적 함수로 설정했다면, SKT의 ‘인공지능 돌봄 서비스’는 선하고 이로운 사회적 가치를 실현하는 데 AI 기술을 활용하고 있다.

기술 안정성은 AI 서비스의 안정성을 이동통신 인프라 수준으로 달성하는 것을 목적으로 한다. 이동통신 인프라는 언제 어디서나 통신 서비스를 제공함으로써 고객의 신뢰를 쌓아왔다. 향후 초연결(Hyper connectivity)로 통신 인프라 고도화에 맞춰, AI 기술도 미션 크리티컬(mission critical)*한 응용에서 활용하기 위해서는 AI 서비스와 시스템도 이동통신 인프라와 같은 수준의 안정성을 제공해야 한다.
*미션 크리티컬: 업무 수행을 위하여 가장 중요한(필수 불가결한) 요소

지속혁신은 외부 파트너와의 협력, 오픈 이노베이션을 통해 기술을 고도화하는 것을 목적으로 한다. AI 기술이 빠르게 발전하고, AI 학습을 위해 사용되는 데이터와 컴퓨팅 인프라의 규모가 계속 커지고 있는 상황에서, 하나의 회사가 모든 것을 개발하는 것은 불가능하며 지속 할 수 없다. 열린 자세로 파트너와 함께 기술과 서비스의 수준을 높여나가야 한다.

무해성, 사생활 보호, 공정성, 투명성은 실천적이고 구체적인 규범 항목이다. 무해성은 AI서비스가 신체적, 정신적 피해를 주지 말아야 한다는 것이다. 혐오 발언이나 욕설 등이 대표적인 사례이다. 공정성은 특정 집단에 편향된 결과를 내거나 차별을 해서는 안 된다는 것이다. 외국에서는 인종 차별 사례가 문제가 되고 있다. 우리나라는 성별, 장애 관련한 차별 금지법이 제정되어 있어 특히 주의가 필요하다. 사생활 보호는 개인 정보를 보호하는 것이다. ‘이루다’ 사례에서 살펴보면 전화번호나 이름이 노출된 점이 과징금 부과의 주된 사유였다. 사생활 보호는 법적인 규제가 많은 영역이므로 특히 유념해야 한다. 마지막으로, 투명성은 고객에게 AI 시스템의 동작에 대해서 충분히 이해시킴으로써 신뢰를 얻는 것으로, 무해성과 공정성, 사생활 보호와 같은 다른 추구가치의 실행을 위한 전제 조건이라고 볼 수 있다.

AI 추구가치를 선언한다고 AI가 야기할 수 있는 모든 문제를 제거할 수 있는 것은 아니다. AI 추구가치를 체화하고 실천하는 것이 더 중요하다. 이를 위해 SKT는 국내 기술 및 법무 전문가로 구성된 AI 윤리 자문단을 운영하여 외부의 시각으로 실천 방안을 점검하고 외부의 목소리를 반영하고 있다. 두 번에 걸친 AI 윤리 공개 웨비나를 통해 AI 최신 동향과 쟁점을 파악하고, 이해를 높이는 노력을 해왔다. 또한, AI 추구가치를 업무에 녹여내기 위해서, 사규에 반영하고 개발 프로세스에 적용했다. SKT의 AI 추구가치는 전사공통규정 기획관리 항목으로 사규에 전문이 반영되어 있다.

SKT에서 출시하는 AI 서비스에 AI 추구가치를 적용하기 위해 Product Lifecycle Management(PLM) 시스템 반영에 사용하는 가이드라인과 체크리스트 개발을 마쳤고 현재 검증을 진행 중이다. 또한, Risk Management(RM) 체계에도 AI 윤리 관련 항목이 반영되어 관련 이슈가 발생할 때 즉시 대응할 수 있는 체계를 갖추었다.

AI 추구가치의 전망

앞으로 AI가 우리 생활에 더 많이 사용되리라는 것에는 이견이 없다. AI 윤리에 대한 중요성 및 고객의 권리/사업자의 책임이 커지면서 AI 기술은 계속 발전해 나갈 것이다. 한편으로는 AI 관련 법안이 EU뿐 아니라 국내에서도 발의 되어 AI 윤리가 법적 규제 형태로 발전할 가능성도 높은 상태이다. 이미, 과기정통부는 작년 12월, AI 윤리 기준을 수립하고 이를 정부, 공공기관, 기업, 이용자 등 모든 사회구성원이 인공지능 개발과 활용 전 단계에서 함께 지켜야 할 주요 원칙과 핵심 요건을 제시한 바 있다.

이러한 가능성에 대비해 현재 구축된 AI 추구가치나 PLM 프로세스상의 체크리스트로는 충분하지 않다. 기술적 조치와 관리적 조치를 지속해서 고도화할 필요가 있다. 이미 리눅스 재단과 같은 국제 기구에서는 Trusted AI(신뢰할 수 있는 AI)와 같은 프로그램을 발표하고 관련 개발 도구를 제공하고 있다. MS, 구글, IBM 등의 글로벌 기업은 AI 윤리와 관련한 자동화 도구를 오픈 소스 또는 상용 도구로써 제공하기 시작했다. 이제 AI 윤리는 규범에서 벗어나, 기술 도구로서 개발 현장에 더욱 밀접하게 스며들고 있는 상황이다. SKT는 개발자들이 AI 관련 이슈를 점검하고 해결하기 위한 도구를 효과적으로 활용하는 방안을 모색할 예정이다.

맹자가 만일 시장에 머물렀다면 당대의 장사꾼으로 컸을지도 모르지만, 인과 의를 주장한 사상가로 지금까지 존경받고 있다. SKT도 AI 추구가치를 시작으로 세상을 이롭게 하고 고객의 사랑을 받을 수 있는 AI 서비스를 제공하기 위해 계속 노력해 나갈 것이다.