에임인텔리전스(AIM Intelligence) 유상윤 대표

SK텔레콤은 글로벌 AI 시장을 이끌기 위해 AI 스타트업 엑셀러레이터 프로그램 등을 진행하며, 스타트업 성장지원 및 사업 협력을 통한 AI 신사업 발굴 활동을 이어가고 있다. 뉴스룸에서는 AI동행 시리즈를 통해 SKT와 협력하며 AI 생태계 확장을 함께하는 혁신적인 AI 스타트업과 그 기술을 소개하고 있다. 생성형 AI 보안 기술 스타트업 ‘에임인텔리전스(AIM Intelligence)’를 소개한다.

*본 글은 다른 회사의 의견을 포함하고 있으며, SK텔레콤의 공식 입장과 다를 수 있습니다.

산업 현장의 AI를 위한 최선의 보안 대책을 제공, 에임인텔리전스

에임인텔리전스는 AI를 위한 안전 및 보안 솔루션을 개발하는 기업이다. 헬스케어, 금융, AI 에이전트 등 다양한 분야에서 AI 시스템이 윤리적이고 책임감 있게 작동하도록 돕는다. 특히, AI의 오용뿐만 아니라 AI 시스템에 대한 공격을 방어하고, 특정 산업에 맞춘 맞춤형 솔루션을 제공한다. 에임인텔리전스는 AI 레드팀* 플랫폼 ‘에임 레드(AIM Red)’와 AI 가드레일 솔루션 ‘에임 가드(AIM Guard)’를 개발했다.

*Red Team/Red Team-ing, AI 모델의 취약성과 편향성을 찾고 이에 대응하는 방법을 연구하는 일종의 보안팀 또는 활동. 화이트 해커(White Hacker)라고도 한다.

PreviousNext

‘에임 레드’는 AI 시스템의 안전성을 사전에 점검하여 취약점을 최소화하는 솔루션이다. 적대적 공격뿐만 아니라 다양한 시나리오와 유저 페르소나를 시뮬레이션해 AI의 잠재적 취약점을 탐색한다. 이를 통해 AI가 어떤 시나리오, 공격 방식 또는 특정 주제에 취약한지 정략적으로 파악할 수 있으며, 이 데이터는 이후 개선 및 방어 전략에 중요한 역할을 한다.

‘에임 가드’는 에임 레드의 진단 결과를 기반으로 AI 시스템에 맞춤형 방어 가드레일을 설정하는 솔루션이다. 기업 및 분야별 규제와 규정, 거버넌스를 커스터마이즈하여 적용할 수 있는 유연성을 제공하며, 예기치 못한 공격이 발생하더라도 실시간으로 대응할 수 있도록 설계됐다.

유상윤 대표는 AI 기술 도입의 가장 큰 걸림돌이자 허들을 ‘안정성’이라고 생각했다. 그는 “다양한 AI 서비스가 탄생하고 있지만, 안정성이 담보되지 않는다면 AI의 활용 범위는 제한될 수밖에 없다”며, “이 문제를 해결하면 더 많은 AI 기술이 확산하고, 사회와 산업의 발전에 기여할 수 있는 환경을 조성할 수 있겠다”는 신념으로 창업을 결심했다.

그 결과, 에임인텔리전스는 창업 1년도 채 되지 않아 SKT와 하나은행이 AI 신성장 영역 발굴을 위해 공동으로 추진한 ‘AI 스타트업 엑셀러레이터 2기’ 프로그램의 스타트업으로 선정[관련 글 보기]되었고, SKT와 협업을 진행했다. 또한, 국내외 주요 파운데이션 모델 개발사들과 협력하여 다양한 AI 모델의 안정성을 점검하는 작업에 참여하고, 안정성이 특히 중요한 금융 및 의료 분야에서도 협력을 확대해 나가고 있다.

유상윤 대표, “SKT의 지원과 협업 사례… 회사의 다음 단계 도약에 중요한 밑거름 돼”

Q. 에임인텔리전스 솔루션의 차별화된 강점은 무엇인가요?
에임인텔리전스의 가장 큰 차별화된 포인트는 실제 AI 산업 환경에 최적화된 안전 솔루션을 제공한다는 점입니다. 현재 시장에 출시되었거나 오픈소스로 제공되는 도구들은 학문적 연구에는 유용하지만, 실제 산업 현장에서 활용하기에는 한계가 있는 경우가 많습니다. 에임인텔리전스는 산업별로 맞춤화된 레드팀 솔루션(AIM Red)과 가드레일 솔루션(AIM Guard)을 통해 이러한 격차를 해소하고 있습니다.

Q. 2024년 7월 ‘AI 스타트업 엑셀러레이터’ 2기 선정 기업으로 선정되면서 SKT와의 인연이 시작되었습니다. 어떠한 지원을 받았고, 기억에 남는 일화를 소개해주세요.

지난 7월, AI 스타트업 엑셀러레이터 2기 스타트업 15개사 선정 및 발대식 행사에서 기념 사진을 촬영하고 있는 모습. 첫번째 줄 오른쪽에서 두 번째가 유상윤 대표

에임인텔리전스는 AI 스타트업 엑셀러레이터 2기에 선정되어 SKT와 협력을 시작했습니다. 이 프로그램을 통해 다양한 지원을 받았는데, 특히 코엑스 스파크플러스에 사무실을 지원받은 점은 초기 스타트업으로서 큰 도움이 되었습니다. 초기 스타트업에 꼭 필요한 창업 멘토링과 PR, IR 멘토링 또한 매우 유익했습니다. 이를 통해 언론 홍보를 진행하는 방법과 투자자들에게 회사의 가치를 효과적으로 전달하는 전략에 대해 많은 인사이트를 얻을 수 있었습니다.

SKT와의 협업은 현업 부서와의 실증 사업 연계로 이어져, 에임인텔리전스의 기술을 산업에 적용하고 확장할 수 있는 기회가 되었습니다. 이 경험은 에임인텔리전스가 다음 단계로 도약하는 중요한 밑거름이 되었습니다. 단순히 연결만 도와주신 것이 아니라 대기업과의 협업 방법부터 실제 업무까지 다방면으로 도와주시고 함께 고민해 주셨습니다. 특히, 많은 도움을 주신 이영건 부장님께 감사드린다는 말씀을 드리고 싶습니다.

Q. SKT와 함께 AI Care LLM 프로젝트를 수행했습니다. 해당 프로젝트에 대해 설명을 부탁 드립니다.
AI Care LLM 프로젝트는 SKT가 사회적 취약계층, 특히 노인분들을 대상으로 전화를 걸어 대화를 나누는 AI 서비스를 개발하는 과정에서 진행된 협업입니다. 에임인텔리전스는 이 서비스의 안전성을 강화하기 위해 유저 시뮬레이션 기반 레드티밍*을 수행했습니다.

*Red Team/Red Team-ing, AI 모델의 취약성과 편향성을 찾고 이에 대응하는 방법을 연구하는 일종의 보안팀 또는 활동. 화이트 해커(White Hacker)라고도 한다.

에임 레드(AIM Red)를 활용해 가장 빈번히 발생할 수 있는 대화 시나리오부터 최악의 대화 결과까지 시뮬레이션하며, 리스크 항목들을 식별했습니다. 여기에는 AI의 정치적 답변, 혐오 표현, 편향된 답변, 그리고 금전적 이익이나 구급차 호출과 같은 불가능한 약속이 포함되었습니다. 이를 통해 AI Care LLM 서비스는 사용자들에게 더욱 안정적인 AI 경험을 제공하기 위해 리스크를 정량화하고, 안전성과 신뢰성을 강화하는 단계를 거칠 수 있었습니다.

“AI가 안전하고 신뢰받는 기술이 되는 데 없어서는 안 될 핵심 회사 되고 싶어”

Q. 앞으로의 계획에 대해 말씀해 주세요.
에임인텔리전스는 앞으로 다양한 산업과의 협력을 확대하며 AI 안정성과 신뢰성을 강화하는 데 주력할 계획입니다. 특히, 금융과 의료처럼 안전성이 핵심적인 분야에서 맞춤형 레드티밍과 가드레일 솔루션을 제공하며, 해외 시장 진출도 준비 중입니다.

또한, AI 에이전트 시대에 대비해 안전 가이드라인과 솔루션 개발에도 주력할 예정입니다. 컴퓨터 조종에서 로봇에 탑재된 지능까지 AI를 더욱 안전하게 해주는 연구를 적극적으로 진행하고 있습니다. 현재 저희는 같이 비전을 실행해 나갈 인재를 채용 중입니다. 많은 관심과 지원 부탁드립니다.

Q. 이루고 싶은 최종 목표 또는 꿈이 무엇인지 궁금합니다.
AI가 우리의 삶을 완전히 바꿀 시대가 다가오고 있습니다. 그 변화 속에서 에임인텔리전스는 AI가 안전하고 신뢰받는 기술로 자리 잡는 데 없어서는 안 될 핵심 역할을 하는 회사로 자리매김하고 싶습니다.

대한민국은 AI 안전성 분야에서 이미 세계적으로 앞서가는 나라 중 하나입니다. AI 관련 법제화를 빠르게 진행한 국가 중 하나일 뿐만 아니라, 기업들과 국가 기관들의 가이드라인 수준 또한 결코 해외에 뒤처지지 않습니다. 에임인텔리전스는 한국이 이 분야에서 단순히 해외에서 만들어진 기준과 도구를 사용하는 데 그치지 않고, 글로벌 기준과 도구를 함께 만들어내는 주체가 될 수 있도록 기여하고자 합니다. 저와 에임인텔리전스가 AI 역사에 정말 중요한 역할을 남기는 것이 목표입니다.

AI동행자의 한마디
SK텔레콤 AI Startup Lab팀 이영건 매니저

 

에임인텔리전스는 생성형 AI 기반 다양한 AI 서비스의 안전성을 검증하는 혁신적인 솔루션과 역량을 보유하여 새로운 보안 시장을 개척 중이며, 생성형 AI 시장과 같이 성장이 기대되는 스타트업입니다.