AI 토큰 단가는 낮아졌지만 토큰 사용량은 급증하면서 기업의 AI 비용은 오히려 커지고 있다. 이에 따라 토큰 사용을 최적화하고, 투입 비용 대비 성과를 높이는 것이 국내외 기업의 주요 과제로 떠오르고 있다. 강정수 블루닷에이아이 AI연구센터장의 칼럼을 통해 AI 시대의 새로운 경제 질서인 ‘토큰 이코노미’의 의미를 짚고, 이러한 변화에 대응하는 SK텔레콤의 전략을 살펴봤다.
*본 콘텐츠는 외부 전문가 칼럼으로, SK텔레콤의 공식 입장과 다를 수 있습니다.

지난 9월 오픈AI는 새 AI 모델 ‘GPT-6 Sol’을 출시하면서 기업이 AI를 자사 서비스에 연결해 쓸 때 내는 요금(API 이용료)을 이전 모델 GPT-5.6 Sol 대비 50% 낮췄다. AI가 같은 양의 글을 읽고 답하는 데 드는 단위 비용이 절반 수준으로 내려간 것이다. 언뜻 보기엔 AI를 쓰는데 드는 비용은 더 낮아질 것으로 예상할 수 있다.
하지만 AI 사용에 대한 기업의 청구서는 오히려 기존보다 늘고 있다. AI 가격이 저렴해질수록 그 동안 비용 때문에 포기했던 높은 난이도의 업무를 비롯해 훨씬 더 많은 일들이 AI에게 맡겨지기 때문이다.
미국 금융회사 시타델 시큐리티즈는 2026년 10월 발표한 ‘토크노믹스 2.0(Tokenomics 2.0)’에서 흥미로운 숫자를 제시했다. 여러 AI 이용 데이터를 분석한 결과, 최근 6개월 동안 사용량을 반영한 토큰 가격은 약 50% 하락한 반면 토큰 처리량은 약 5배 증가한 것이다. 이 숫자가 AI 시장 전체를 대표하는 것은 아니겠지만, 변화의 방향은 뚜렷하다. AI를 한 번 쓰는 가격은 떨어지고, AI가 처리하는 일의 양은 폭발적으로 늘어나고 있는 것이다.
변화의 중심에는 바로 토큰(token)이 있다. 토큰은 AI가 글과 정보를 잘게 나눠 읽고 답을 만들 때 사용하는 처리 단위다. 질문을 길게 쓰거나 많은 문서를 읽히면 토큰 사용량이 늘어난다. 답변을 작성할 때도 토큰이 필요하다. 전기요금에 사용량을 세는 단위가 있듯, AI 산업에는 토큰이 사용량을 가늠하는 중요한 단위로 자리 잡았다. 하지만 전기를 많이 썼다고 좋은 제품을 만들었다고 할 수 없듯이 토큰을 많이 썼다고 좋은 일을 했다는 뜻은 아니다.
AI 에이전트가 바꿔놓은 계산법
사람들이 과거 생성형 AI를 사용하기 시작했을 때는 질문 하나에 답 하나를 받는 것이 대부분이었다. 주로 단순 검색의 목적으로 AI가 활용되었던 것이다.
하지만 지금 사람들이 AI에게 요구하는 수준은 훨씬 더 복잡하고 어렵다. ‘지난달 고객 불만을 분석하고 개선안을 제시해 줘’라고 말하면 AI 에이전트는 상담 기록을 읽고, 유형을 나누고, 관련 규정을 찾아보고, 보고서를 작성한다. 중간에 정보가 부족하면 다시 검색하고, 결과가 어긋나면 작업을 반복한다. 사람은 한 번의 지시를 했지만, 그 안에서 수많은 AI 호출이 이루어진다.
따라서 토큰 가격이 내려가는 것과 총 비용이 줄어드는 것은 별개다. 한 번 처리하는 비용이 절반으로 줄어도 처리 횟수가 열 배가 되면 청구서는 다섯 배로 커진다. 따라서 기업이 고민해야 할 것은 ‘토큰 하나의 비용’이 아니다. ‘문제 하나를 해결하는 데 총 얼마가 들었는가’, ‘결과를 다시 수정하는 데 얼마나 시간을 썼는가’가 더 중요한 포인트다.
토큰 사용량이 늘어나는 더 중요한 이유는 AI가 한 가지 일을 처리하는 데 더 많은 토큰을 쓰기 때문만은 아니다. 과거에는 비용이 맞지 않아 맡기기 어려웠던 일들을 이제는 AI에게 맡길 수 있기 때문이다.
월마트에는 10만 곳이 넘는 공급업체가 있지만, 작은 거래까지 직원이 일일이 가격과 지급 조건을 협상하기에는 비용이 너무 컸다. 이제 월마트는 AI 협상 시스템으로 이런 업체들과 개별 협상을 진행한다. AI가 기존 협상을 더 빨리 끝내는 데 그치지 않고, 예전에는 시도조차 하지 못했던 업무를 새로 맡는 것이다. 이런 일이 대규모로 늘어나면 업무 한 건의 AI 처리비용이 내려가도 전체 토큰 사용량은 증가하게 된다.
시타델 시큐리티즈는 이를 항공산업에 비유한다. 가장 성능이 뛰어난 AI 모델은 대형 항공사, 충분히 좋은 성능을 저렴하게 제공하는 개방형 모델은 저비용 항공사와 비슷하다. 항공사들이 가격 경쟁을 벌이면 항공권 가격이 내려간다. 항공권이 싸지니 여행객은 늘지만, 항공사의 이익은 오히려 줄어들 수 있다. 반면 항공편이 늘어날수록 공항의 가치는 커진다.

AI 산업도 비슷하다. 토큰 가격이 내려가는 동안 연산 자원을 제공하는 데이터센터와 클라우드의 중요성은 오히려 높아질 수 있다. AI 이용이 증가한다고 해서 AI 기업의 수익성도 반드시 좋아진다는 것은 아니라는 뜻이다.
여기에 또 하나의 문제가 있다. AI 모델이 판매하는 토큰의 가격은 떨어지지만, 토큰을 생산하는 데 필요한 GPU와 전력의 비용은 여전히 비싸다는 것이다. 시타델 시큐리티즈는 AI 연산 자원의 임대료가 오르는 동안 모델 판매 가격이 내려가면 AI 모델 공급자의 이익이 압박 받을 수 있다고 분석한다.
이익을 지키려면 같은 GPU로 더 많은 토큰을 처리해야 한다. 그래야 토큰 하나를 만드는 비용이 줄어들어 판매 가격을 낮춰도 이익을 남길 수 있다. 결국 AI 산업은 누가 가장 뛰어난 AI 모델을 만들었는지 뿐 아니라, 누가 저렴하고 안정적으로 운영할 수 있는지도 함께 고려해야 하는 산업으로 바뀌고 있다.
똑똑한 AI보다, 일에 맞는 AI
그렇다면 기업은 어떻게 대응해야 할까. 미국 통신사 AT&T의 사례가 눈에 띈다. AT&T는 2026년 7월 하루 평균 약 450억 개의 토큰을 사용한다고 밝혔다. 모든 업무에 비싸고 강력한 AI를 쓸 수는 없다. AT&T가 택한 방법은 요청의 난이도에 따라 적절한 AI 모델로 연결하는 ‘모델 라우팅(model routing)’이다. AT&T는 같은 대화 중에도 간단한 질문은 저렴한 모델에, 복잡한 질문은 성능이 높은 모델에 맡길 수 있도록 했다. AT&T는 이런 방식으로 일부 AI 업무에서 최대 90%까지 비용을 줄였다고 설명했다.
이는 무조건 저렴한 AI로 바꾸자는 이야기가 아니다. 고객 문의를 분류하거나 날짜를 추출하는 등의 비교적 간단한 일은 가벼운 모델로도 충분하다. 복잡한 계약 조건을 비교하거나 중요한 오류를 찾아야 할 때는 더 강력한 모델이 필요하다.
마이크로소프트의 파운드리도 비용, 품질, 균형 가운데 우선순위를 정해 AI 모델을 연결하는 기능을 제공한다. 핵심은 언제나 최고급 모델을 쓰는 것이 아니라, 일을 끝내는 데 필요한 품질을 가장 경제적으로 확보하는 것이다.
국내에서도 모델을 골라 쓰는 사례가 등장하고 있다. 카페24의 ‘LLM 라우터’는 여러 회사의 AI를 한 통로에서 연결하고, 작업에 따라 모델을 자동으로 선택하거나 장애가 생기면 다른 모델로 전환하도록 지원한다. 토큰 사용량과 원화 비용을 확인하는 기능도 제공한다. 그동안 기업이 어느 AI 모델을 구입할지 고민했다면, 이제는 업무의 성격에 따라 여러 모델을 어떻게 조합할지 고민하는 시대가 열리고 있다.
여기서 ‘효율’의 뜻도 달라진다. 저렴한 모델로 회의록을 100원에 만들었지만 사람이 30분 동안 고쳐야 했다면 어떨까. 반면 300원을 쓰고 만든 회의록은 결정 사항과 담당자까지 제대로 정리돼 추가작업 10분이면 마무리할 수 있다면? 토큰 비용만 보면 전자가 이겼다. 그러나 직원의 시간과 결과물까지 합치면 후자가 더 경제적일 수 있다.
이때 주목할 개념은 ‘토큰 대비 가치(Return on Token, ROT)’다. 투입한 토큰으로 ‘얼마나 많은 답변을 만들었는가’가 아니라, 그 답변으로 실제 업무가 ‘얼마나 개선됐는가’를 묻는 것이다. 고객 상담이라면 문의 건수보다 문제가 한 번에 해결된 비율이 중요하다. 개발이라면 AI가 만들어낸 코드의 줄 수보다 실제로 작동하는 기능과 줄어든 수정 시간이 중요하다. 토큰 사용량은 활동의 기록일 뿐, 그 자체로 성과표가 아니다.

그렇다면 기업은 토큰 소비를 측정하는 일을 멈춰야 할까? 측정은 여전히 필요하다. 왜냐하면 어떤 업무에 비용이 얼마나 드는지 알아야 그만한 성과를 거두고 있는지도 판단할 수 있기 때문이다.
일본의 머니포워드는 2026년 8월 여러 AI 도구의 사용량과 비용을 모델별 그리고 사용자별로 한눈에 보는 대시보드 서비스를 내놨다. 중요한 것은 대시보드 자체가 아니다. 지출이 많이 늘어난 부서를 발견했을 때 그 원인이 실제 업무 증가인지, 같은 일을 반복해서 처리한 탓인지를 물을 수 있게 된 것이다.
오픈AI 역시 기업이 AI 사용량과 비용뿐 아니라 어떤 작업에 AI를 쓰는지 살피는 분석 기능을 제공한다. 개발자가 AI 도움으로 만든 코드가 실제 업무에 얼마나 기여했는지도 확인하도록 한다. 숫자를 보여주는 기술과 좋은 성과를 판단하는 일 사이의 거리를 좁히려는 시도다. 결국 기업의 경영진은 ‘우리 회사가 토큰을 몇 억 개 썼는가’보다 ‘그래서 고객 응대 시간이 얼마나 줄었는가’를 살펴야 하는 것이다.
AI 서비스 이용료를 책정하는 방식 자체를 바꾼 기업도 있다. AI 기반 문서 서비스 민틀리파이는 지난 9월부터 AI가 작업을 완료할 때마다 정해진 요금을 부과하는 방식으로 전환했다. AI가 질문에 답하지 못하거나, 문서를 검토했지만 실제 수정할 내용이 없다면 요금을 받지 않는다. 토큰이 얼마나 들었는지는 AI 서비스를 제공하는 회사가 부담하는 몫이고, 고객이 실제로 얻은 일의 결과를 기준으로 비용을 책정한 것이다.
공급자의 원가와 고객이 느끼는 가치는 다르다. 토큰 이코노미가 단순한 비용 관리보다 훨씬 중요한 이유다.
SKT AX 혁신 2.0의 핵심… “편의에서 실용으로”

정재헌 SKT CEO가 10월 8일 열린 구성원 대상 타운홀에서 ‘SKT 성장 기어 전략’을 발표하는 모습.
이 점에서 SK텔레콤의 최근 움직임은 두 갈래로 읽을 수 있다. 하나는 AI가 오가는 길을 설계하는 일이다. SKT는 지난 10월 ‘성장 기어 전략’을 발표하며 고객의 AI 사용 패턴을 관리하고 적합한 AI 모델과 인프라로 연결하는 ‘토큰 게이트웨이’를 새로운 사업 방향으로 제시했다. 어떤 AI에 어떤 일을 맡길지 선택하는 능력이 AI 산업의 경쟁력이 될 수 있다는 판단이다.
다른 하나는 AI를 사용하는 조직 자체를 바꾸는 일이다. 11월 발표한 ‘AX 혁신 2.0’의 핵심은 ‘개인에서 조직으로, 편의에서 실용으로’다. 직원 한 명이 문서를 빨리 만드는 데 그치지 않고, 부서 간 자료가 오가고 판단이 이뤄지는 업무 흐름 전체를 AI에 맞게 다시 설계하겠다는 것이다. 막히는 지점이 데이터인지, 권한인지, 보안인지 찾아내 공동으로 해결하는 체계도 마련하고 있다.
지난 9월 ‘AI 시대의 선택과 기회’를 주제로 열린 서울대 특강에서 SKT 정재헌 CEO가 제시한 ‘AX의 J커브’는 이런 전환이 왜 어려운지 잘 보여준다. 한 개발자가 고객 요청에 따른 시스템 수정에 소요되는 시간은 원래 50시간이었다. 하지만 이를 AI 에이전트로 처리하도록 구축하는 데만 500시간이 넘게 들었다. 그러나 에이전트 구축이 완료되고 검증을 마친 뒤 실제 업무에 투입한 결과 업무 처리 시간은 50시간에서 1시간으로 줄었다.
이것이 바로 초기의 시행착오와 이후 이어지는 업무의 실제 성과를 함께 봐야 하는 이유다. 최근 SKT는 사내 AX 경진대회인 AX 스파크를 통해 악성앱 분석 에이전트가 업무 시간을 약 96% 줄였다는 사례도 공개했다. 중요한 것은 AI를 얼마나 자주 호출했느냐가 아니라 실제 업무에서 무엇이 달라졌느냐다.

물론 모든 AI 도입이 J커브를 그리며 성공하는 것은 아니다. 한 번 만든 자동화가 반복해서 쓰이고, 그 과정에서 얻은 경험이 다른 부서로 퍼질 때 비로소 투자한 시간과 비용의 의미가 달라진다. 그래서 AI 토큰 이코노미는 기업이 지출을 줄이는 기술인 동시에, 어떤 업무를 바꾸고 어디에 자원을 집중할지를 결정하는 경영상의 문제다.
AI 시대의 승부는 토큰을 가장 많이 소비하거나 가장 저렴하게 구매하는 데서만 결정되지 않는다. 같은 토큰으로 더 많은 고객 문제를 해결하고, 직원이 더 가치 있는 일에 집중하도록 일하는 방식을 바꾸는 기업이 앞서갈 것이다.
이제 기업의 AI 전략을 평가하는 질문도 ‘우리는 AI를 얼마나 사용하고 있는가’에서 ‘AI 덕분에 어떤 일을 더 잘 끝내고 있는가’로 바뀌어야 한다.
