불과 2025년 말까지만 해도 엔지니어링 리더들의 가장 큰 고민은 “어떻게 하면 팀이 AI 에이전트를 사용하게 할 것인가“였습니다.
그러나 6개월 뒤, 질문은 정반대로 바뀌었습니다. “예산을 전부 소진하기 전에 토큰 비용이 눈덩이처럼 불어나는 것을 어떻게 막을 것인가?” 이러한 변화는 방향의 전환인 동시에, 수치로 확인할 수 있는 과정의 결과이기도 합니다. AI 코딩 산업이 정액제 구독 모델에서 사용량 기반 과금으로 전환되면서 그동안 가려져 있던 기술의 실제 비용이 드러난 것입니다.
정액제 구독에서 사용량 기반 과금으로
GitHub Copilot은 이러한 변화를 상징적으로 보여줍니다. 2026년 6월 1일까지는 ‘Premium Request Units’(PRU)를 기준으로 요금이 책정되었습니다. 모델 요청마다 정해진 단위가 차감되고, 모델 성능에 따라 배수가 적용되는 방식이었습니다. 개발자가 실제로 얼마나 많은 토큰을 사용했는지와 관계없이 구독료 자체는 월 10~39달러의 정액제였습니다. 그러나 6월1일에 GitHub는 ‘AI Credits’ 시스템으로 전환했습니다.
이제 채팅, 에이전트 모드, 코드 리뷰와 관련된 모든 상호작용은 특정 모델의 가격표에 따라 실제 입력·출력·캐시 토큰 사용량을 기준으로 과금됩니다. 기본 구독료는 그대로지만 더 이상 지출의 상한선이 아니라 최소 지출액이 되었습니다. 코드 자동 완성과 Next Edit Suggestions만 무료로 무제한 제공되며, 나머지 모든 기능은 크레딧을 차감합니다.
GitHub Copilot의 변화는 개별 사례가 아니며, AI 코딩 시장 전체가 같은 방향으로 움직이고 있습니다. 이미 1년 전 Anthropic을 비롯한 모델 제공업체들은 투명한 토큰 기반 요금제로 전환했습니다. 실제 사용량을 ‘모든 것이 포함된’ 구독 상품 뒤에 감춰왔던 제품들에도 같은 방식이 적용되기 시작하면서, 많은 조직에는 예상하지 못한 부담으로 다가왔습니다.
또한 토큰 가격이 해마다 하락하면서 추론 자체의 비용은 오르지 않았지만, 그동안 보이지 않던 비용이 갑자기 드러났습니다. 분석가들에 따르면 2022년부터 2026년까지 토큰당 가격은 최대 280분의 1 수준으로 급락했지만, 기업의 전체 AI 코딩 비용은 계속 증가하고 있습니다. 에이전틱 워크플로는 일반적인 채팅 질의보다 작업당 5~30배 많은 토큰을 사용하기 때문입니다. 에이전트는 여러 차례 도구를 호출하고, 스스로 결과를 검증하며, 오류가 발생하면 단계를 다시 시도합니다. 게다가 어떤 경우에는 단순해 보이는 사소한 작업을 에이전트가 오랫동안 ‘고민’하면서, 비슷한 작업에 필요한 수준보다 훨씬 많은 토큰을 소모하기도 합니다.
실제로 얼마나 비쌀까?
현재 CFO와 엔지니어링 디렉터들 사이에서 공유되는 수치는 심각한 수준입니다. Gartner Peer Insights 설문조사에 따르면 기술 리더의 약 23%는 Claude Code, Cursor, OpenAI Codex 같은 AI 코딩 에이전트의 토큰 비용에만 개발자 1인당 매월 200~500달러(약 28~70만원)를 지출하고 있습니다.
2026년 6월 Gartner는 2028년이면 평균적인 개발자의 AI 코딩 비용이 해당 개발자의 급여를 넘어설 것이라고 전망했습니다(Gartner가 기준으로 삼은 월 급여는 약 2,000달러입니다). 일부 사례에서는 이미 현실이 되고 있습니다. Gartner의 전망이 발표된 바로 그날, 핀테크 스타트업 Slash의 한 직원에 관한 소식이 전해졌습니다. 회사가 공식적인 아키텍처 리뷰 없이 코드 생성을 실험하도록 장려하던 상황에서, 이 직원은 브라우저 게임을 ‘바이브 코딩’하는 데 단 일주일 만에 81,000달러가 넘는 토큰 비용을 지출했습니다.
대기업은 이와 같은 상황을 훨씬 큰 규모로 겪고 있습니다. Uber의 내부 경험에 관한 공개 자료를 보면, 약 5,000명의 개발자로 구성된 엔지니어링 조직에서 Claude Code 사용률이 불과 몇 달 만에 32%에서 84%로 급증했습니다. 2026년 4월에는 연간 AI 예산이 모두 소진되었으며, 엔지니어 1인당 월 비용은 500~2,000달러에 달했습니다. 업계 추산에 따르면 현재 추론 비용은 기업 AI 예산의 최대 85%를 차지합니다. 한편 FinOps Foundation은 AI 지출을 적극적으로 관리하는 조직의 비율이 2년 전 31%에서 현재 98%로 증가했다고 보고했습니다.
핵심 문제는 대부분의 기업이 기본적인 질문에 답할 수 있는 인프라조차 갖추지 못했다는 점입니다. 실제로 어떤 엔지니어가 에이전트를 사용하고 있는가? 그 지출은 결과에 비추어 정당한가? 경우에 따라서는 매월 10,000달러의 토큰 비용을 내는 것보다 직원을 한 명 더 채용하는 편이 비용 면에서 더 효율적이지 않은가? 수년간 정액제에 익숙했던 기업들은 실제 사용량을 파악할 수 없었습니다.
이는 우연이 아니라 의도된 제품 기능이었습니다. 이제 사용량 측정이 시작되면서, 에이전틱 도구의 관측 가능성이 업계가 오래전 클라우드 컴퓨팅에 확립한 기준보다 10배 이상 뒤처져 있다는 사실이 분명해졌습니다.
Gartner의 권고 사항
Gartner는 현재 상황을 AI 기반 코딩을 포기해야 할 이유가 아니라, 클라우드 FinOps와 유사한 관리 체계를 수립해야 한다는 신호로 보고 있습니다. 분석가들의 권고 사항은 다음과 같습니다.
자율성 수준에 따른 작업 분류
기업은 개발자의 업무를 사람이 수행하는 작업, ‘사람 + 에이전트’ 작업, 에이전트가 완전히 자율적으로 실행하는 작업의 세 가지 범주로 명확히 구분하고, 각 사례마다 프리미엄 모델의 비용이 타당한지 판단해야 합니다.
기본 설정이 아닌 비용을 기준으로 라우팅
최상위 모델과 저가형 모델의 입력 토큰 가격 차이는 현재 약 25배에 달하지만, 보일러플레이트 코드 생성, 리팩터링, 문서 업데이트 같은 일상적인 작업에서는 품질이 비슷합니다. 이러한 작업 대부분에는 플래그십 모델이 필요하지 않습니다.
엔지니어와 프로젝트별 투명성 확보
누가 어떤 목적으로 토큰을 사용하고 있는지 파악하지 못하면 비용을 최적화하거나 재무 부서에 이를 설명할 수 없습니다.
Gartner는 AI 코딩 도구 제공업체들이 아직 성숙한 내장형 비용 통제 기능을 제공하지 못하고 있으며, 그 결과 이 과제가 거의 전적으로 조직 자체에 맡겨져 있다고 지적합니다.
단일 벤더 의존에서 벗어나기
2026년에 나타난 두 번째 주목할 만한 변화는 오픈 웨이트 모델과 단일 벤더 의존에 대한 태도입니다. 불과 1년 또는 1년 반 전만 해도 대기업은 보안, 규제 준수, 출처의 불투명성에 대한 우려 때문에 오픈 웨이트 모델을 신중하게 바라봤습니다.
이제 관심은 “이러한 역량을 제공하는 모델과 벤더를 얼마나 유연하게 관리할 수 있는가?”로 이동했습니다. 변화를 이끄는 동기는 두 가지입니다.
① 순수하게 경제적인 이유: 오픈 웨이트 모델의 품질이 크게 향상되어 프런티어 시스템 수준에 근접한 반면, 백만 토큰당 비용은 오픈 모델이 최대 10배 저렴할 수 있습니다.
② 리스크 관리: 조직은 전체 개발 파이프라인이 단일 클라우드 제공업체에 의존하는 것을 원하지 않습니다. 장애와 다운타임에 대한 복원력뿐 아니라, 특정 연구소에서 최소 물량을 구매하도록 강제하는 계약 조건도 문제가 되기 때문입니다.
동시에 모델의 지리적 출처도 기술 평가와 함께 조달 결정의 핵심 요인이 되었습니다.
DeepSeek, Alibaba의 Qwen 시리즈, Zhipu AI의 GLM, Moonshot AI의 Kimi 같은 중국 오픈 웨이트 모델은 훨씬 낮은 추론 비용으로 프런티어에 가까운 품질을 제공합니다. 일부 추정에 따르면 미국 AI 스타트업의 약 80%가 프로덕션 스택의 어딘가에서 이미 하나 이상의 중국 오픈소스 모델을 사용하고 있습니다. 그러나 규제 산업, 정부 계약, GDPR과 같은 의무 규정의 적용을 받는 기업에서는 데이터가 물리적으로 어디에 저장되는지, 어느 국가의 데이터 접근법이 적용되는지와 같은 관할권 문제가 가격과 벤치마크 성능보다 더 중요하게 작용하는 경우가 많습니다.
이로 인해 Nvidia의 Nemotron이나 Mistral 모델처럼 미국과 유럽에서 개발된 모델에 대한 실질적인 수요가 생겨나고 있습니다. 반드시 품질이 더 뛰어나서가 아니라, 관할권 문제를 해결할 수 있기 때문입니다. 소버린 클라우드 배포 방식도 등장하고 있습니다.
vLLM을 활용한 온프레미스 구축과 소버린 제공업체의 호스팅부터 양자화된 오픈 모델을 실행하는 격리된 에어갭 클러스터까지 형태도 다양합니다. 요컨대 조달팀은 특정 모델을 단순히 선택하기보다 법적 장애물을 없앨 수 있는 배포 방식을 점점 더 우선하고 있습니다.
토큰만이 유일한 수단은 아니다
프롬프트 최적화나 더 저렴한 모델 선택을 넘어, 세 번째로 확산되고 있는 변화는 애초에 작업을 LLM으로 처리해야 할 필요 자체를 줄이는 것입니다. 이는 SonarQube, Qodana, CIFuzz처럼 기존 시스템의 마이그레이션과 현대화를 위한 독립형 제품으로 존재해 온 결정론적 코드 분석 및 검색 도구를 MCP 프로토콜과 결합해, AI 에이전트가 일반적인 도구처럼 직접 호출할 수 있도록 하는 방식입니다. 논리는 간단합니다. 정확한 코드베이스 검색이나 구조적 의존성 분석처럼 작업의 일부를 전용 기능으로 처리해 모델이 추측하는 데 토큰을 낭비하지 않을 수 있다면, 품질 저하 없이 같은 작업에 훨씬 저렴한 모델을 사용할 수 있습니다.
이는 복잡도에 따라 작업을 라우팅하라는 Gartner의 권고와도 일치합니다. 에이전트가 신뢰할 수 있는 외부 도구에 접근할 수 있다면, 직접 계산할 수 있는 작업에 값비싼 추론 토큰을 낭비할 필요가 없습니다.
팀에 미치는 영향
토큰과 모델에 관한 논의의 바탕에는 아직 합의된 답이 없는 더 근본적인 질문이 있습니다. 에이전트 기반 개발이 엔지니어링 팀의 구조 자체를 어떻게 바꾸는가에 대한 질문입니다. 한 명의 개발자가 여러 에이전트를 동시에 실행하고, IDE와 CLI 사이에서 세션을 이동하며, 전체 업무 흐름을 위임하는 모든 요인은 예산뿐 아니라 인력 수요와 구체적인 역할까지 변화시킵니다. Gartner가 2027년까지 AI 에이전트 프로젝트의 최대 40%가 기술적 실패가 아닌 경제적 요인으로 취소될 것이라고 전망한 점은 시사하는 바가 큽니다. 파일럿 단계의 기대와 프로덕션 규모의 경제성 사이의 격차는 대부분의 조직이 예상했던 것보다 훨씬 컸습니다.
마무리
어떤 연구소나 벤더도 AI 에이전트 비용 관리 문제를 완전히 해결했다고 말하기는 어렵고, 아직 모든 조직에 적용할 수 있는 보편적인 지침도 없습니다. 다만 새로운 관리 체계의 방향은 점차 분명해지고 있습니다. 엔지니어와 프로젝트별 사용량을 투명하게 파악하고, 작업의 복잡도와 비용에 따라 적절한 모델과 도구를 선택하는 체계를 마련해야 합니다. 결국 AI 코딩의 경쟁력은 더 많은 코드를 생성하는 데서 끝나는 것이 아니라, 그 과정과 비용을 얼마나 효율적으로 관리할 수 있는지에 달려 있습니다.
