[CBC뉴스] 인공지능(AI) 도입이 빠르게 확산하는 가운데 급증하는 비용 부담이 기업의 AI 활용을 가로막는 핵심 변수로 떠오르고 있다. 오는 2028년에는 전 세계 기업과 기관 5곳 중 1곳이 비용 문제로 AI 활용을 중단할 것이란 전망도 나왔다.
16일 글로벌 시장조사기관 가트너에 따르면 2028년까지 전 세계 조직의 20%가 AI 비용을 제대로 통제하지 못해 업무에서 AI 활용을 포기하고 기존 소프트웨어 개발 방식으로 돌아갈 것으로 예상된다. 투자 대비 효과가 낮은 업무를 중심으로 AI 적용을 축소하거나 기존 시스템으로 대체하는 움직임이 나타날 수 있다는 분석이다.
AI 시장의 비용 구조도 달라지고 있다. 주요 개발사들이 시장 선점을 위해 무료 또는 저가 서비스를 제공하던 초기와 달리 최근 대규모언어모델(LLM) 시장은 소수 업체 중심으로 재편되는 양상이다.
요금 체계 역시 정액제에서 사용량에 따라 비용이 늘어나는 종량제 방식으로 빠르게 이동하고 있다. AI 사용량이 늘수록 기업 입장에서는 최종 비용을 예측하고 관리하기가 어려워지는 구조다.
실제 기업 현장에서는 AI 비용 통제 움직임이 나타나고 있다. 마이크로소프트(MS)는 올해 5월 수천 명의 내부 직원에게 제공하던 클로드 코드 라이선스를 중단하고 자사 깃허브 코파일럿으로 전환했다.
우버는 올해 초 엔지니어 5천명에게 AI 코딩 도구 활용을 적극 장려했지만 연간 예산을 4개월 만에 소진했다. 이후 직원 한 명당 월 사용 한도를 약 1천500달러로 제한했다.
기업들의 예산 초과도 잇따르고 있다. 맥킨지가 지난 5월 주요 5개 산업의 기업 75곳을 대상으로 진행한 AI 핀옵스(FinOps) 조사에서는 응답 기업의 93%가 AI 예산을 초과한 것으로 나타났다.
특히 스스로 작업을 수행하는 에이전트형 AI는 비용 부담이 상대적으로 크다. 전체 비용 가운데 약 60%가 최초 추론이 아닌 결과를 수정하고 보완하는 반복 작업에서 발생하는 것으로 분석됐다.
에이전트형 AI는 같은 업무를 수행할 때 일반 챗봇보다 최대 30배 많은 토큰을 사용할 수 있다. 결과가 기준을 충족하지 못해 작업을 다시 수행하면 전체 맥락을 재처리하면서 토큰 소비량이 최대 50배까지 증가할 수 있다.
가트너는 이 같은 시장 변화를 토대로 향후 AI 이용 비용이 지금보다 낮아지기 어려울 것으로 내다봤다.
이에 따라 기업의 AI 경쟁력도 단순한 도입 규모보다 비용 관리 능력에 의해 좌우될 가능성이 커지고 있다.
가트너는 대응 방안으로 ‘AI 핀옵스’를 제시했다. AI 사용량과 지출, 성과를 지속적으로 관리해 불필요한 비용을 줄이고 투자 효율을 높이는 방식이다.
업무별로 적합한 AI 모델을 선택하고 필요 이상의 긴 답변이나 연산을 줄이는 등 운영 방식도 비용 대비 성과 중심으로 바꿀 필요가 있다는 설명이다.
AI 업계 관계자는 “그동안에는 AI를 얼마나 빠르고 폭넓게 도입하느냐가 경쟁력으로 여겨졌지만 비용 부담이 본격화하면서 상황이 달라지고 있다”며 “앞으로는 실질적인 생산성 향상이 가능한 업무를 선별해 AI를 적용하는 전략이 중요해질 것”이라고 말했다.
AI 비용 상승이 기업 간 격차를 확대할 수 있다는 우려도 나온다. 고성능 프론티어 모델의 높은 비용 구조가 지속될 경우 충분한 자본을 갖춘 대기업이나 일부 산업에 AI 활용이 집중될 가능성이 있기 때문이다.
★ 네티즌 어워즈 투표하러 가기 ▶
★ 전 세계 팬덤의 결집, cbcglobe.com ▶
★ 돈돈돈, 남몰래 혼자 보는 – 돈 되는 뉴스 ▶
▮ CBC뉴스ㅣCBCNEWS 하영수 기자
