AI ROI 격차: 기업 69%가 쓴 돈만큼 성과를 못 본다
IDC 조사에서 기업 69%가 AI 지출과 재무 성과 사이에 큰 격차를 봤다. 비용은 오르고 요금은 사용량제로 바뀐다.

핵심 요약
- 시장조사기관 IDC의 2026년 AI 경제성·총소유비용 조사에서 응답 기업 69%가 "AI 지출과 측정 가능한 재무 성과 사이에 큰 격차가 있다"고 답했다. 지금까지 AI 투자 수익률(ROI) 100%를 넘긴 곳은 15%였다(IDC, 2026.10.20).
- 돈은 계속 들어간다. BCG 조사에서 IT 예산 중 AI 비중은 5%에서 17%로 세 배 넘게 커졌고, 미국 주요 언어모델의 평균 토큰 비용은 2025년 초 100만 개당 5달러 미만에서 2026년 20달러로 올랐다(BCG, 2026.10.2).
- 공급자는 요금 구조를 바꾸고 있다. 마이크로소프트는 12월 1일부터 새 코파일럿 비즈니스 라이선스에 사용량 과금을 기본으로 켜고, 사용자당 월 4,000 코파일럿 크레딧을 기본 한도로 둔다(마이크로소프트, 2026.10).
AI ROI 격차란 기업이 AI에 쓴 돈과 재무제표에서 확인되는 성과 사이의 차이를 말한다. 지난 1년 동안 이 격차는 조사 보고서 속 숫자에서 시장의 질문으로 바뀌었다. 10월 15일 코스피가 하루 7.57% 떨어진 날, 국내 보도는 미국 물가와 함께 "AI 투자가 그만큼 돈을 벌 수 있나"라는 의심을 원인으로 꼽았다(헤럴드경제, 2026.10.15). 이 글은 공급 쪽(데이터센터·칩) 대신 수요 쪽, 곧 AI를 사서 쓰는 기업의 장부를 본다.
AI ROI 격차, 조사마다 무엇을 쟀나
같은 '격차'라도 조사마다 묻는 방식이 다르다. 숫자를 나란히 놓기 전에 분모부터 확인해야 한다.
| 조사 | 대상(분모) | 수치 | 시점 | 출처 |
|---|---|---|---|---|
| AI 지출과 재무 성과 사이 큰 격차 | IDC 세계 AI 경제성·총소유비용 조사 응답 기업(표본 수 미공개) | 69% | 2026 | IDC |
| AI ROI 100% 초과 달성 | 같은 조사 응답 기업 | 15% | 2026 | IDC |
| 과도한 AI 비용을 큰 위험으로 꼽음 | IDC 별도 조사 응답 기업 | 73% | 2026.5 | IDC |
| 에이전트형 AI 배치 시작 / 전사 활용 | IDC 조사 응답 조직 | 80% / 17% | 2026 | IDC |
| IT 예산 중 AI 비중 | BCG 응용 AI 2026 조사 응답 기업(추정치) | 5% → 17% | 2026 | BCG |
| IT 밖에서 쓰는 AI 비용 | 같은 조사, 매출 대비 평균 | 매출의 2.8% | 2026 | BCG |
| 생성형 AI에서 측정 가능한 수익 없음 | MIT NANDA 예비 연구(인터뷰 52건, 설문 153명, 공개 사례 300여 건) | 95% | 2025.1~6 | The Register 보도 |
세 조사는 서로 다른 것을 쟀다. MIT NANDA의 95%는 2025년 상반기의 작은 예비 연구에서 나온 수치이고, 실패율이 아니라 '측정 가능한 수익이 보이지 않았다'는 뜻이다(The Register, 2025.8). IDC의 69%는 1년 뒤 기업들이 스스로 느끼는 간극이고, 15%는 이미 두 배 넘게 회수한 소수가 있다는 증거다. 둘을 합쳐 읽으면 그림이 달라진다. '아무도 못 번다'에서 '일부는 벌고 다수는 아직 증명하지 못한다'로 옮겨 왔다.
왜 비용은 오르는데 성과는 안 잡히나
첫째, 단가가 내려간다는 통념과 달리 청구서는 커졌다. BCG는 미국 주요 언어모델의 평균 토큰 비용이 100만 개당 5달러 미만에서 20달러로 올랐다고 적었다. 더 똑똑한 모델이 더 긴 추론을 하면서 한 번의 작업이 쓰는 토큰이 늘었기 때문이다. BCG는 가격보다 '양'이 비용을 끌어올리는 주된 요인이 되고 있다고 봤다. 서버 가격도 2025년 대비 최대 80% 높은 수준에서 정점을 찍고 있다는 가트너 추정을 인용했다.
둘째, 돈이 IT 예산 밖으로 샌다. BCG 조사에서 기업은 매출의 평균 3.3%를 전사 IT에, 그와 별개로 2.8%를 IT 밖 부서의 AI 사업에 쓰고 있었다. 마케팅·영업·법무가 각자 AI 도구를 사면 누구도 전체 비용과 전체 성과를 한 장부에 적지 않는다. IDC 조사에서 AI 예산 결정에 CIO·CTO(63%), 사업 부문 임원(62%), CFO(61%)가 거의 같은 비율로 관여한다고 나온 것도 같은 풍경이다.
셋째, 성과의 대부분은 기술 밖에서 나온다. BCG는 경험상 AI 가치의 약 10%가 기술, 20%가 데이터와 알고리즘, 70%가 사람·프로세스·운영 모델의 변화에서 나온다고 정리했다. 도구를 깔고 일하는 방식을 그대로 두면, 아낀 시간이 회의와 확인 작업으로 다시 채워지고 비용 절감으로 남지 않는다. IDC가 "에이전트형 AI는 기존 디지털 전환 지표로는 가치를 증명하기 어렵다"고 지적한 것도 이 지점이다.
요금이 좌석에서 사용량으로 넘어가면
공급자도 이 간극을 안다. 그리고 해법으로 요금 구조를 바꾸고 있다. 마이크로소프트는 12월 1일부터 CSP(파트너 재판매) 경로로 새로 사는 마이크로소프트 365 코파일럿 비즈니스 라이선스에 사용량 과금을 기본으로 켠다. 원래 11월 2일이던 시점을 한 달 미뤘다. 일상적인 채팅과 오피스 기능은 사용자당 정액 라이선스에 남고, 코파일럿 코워크·워크 IQ API·깃허브 코파일럿 하네스 같은 에이전트형 작업은 쓴 만큼 청구된다. 기본 한도는 사용자당 월 4,000 크레딧이어서, 직원 100명인 회사는 기본 설정만으로 월 40만 크레딧까지 쓸 수 있다(마이크로소프트 파트너 센터). 한국은 첫 적용 시장에서 빠졌다.
좌석 요금이 흔들리는 흐름은 SaaS 좌석 요금은 끝나는가에서 다뤘다. 이번 변화의 의미는 위험의 이동이다. 정액제에서는 공급자가 '많이 쓰는 고객'의 비용을 떠안았다. 사용량제에서는 그 위험이 구매자에게 넘어온다. ROI를 증명하지 못한 채 사용량이 늘면, 격차는 줄지 않고 더 벌어진다. 고가 정액 요금제가 닫히는 이유를 짚은 200달러 AI 요금제가 닫히는 이유와 같은 방향의 움직임이다.
IDC 조사에서 구매자들이 꼽은 공급자 불만도 이를 뒷받침한다. 기존 시스템과의 통합 부족, 모델·데이터 투명성 부족, 종속 우려가 각각 34%, 과장된 약속과 불분명한 가격 모델이 각각 31%였다. 가격을 이해하지 못하는 상태에서 청구 방식이 바뀌는 셈이다.
우리 회사는 어디쯤인가: 상황별 점검
| 상황 | 먼저 볼 것 | 피할 것 |
|---|---|---|
| 부서마다 AI 도구를 따로 산다 | IT 안팎 AI 비용을 한 장부로 모으기 | 부서별 성공 사례만 모아 전사 ROI로 보고 |
| 에이전트 기능을 막 켜려 한다 | 작업 1건당 비용(크레딧·토큰)과 사람이 했을 때 비용 비교 | 기본 한도를 그대로 두고 첫 달 청구서를 기다리기 |
| 시간 절감은 보이는데 비용은 그대로다 | 아낀 시간이 어디로 갔는지(인력 재배치·업무 재설계) | 절감 시간을 그대로 비용 절감으로 계상 |
| ROI 100%를 넘긴 업무가 있다 | 그 업무의 조건(데이터 정리, 반복성, 책임자)을 다른 업무에 복제 | 성공한 도구를 다른 부서에 그대로 확산 |
BCG가 CIO에게 권한 기준은 '결과 1건당 비용'이다. 사용자 수나 토큰 수가 아니라, 처리한 계약서 한 건이나 해결한 문의 한 건에 AI와 사람이 합쳐 얼마를 썼는지를 본다. 사용량 과금 시대에는 이 단위가 없으면 비용이 언제 성과를 넘어서는지 알 수 없다.
인간에게 무엇이 달라지는가
AI 도입의 질문이 "써 봤나"에서 "얼마를 벌었나"로 바뀌면, 일하는 사람에게 요구되는 것도 달라진다. 지금까지는 AI를 잘 다루는 사람이 돋보였다. 앞으로는 AI가 한 일의 값을 계산하고, 쓸 곳과 쓰지 않을 곳을 고르는 사람이 필요해진다. 사용량 과금은 직원 한 명의 습관이 곧 회사 비용이 되는 구조다. 긴 추론을 습관처럼 돌리는 직원과 꼭 필요한 곳에만 쓰는 직원의 차이가 청구서에 찍힌다.
조직 안의 긴장도 커질 가능성이 크다. ROI 압박이 커지면 가장 쉬운 증명 방법은 인건비 절감이다. BCG가 "AI를 비용 절감 프로그램으로 다루지 말라"고 경고한 것은, 그 길이 단기 숫자는 만들어도 70%의 가치가 나오는 업무 재설계를 건너뛰게 만들기 때문이다. 일하는 사람 입장에서는 'AI 때문에 줄어드는 자리'보다 'AI 성과를 증명하라는 압박 때문에 줄어드는 자리'가 먼저 올 수 있다.
반론과 불확실성
격차가 크다는 것이 AI가 쓸모없다는 뜻은 아니다. 인터넷과 전산화도 생산성 통계에 잡히기까지 오랜 시간이 걸렸다. 응답 기업 15%가 이미 ROI 100%를 넘겼다는 것은, 조건만 맞으면 회수가 가능하다는 증거이기도 하다. IDC는 인프라 공급이 수요를 따라잡는 2029년 무렵 비용이 내려갈 것으로 본다.
조사 자체의 한계도 있다. IDC는 이번 공개 자료에서 표본 수와 조사 지역을 밝히지 않았다. 69%는 응답자의 인식이지 회계 감사 결과가 아니다. BCG의 예산 비중도 응답자 추정치다. 10월 15일 주가 급락 역시 미국 9월 소비자물가 상승률 3.7%라는 거시 변수와 겹쳐 있어, AI 수익성 의심만의 효과로 떼어 낼 수 없다. 네오클라우드 같은 인프라 업체의 부채 문제는 수요 기업의 ROI와는 다른 축의 위험이다.
PRISM AGENDA의 시각
우리는 AI ROI 격차를 거품의 증거보다 회계의 지연으로 읽는다. 기업은 AI를 '실험 예산'으로 샀고, 이제 그 영수증을 '운영 예산'의 기준으로 다시 읽기 시작했다. 2023년부터 쌓인 실험의 청구서가 2026년에 한꺼번에 도착한 것이다. 빅테크 AI 투자 1,000조 원이 공급 쪽의 숫자라면, 69%라는 숫자는 그 돈을 결국 갚아야 할 수요 쪽의 체온계다.
그래서 이 격차를 줄이는 쪽은 모델 성능보다 측정 능력을 가진 기업일 가능성이 크다. 결과 1건당 비용을 재지 못하는 회사는 사용량 과금 앞에서 두 가지 중 하나를 고르게 된다. 한도를 낮춰 AI를 덜 쓰거나, 사람을 줄여 숫자를 맞추거나. 둘 다 AI의 가치를 끌어내는 길이 아니다. 우리는 이번 조사가 기업에 던진 진짜 과제가 'AI를 더 사라'가 아니라 '일을 다시 설계하고 그 결과를 재라'라고 본다.
다음 질문
- 사용량 과금이 기본이 된 뒤 첫 분기, 기업들은 한도를 올릴까 내릴까. 마이크로소프트가 한국에 이 과금을 적용하는 시점은 언제일까.
- ROI 100%를 넘긴 15%의 기업에는 어떤 공통 조건이 있나. 업종인가, 데이터 정리 수준인가, 조직 구조인가.
- 함께 읽기: SaaS 좌석 요금은 끝나는가, AI 스타트업 투자 현황 2026
- AI 산업 카테고리의 다른 글 보기



댓글
첫 댓글을 남겨 주세요.