단가가 90% 싸졌는데 지출은 왜 안 줄었나

AI 사용료가 3년 만에 90% 넘게 떨어졌다는 자료를 보고, 그러면 기업들 지출도 줄었겠거니 했다. 아니었다. 이유를 찾다 보니 1865년에 이미 같은 현상이 관찰돼 있었다.

당연해 보이지만 실무에서 자주 뒤섞이는 구분부터 짚습니다.

총비용 = 단가 × 사용량

단가가 반으로 떨어져도 사용량이 세 배가 되면 총비용은 1.5배로 늘어납니다. 단가는 분명히 개선됐는데 지출 명세서의 숫자는 커집니다.

여기에 한 겹이 더 있습니다. 우리가 정말 사는 것은 투입물이 아니라 완료된 결과라는 점입니다.

싼 재료를 썼는데 자꾸 실패해서 세 번 다시 만들었다면, 재료비는 아꼈지만 제품 하나당 원가는 더 비쌉니다. 세 번째 기준이 필요한 이유입니다.

이 현상에는 오래된 이름이 있습니다. 영국 경제학자 윌리엄 스탠리 제번스가 1865년 저서에서 제기한 문제입니다.

당시 영국은 증기기관의 효율이 크게 개선되던 시기였습니다. 같은 일을 하는 데 필요한 석탄이 줄었으니, 자연히 석탄 소비도 줄 것으로 기대됐습니다.

결과는 반대였습니다. 석탄 소비는 오히려 급증했습니다.

이유는 단순했습니다. 효율이 좋아지자 증기기관을 쓰는 것이 경제적으로 말이 되는 곳이 늘어났습니다. 예전에는 수지가 안 맞아 엄두를 못 내던 공장·광산·철도에까지 기관이 들어갔습니다. 한 대당 석탄은 줄었지만 기관의 수가 훨씬 더 늘어난 것입니다.

이것을 제번스 역설이라고 부릅니다. 정리하면 이렇습니다.

• 효율 개선 → 단위 비용 하락 → 쓸 수 있는 용도가 넓어짐 → 총 소비 증가
• 수요가 가격에 민감할수록 이 반동이 커집니다. 비싸서 못 하던 일이 많았을수록 특히 그렇습니다.

모든 효율 개선이 이렇게 되지는 않습니다. 이미 쓸 만큼 쓰고 있던 분야라면 절감이 그대로 절감으로 남습니다. 관건은 가격이 내려갔을 때 새로 열리는 수요가 얼마나 되느냐입니다.

AI 사용료는 처리한 글의 조각 수를 기준으로 매겨집니다. 이 조각을 토큰이라 부르고, 요금은 보통 100만 토큰당 얼마로 표시됩니다.

단가 하락 폭은 상당합니다. GPT-4가 처음 공개된 2023년 3월 요금은 100만 토큰당 입력 30달러, 출력 60달러였습니다. 이후 같은 수준의 성능을 훨씬 낮은 값에 쓸 수 있게 됐고, 하락 폭은 90%를 훌쩍 넘습니다.

그렇다면 기업들의 AI 지출도 90% 줄었을까요. 그렇지 않았습니다. 이유가 제번스 역설과 정확히 겹칩니다.

특히 두 번째와 세 번째가 큽니다. 최근의 방식은 답을 내놓기 전 내부적으로 여러 경로를 검토하는데, 이 과정에서 토큰을 훨씬 많이 씁니다. 한 번이 싸지자 더 길게, 더 여러 번 생각시키는 쪽으로 사용이 옮겨간 것입니다.

단가가 10분의 1이 되어도 한 작업에 쓰는 토큰이 20배가 되면, 그 작업의 비용은 오히려 두 배가 됩니다. 증기기관과 같은 구조입니다.

단가로는 상황을 설명할 수 없게 되자, 업계에서 쓰이기 시작한 기준이 "쓸 만한 품질로 작업 하나를 끝내는 데 든 비용"입니다. 성공한 작업당 비용, 지불한 돈당 얻은 성능 같은 표현으로 불립니다.

이 기준으로 보면 직관과 어긋나는 결과가 자주 나옵니다.

• 토큰 단가가 싼 모델이 자꾸 틀려서 여러 번 다시 시키고 사람이 손봐야 한다면 → 작업당 비용은 비쌈
• 토큰 단가가 비싼 모델이 한 번에 정확히 끝낸다면 → 작업당 비용은 오히려 쌈

즉 단가가 싼 것과 저렴하게 일을 끝내는 것은 다른 이야기입니다. 재시도 횟수, 사람의 검수 시간, 실패했을 때의 대가까지 넣어야 비교가 됩니다.

이 지표가 중요한 이유는 따로 있습니다. 측정 방식이 바뀌면 무엇이 경쟁력인지도 바뀌기 때문입니다.

성능 좋은 모델을 누구나 비슷한 값에 쓸 수 있게 되면, 모델을 쓴다는 사실 자체는 차별점이 되지 못합니다. 그때 갈리는 것은 같은 일을 얼마에 끝내는가입니다.

여기서 원가 구조가 나뉩니다.

뒤쪽 방식을 흔히 모델 라우팅이라 부릅니다. 요청의 난이도·사용자 등급·예산 한도에 따라 처리할 모델을 골라 보내고, 확신이 부족할 때만 더 강한 모델로 넘기는 식입니다.

이 구조가 성립하려면 측정이 먼저여야 합니다. 어느 모델이 어떤 일에서 몇 번 만에 성공했고, 재시도가 얼마나 났고, 실제로 얼마가 나갔는지를 알아야 다음 요청을 어디로 보낼지 정할 수 있습니다. 그래서 비용을 추적하는 일 자체가 하나의 역할이 됩니다.

정리하면 층이 세 개입니다. 모델을 만드는 층, 어디로 보낼지 정하는 층, 결과와 비용을 재는 층. 단가가 평준화될수록 아래 두 층의 몫이 커집니다.

다만 여기서 조심할 대목이 있습니다. 이런 기능이 회사 전체 실적에서 차지하는 비중은 대개 공개되지 않습니다. 서사가 그럴듯하다고 해서 그 서사가 실적으로 얼마나 들어오는지는 별개의 문제입니다.

원가가 빠르게 떨어지는 산업을 볼 때 점검할 항목으로 정리합니다. AI만이 아니라 태양광·배터리·물류·클라우드처럼 단위 비용이 계단식으로 내려간 분야에 같은 방식으로 적용됩니다.

• 단가 하락을 곧바로 비용 절감으로 읽지 마세요. 총비용은 단가 × 사용량입니다. 사용량이 어떻게 변했는지를 같이 봐야 합니다.
• 새로 열리는 수요가 있는지 보세요. 비싸서 못 하던 일이 많았던 분야일수록 절감분이 소비 증가로 되돌아갑니다. 이미 충분히 쓰던 분야라면 절감이 절감으로 남습니다.
• 결과당 비용으로 환산해 보세요. 실패율과 재작업, 사람이 손보는 시간까지 넣어야 실제 비교가 됩니다. 투입물 단가만 보면 자주 뒤집힙니다.
• 공급자가 아니라 사용자 쪽도 보세요. 원가가 내려가면 그 자원을 파는 쪽보다 싸게 쓰는 법을 아는 쪽의 마진이 개선되는 경우가 많습니다.
• 서사와 실적의 거리를 확인하세요. "이 흐름의 수혜자"라는 설명이 맞더라도, 해당 사업이 매출에서 차지하는 비중이 작으면 주가에 이미 반영된 기대가 실적보다 앞서 있을 수 있습니다.
• 효율 개선이 언제 절감으로 남는지 구분하세요. 수요가 가격에 둔감해지는 지점, 즉 쓸 만큼 다 쓰게 된 뒤부터는 단가 하락이 그대로 이익이 됩니다. 그 전환 시점이 관전 포인트입니다.

제번스가 본 것은 석탄이었지만 구조는 그대로 반복됩니다. 싸지면 더 쓴다. 그래서 원가 하락 뉴스를 볼 때 먼저 던질 질문은 "얼마나 싸졌나"가 아니라 "싸져서 무엇을 더 하게 됐나"입니다.

※ 본 콘텐츠는 공개된 자료를 바탕으로 정리한 정보 제공용 글이며, 특정 종목의 매수·매도를 권유하지 않습니다. 인용된 가격 정보는 작성 시점 기준으로 이후 변동될 수 있습니다.

• AI 사용료의 단가는 3년 만에 90% 넘게 떨어졌습니다. 그런데 기업들의 AI 지출은 줄지 않았습니다.
• 싸지면 더 많이 쓰기 때문입니다. 효율 개선이 소비를 늘려 절감분을 상쇄하는 이 현상은 1865년에 이미 관찰됐습니다.
• 그래서 경쟁의 축이 "얼마나 싼 걸 쓰나"에서 "같은 일을 얼마에 끝내나"로 옮겨가고 있습니다.

이 구조는 AI에만 있는 것이 아닙니다. 원가가 급락하는 산업을 볼 때 단가 하락을 곧바로 비용 절감으로 읽으면 어긋나는 이유를 정리합니다.