순식간에, 기업용 소프트웨어 청구서의 예측 가능했던 잔잔한 물결은 광적이고 패닉에 빠진 포효로 타락했다. 정말 오래되지 않은 과거에는 연간 라이선스와 다년 계약이 CFO들에게 축복받은 안정감을 제공했다. 재무팀은 실제로 무언가를 예측할 수 있었다. 혼란스러운 괴물인 클라우드 컴퓨팅조차도 조달 및 재무팀이 간신히 통제할 수 있는 패턴으로 어느 정도 정착되었다. 그런데 지금은? 이제 우리는 AI를 맞이했다. 그리고 AI에 대해 예측 가능한 유일한 것은 누구도 예상했던 것보다 더 많은 비용이 들 것이라는 점이다.
거대한 AI의 분리
기업용 AI의 초기 제안은 효율성에 관한 것이었다. 더 나은 통찰력, 더 빠른 프로세스, 그런 이야기들 말이다. 그리고 한동안은 그렇게 느껴졌다. 그러던 중 뭔가 사악한 일이 벌어졌다. 기술팀은, 그들의 비범한 기술력에도 불구하고 재정적 감각은 부족했지만, 토큰화라는 것을 발견했다. 갑자기, 모든 쿼리, 기계에 대한 모든 속삭임에 가격표가 붙었다. 그리고 그 가격은 결코 작지 않았다.
이것은 소프트웨어 좌석의 깔끔하고 제한된 비용이 아니었다. 아니, 이것은 새로운 기능, 고급 모델, 조금 더 복잡한 프롬프트마다 새로운 소비의 물결을 일으키는 히드라처럼 여러 머리를 가진 괴물이다. 마치 대화당 단어당 지불하는 것과 같지만, 대화는 결코 잠들지 않고 항상 더 많은 데이터, 그리고 더 많은 예산을 원하는 슈퍼컴퓨터와의 대화와 같다.
‘최대화’가 목표가 될 때
기업용 소프트웨어의 원래 전제는 가치와 예측 가능한 지출을 고정하는 것이었다. 매주 정해진 가격으로 보장된 빵 한 덩이를 사는 것으로 생각하면 된다. 이제 AI와 함께라면, 잘린 빵 도마에서 떨어지는 모든 빵 부스러기에 대해 비용을 지불하는 것에 가깝다. 기술팀은 모든 AI 서비스에서 최대한의 가치를 얻으려는 노력 속에서, 의식적이든 무의식적이든, AI 토큰 최대화라고밖에 묘사할 수 없는 행위에 참여하고 있다. 그들은 경계를 넓히고, 더 복잡한 모델을 실행하며, 더 많은 출력을 생성한다. 왜냐하면, 글쎄, 도구가 있으니까. 그리고 청구 시스템은, 그 디지털 심장으로, 계속 돌아가고 있다.
이것은 고의적인 악의에 관한 것이 아니다. 그것은 잘못된 인센티브에 관한 것이다. 엔지니어는 가능한 최고의 AI 성능을 원한다. CFO는 다음 분기에 이것이 실제로 얼마가 들지 알고 싶어 한다. 이 두 가지 욕구는 현재 서로 다른 우편번호에 존재한다.
“연간 라이선스, 다년 계약 및 좌석 기반 가격 책정 모델은 재무팀이 합리적인 정확도로 예측할 수 있는 안정적인 비용 구조를 만들었습니다. 모든 변동성에도 불구하고 클라우드 컴퓨팅조차도 결국 조달 및 재무팀이 모델링할 수 있는 패턴으로 정착되었습니다.”
여기서 아이러니는 제대로 관리되지 않은 쿠버네티스 클러스터보다 더 두껍다. 우리는 고정 비용에서 가변 비용으로 클라우드와 함께 이동했는데, 이는 관리 가능했다. 이제 우리는 거의 무한하고, 세분화되어 측정되며, 솔직히 말해서 종종 불투명한 비용의 세계에 살고 있다. 마치 눈을 깜빡일 때마다 계기판이 재설정되는 전기 요금을 예산으로 책정하려는 것과 같다.
이것이 새로운 정상인가?
진짜 문제는? 이것은 버그가 아니다. 현재 AI 경제의 특징이다. 기업들은 소비를 중심으로 가격 모델을 구축하고 있다. 왜냐하면, 글쎄, 기본 AI 인프라 가격이 종종 그렇게 책정되기 때문이다. 그들이 반드시 누군가를 속이는 것은 아니다. 그저 최종 사용자 재무 부서에 블랙홀처럼 느껴지는 모델 위에 비즈니스를 구축하고 있을 뿐이다.
우리가 목격하는 것은 최첨단 기술과 기업 재무의 평범한 현실 사이의 불가피한 충돌이다. 기술은 혁신과 야망에 힘입어 앞으로 질주하는 반면, 재무팀은 스프레드시트와 커져가는 두려움으로 무장한 채 뒤처져 기어간다. 이것은 단지 일시적인 고통점이 아니다. 이것은 인공지능 시대에 기업이 기술을 예산하고 관리하는 방식에 대한 근본적인 도전이다.
솔직히 말해서, 우리는 이 AI 혁명의 진정한 비용을 이제 막 이해하기 시작한 것 같다. 초기 열정은 대차대조표에 대한 차갑고 딱딱한 시선으로 바뀌고 있다. CFO들은 IT 비용보다는 몸값 요구서처럼 보이는 청구서를 손에 든 채 남겨진다.
CFO는 무엇을 해야 할까?
쉬운 대답? 두 손을 들어라. 현명한 대답? 더 나은 것을 요구하기 시작하라. 이것은 근본적인 변화를 요구한다. 이는 기술팀이 소비에 대해 책임을 져야 함을 의미한다. 이는 공급업체가 더 예측 가능한 가격 모델, 비용을 제한하는 계층별 패키지 또는 실제로 의미 있는 대량 할인을 제공해야 함을 의미한다. 이는 인프라 비용이 더 투명한 오픈소스 AI 모델을 탐색하는 것을 의미할 수도 있다.
변화가 없다면, 우리는 AI 채택이 자체적인 재정적 영향에 의해 질식하는 미래를 보게 될 것이다. 기업들은 이러한 강력한 도구를 통합하는 것을 망설일 것이다. 왜냐하면 통제 불능 비용의 위험이 너무 높기 때문이다. 그리고 그것은, 친구들이여, 진정한 수치일 것이다.
🧬 관련 인사이트
자주 묻는 질문
CFO에게 ‘AI 토큰 최대화’는 무엇을 의미하는가?
이는 기술팀이 ‘토큰’(AI가 처리하는 데이터 단위) 소비를 최대화하는 방식으로 AI 서비스를 사용하고 있음을 의미하며, 이는 기업에 예측 불가능하고 잠재적으로 과도한 비용을 초래한다. CFO들은 이러한 지출을 예측하는 데 어려움을 겪는다.
AI 비용은 결국 예측 가능해질까?
결국에는 그렇다. 시장이 성숙함에 따라 더 표준화된 가격 책정, 계층별 구독 모델, AI 지출을 모니터링하고 관리하기 위한 더 나은 도구를 보게 될 것이다. 하지만 지금은 와일드 웨스트다.
기업은 AI 지출을 어떻게 통제할 수 있는가?
기업은 더 엄격한 AI 거버넌스를 구현하고, 명확한 사용 정책을 수립하며, 기술팀이 비용 효율성에 기반하여 AI 모델 선택을 정당화하도록 요구하고, 공급업체에 더 투명하고 예측 가능한 가격 구조를 압박해야 한다.
