AI行业的关注点正在从技术可行性转向成本问题。Sam Altman指出，运行AI的成本已经从年初几乎无人讨论变成企业客户面前的重要问题。这使得生成式AI的商业化焦点迅速转向单位经济、预算约束和投资回报。
据AI媒体Fello AI报道，Altman在OpenAI于6月2日举办的企业客户活动上表示，今年初AI运行成本从未被提起，但目前已经成为企业采购和部署中的主要问题。他还透露，OpenAI最大客户之一每月消耗约1000亿个tokens，相当于750亿个单词。而六年前，最高使用者的月消耗量仅为10万个tokens。这一变化表明，单一顶级用户的使用规模已放大约100万倍。
这表明AI支出进入审查阶段，企业开始设置tokens上限、切换更便宜模型、采用智能路由。投资者需要关注的不仅是AI采用率，还包括推理成本、客户ROI和盈利路径。
Altman称，半年前企业客户几乎不担心AI花费，现在成本已成为重大问题。这意味着企业对AI的态度正从快速试用、扩大部署转向预算管理和效率评估。他提到，OpenAI单一最大客户每月消耗约1000亿个tokens，且公司外部还有人消耗更多tokens。
AI账单已从技术部门的数据变成企业预算问题。Peter Steinberger曾发布截图显示，30天内消耗6030亿个tokens，单月费用约130万美元。据报道，在他加入OpenAI后，公司承担了这笔账单。此外，一名OpenAI员工一周内消耗2100亿个tokens，McKinsey & Company作为客户也跨过每月1000亿个tokens的门槛。