根据灰度研究主管 Zach Pandl 10 月 8 日的说法,更低的人工智能成本将推动计算需求激增,因为成本下降会促使人工智能智能体得到更广泛的采用。Pandl 指出,人工智能智能体会执行多步骤工作流以实现目标,其代币消耗量显著高于聊天机器人:单个任务所需的代币量可能是一次典型聊天互动的 5 到 50 倍。相关例子包括 Anthropic 最新的 Sonnet 模型,该模型将每项任务的成本降低最多 30%;以及 OpenAI 于 9 月 29 日推出的智能体,这些智能体会持续围绕用户目标运行。
Pandl 援引高盛的预测表示,到 2030 年,代币消耗量可能增加 24 倍,主要由智能体的采用推动。即使效率得到提升,使用量的增长也可能超过效率改进幅度,从而维持高企的计算需求。电力、数据中心和 GPU 等实体基础设施需要较长的交付周期,因此尽管成本下降,仍可能出现供应短缺。CoreWeave 近期签订的高价计算合约表明,市场供应紧张。