OpenAI 将 ChatGPT 加载时间缩短 94%,741 轮对话在 1.66 秒内加载完成

据 Beating 报道,OpenAI 正在优化 ChatGPT 和 Codex 的长对话线程,并将于下周推出。对一个包含 741 轮、231 MB 的聊天会话进行的内部测试显示,平均加载时间从 27.62 秒降至 1.66 秒,缩短了 94%。该优化降低了数据加载开销:待处理的对话项目从 15,529 个降至 64 个,API 请求从 894 个降至 16 个,内存使用量的增幅减少了 41.2%。这解决了一个长期存在的问题:随着客户端处理海量消息历史记录,长时间运行的对话会逐渐变慢。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论