据彭博社报道,OpenAI 首席科学家 Jakub Pachocki 警告称,AI 正在快速发展,变得越来越难以被人类理解和控制。目前的 AI 模型可以操作计算机,与人类和其他 AI 协作,并执行研究项目。Pachocki 预测,AI 实现“递归自我改进”——无需人类干预即可自我改进——的时刻正在临近。
Pachocki 表示:“这是一个需要极度谨慎的时刻。我担心没有人准备好应对机器智能持续快速的发展。”他表示,开发者可以进一步使 AI 与人类利益保持一致,或在必要时放缓发展速度,并且在建立统一的安全标准之前,AI 实验室应将自愿减速作为一种规范。