包括 OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、Geoffrey Hinton 和 Yoshua Bengio 在内的 20 多名人工智能领域高管和研究人员周一发表了一篇论文,敦促各国政府为人工智能开始加速自身发展的可能性做好准备。这可能会将数年的进展压缩到数月之内。
Anthrophe 本月早些时候表示,在人类监督下,Claude 目前已主导其人工智能研发工作约 26%,而今年年初这一比例几乎为零。该论文呼吁提高人工智能研究自动化的透明度,开展独立评估,并建立必要时能够放缓或限制其发展的机制。