Anthropic 首席执行官达里奥·阿莫代伊重申,公司致力于负责任地开发 AI。周四,Anthropic 在华尔街首次亮相,完成了史上规模最大的首次公开募股。在纳斯达克开盘钟声敲响前的演讲中,阿莫代伊誓言,这家 AI 公司不会屈从于商业或政治压力,并将继续由人类掌控。在业界持续担忧 AI 安全风险之际,阿莫代伊此前曾在 9 月提出一项计划,主张与其他领先公司协调制定安全标准,以此把控 AI 开发节奏。
阿莫代伊称个人丧亲经历促使其探索 AI 医疗应用
阿莫代伊照着打印稿发表演讲,他首先谈到 Anthropic 的创立初衷:打造强大的技术来造福人类。他表示,父亲因一种几年后便可治愈的疾病去世,这段经历启发了他。他承认,人类智慧已让瘟疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史,但在其他疾病领域,科学家仍然太少,时间也太有限,难以取得进展。阿莫代伊表示,AI 可以与人类协同工作,推动医学进步,从而提供帮助。他指出,生物学和医学众多领域的科学家发现,Claude 能帮助他们开展研究,所需时间仅为几年前完成同样研究所需时间的一小部分。
业界领袖认同 9 月安全计划
9 月,阿莫代伊提出了一项把控 AI 开发节奏的计划,其中包括与其他领先公司协调制定安全标准,并邀请第三方组织的评估人员参与,以核实公司是否履行了安全承诺。OpenAI 首席执行官萨姆·阿尔特曼、Google DeepMind 负责人德米斯·哈萨比斯以及 xAI 所有者马斯克表示认同阿莫代伊的立场,不过,各方几乎没有作出具体承诺。周四的演讲中,阿莫代伊再次强调,推进 AI 技术的同时也必须保障安全。他提到,AI 落入不法分子手中会带来非常现实的风险,这些行为者可能是个人,也可能是民族国家;此外,还可能引发经济动荡,或导致人类失去对 AI 系统的控制。
Anthropic 承诺把控 AI 训练与部署节奏
阿莫代伊表示,Anthropic 认为,只要落实了保障措施,这些风险就可以避免。他说,公司将继续投入 AI 对齐和测试工作,并开发新的方法来理解 AI 行为,以便让 AI 始终处于人类掌控之下。阿莫代伊在演讲结尾明确表示,Anthropic 将把控 AI 系统的训练和部署节奏,并在确信系统安全且会始终处于人类掌控之下之前,不惜花费必要的时间。他的妹妹、Anthropic 联合创始人丹妮拉·阿莫代伊周四接受 CNBC 采访时也表达了类似观点。她指出,尽管风险确实存在,但 AI 的前景同样令人惊叹,公司坚定致力于安全。
常见问题
Anthropic 周四宣布了什么?
Anthropic 周四在华尔街首次亮相,完成了史上规模最大的首次公开募股。首席执行官达里奥·阿莫代伊在纳斯达克开盘钟声敲响前发表演讲,重申公司致力于负责任地开发 AI。
阿莫代伊在 9 月提出了什么安全计划?
9 月,阿莫代伊提出了一项把控 AI 开发节奏的计划,其中包括与其他领先公司协调制定安全标准,并邀请第三方组织的评估人员参与,以核实公司是否履行了安全承诺。
哪些 AI 业界领袖认同阿莫代伊的安全理念?
OpenAI 首席执行官萨姆·阿尔特曼、Google DeepMind 负责人德米斯·哈萨比斯以及 xAI 所有者马斯克表示,他们认同阿莫代伊关于把控 AI 开发节奏的立场,不过,各方几乎没有作出具体承诺。