Anthropic 首席执行官在纳斯达克首次公开募股亮相之际重申对 AI 安全的承诺

NDAQ-0.15%

关键要点

  • Anthropic 于周四完成了史上规模最大的首次公开募股,首席执行官达里奥·阿莫代伊承诺,公司不会在商业或政治压力下牺牲 AI 安全。
  • 阿莫代伊在纳斯达克发表演讲时表示,Anthropic 承诺控制 AI 训练和部署的节奏,并花必要的时间确保系统始终处于人类控制之下。
  • OpenAI 首席执行官萨姆·阿尔特曼、Google DeepMind 负责人德米斯·哈萨比斯和 xAI 所有者马斯克赞同 Anthropic 于 9 月提出的全行业安全协调及第三方评估机构。

Anthropic 首席执行官达里奥·阿莫代伊重申,公司致力于负责任地开发 AI。周四,Anthropic 在华尔街首次亮相,完成了史上规模最大的首次公开募股。在纳斯达克开盘钟声敲响前的演讲中,阿莫代伊誓言,这家 AI 公司不会屈从于商业或政治压力,并将继续由人类掌控。在业界持续担忧 AI 安全风险之际,阿莫代伊此前曾在 9 月提出一项计划,主张与其他领先公司协调制定安全标准,以此把控 AI 开发节奏。

阿莫代伊称个人丧亲经历促使其探索 AI 医疗应用

阿莫代伊照着打印稿发表演讲,他首先谈到 Anthropic 的创立初衷:打造强大的技术来造福人类。他表示,父亲因一种几年后便可治愈的疾病去世,这段经历启发了他。他承认,人类智慧已让瘟疫、天花和脊髓灰质炎等疾病在世界大部分地区成为历史,但在其他疾病领域,科学家仍然太少,时间也太有限,难以取得进展。阿莫代伊表示,AI 可以与人类协同工作,推动医学进步,从而提供帮助。他指出,生物学和医学众多领域的科学家发现,Claude 能帮助他们开展研究,所需时间仅为几年前完成同样研究所需时间的一小部分。

业界领袖认同 9 月安全计划

9 月,阿莫代伊提出了一项把控 AI 开发节奏的计划,其中包括与其他领先公司协调制定安全标准,并邀请第三方组织的评估人员参与,以核实公司是否履行了安全承诺。OpenAI 首席执行官萨姆·阿尔特曼、Google DeepMind 负责人德米斯·哈萨比斯以及 xAI 所有者马斯克表示认同阿莫代伊的立场,不过,各方几乎没有作出具体承诺。周四的演讲中,阿莫代伊再次强调,推进 AI 技术的同时也必须保障安全。他提到,AI 落入不法分子手中会带来非常现实的风险,这些行为者可能是个人,也可能是民族国家;此外,还可能引发经济动荡,或导致人类失去对 AI 系统的控制。

Anthropic 承诺把控 AI 训练与部署节奏

阿莫代伊表示,Anthropic 认为,只要落实了保障措施,这些风险就可以避免。他说,公司将继续投入 AI 对齐和测试工作,并开发新的方法来理解 AI 行为,以便让 AI 始终处于人类掌控之下。阿莫代伊在演讲结尾明确表示,Anthropic 将把控 AI 系统的训练和部署节奏,并在确信系统安全且会始终处于人类掌控之下之前,不惜花费必要的时间。他的妹妹、Anthropic 联合创始人丹妮拉·阿莫代伊周四接受 CNBC 采访时也表达了类似观点。她指出,尽管风险确实存在,但 AI 的前景同样令人惊叹,公司坚定致力于安全。

常见问题

Anthropic 周四宣布了什么? Anthropic 周四在华尔街首次亮相,完成了史上规模最大的首次公开募股。首席执行官达里奥·阿莫代伊在纳斯达克开盘钟声敲响前发表演讲,重申公司致力于负责任地开发 AI。

阿莫代伊在 9 月提出了什么安全计划? 9 月,阿莫代伊提出了一项把控 AI 开发节奏的计划,其中包括与其他领先公司协调制定安全标准,并邀请第三方组织的评估人员参与,以核实公司是否履行了安全承诺。

哪些 AI 业界领袖认同阿莫代伊的安全理念? OpenAI 首席执行官萨姆·阿尔特曼、Google DeepMind 负责人德米斯·哈萨比斯以及 xAI 所有者马斯克表示,他们认同阿莫代伊关于把控 AI 开发节奏的立场,不过,各方几乎没有作出具体承诺。

免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明。
评论
0/400
暂无评论