Y Combinator 这家创业加速器的首席执行官 Garry Tan 在 Y Combinator 年度 Demo Day 上表示,他对 AI 模型蒸馏“什么也不会做”。Tan 发表上述言论之际,硅谷巨头和国家安全专家呼吁采取行动,打击被指控通过蒸馏复制 AI 技术的中国公司。蒸馏涉及利用先进 AI 模型的输出训练更小的模型,有时属于非法行为,并已成为前沿模型开发商 OpenAI 和 Anthropic 主要担忧的问题,两家公司均指控中国企业实施了这一做法。
Anthropic 和 OpenAI 指控中国公司进行模型蒸馏
Anthropic 指控中国公司 Moonshot AI、DeepSeek 和 MiniMax 进行模型蒸馏。OpenAI 认为,DeepSeek 的 V3 和 R1 模型架构是从其自身的 GPT-4 和 GPT-4o 模型蒸馏而来。周二,美国国家安全局、网络安全与基础设施安全局以及联邦调查局发布了一份关于这一问题的官方网络安全公告。
批评者反驳了这些关于蒸馏的指控,因为用于训练 AI 模型的大量数据可能受版权法保护。2023 年,《纽约时报》起诉 OpenAI 和微软,指控其未经授权将该报文章用于模型训练数据。一批图书作者于 2025 年就类似指控与 Anthropic 就一宗诉讼达成和解。
Tan 倡导开放权重模型,而非限制模型蒸馏
Tan 对 CNBC 的 Kate Rooney 表示:“我对蒸馏什么也不会做。”“我们可以争论是否应建立美国的蒸馏监管制度。”Tan 认为,只要前沿模型保持足够的溢价,使其商业模式能够持续,监管机构就应减少对遏制蒸馏的关注,转而更多地致力于在开放权重模型和前沿模型之间建立平衡。
Tan 解释道:“这实际上是理想情况。你希望开放权重模型赋予人们自由和访问权。”“如果我是监管机构,这就是我会着手处理的事情。”Tan 承认这种平衡“如走钢丝一般”,但表示这“可能带来最好的结果”。
Anthropic 因担忧生物武器研究而阻止访问 Claude
Tan 倡导采取克制的 AI 安全方针,而近期与 Anthropic 研究员 Jacob Coxon 辞职相关的新闻,导致公众对 AI 生存风险的担忧达到历史新高。Tan 表示:“我们需要关注科学事实,而不是科幻小说。”“我们需要针对当下正在发生的事情作出回应。”
周四,Anthropic 报告称,该公司阻止了五起涉及来自未指明外国的科学家、且其利用这些模型研究危险病原体的案例。Anthropic 担心这些研究人员正在秘密利用 Claude 制造生物武器。Tan 认为网络安全是迫在眉睫的风险,同时将 AI 相关的失业视为长期转型问题,并表示这“需要数十年时间才能真正渗透到社会中”。
Y Combinator 在 Demo Day 大举押注 AI 初创公司
在 Demo Day 上展示项目的 196 家初创公司中,有 149 家被归类为机器学习和 AI 企业。尽管围绕模型蒸馏和安全问题的争论仍在持续,Tan 的言论反映出 Y Combinator 仍在持续投资 AI。
常见问题
什么是 AI 模型蒸馏,为什么存在争议?
蒸馏是利用能力更强的 AI 模型的输出训练规模更小或能力较弱的模型的过程,有时属于非法行为。Anthropic 指控中国公司 Moonshot AI、DeepSeek 和 MiniMax 实施了这一做法,而 OpenAI 认为 DeepSeek 的 V3 和 R1 模型是从其 GPT-4 和 GPT-4o 模型蒸馏而来。批评者指出,大量训练数据可能已经受到版权法保护。
Garry Tan 对监管 AI 蒸馏有何看法?
Tan 在 Y Combinator 年度 Demo Day 上表示,他对蒸馏“什么也不会做”。他认为,只要前沿模型保持足够的溢价,使其商业模式能够持续,监管机构就应专注于在开放权重模型和前沿模型之间建立平衡,而不是遏制蒸馏。
Anthropic 为什么在周四阻止 Claude 访问?
周四,Anthropic 报告称,该公司阻止了五起涉及来自未指明外国的科学家、且其利用这些模型研究危险病原体的案例。Anthropic 担心这些研究人员正在秘密利用 Claude 制造生物武器。