根据一篇于 2026 年 10 月 21 日提交、并被 EMNLP 2026 接收的论文,Google DeepMind 和宾夕法尼亚大学开发出一种方法,使 AI 文本检测器变得透明且可解释。研究人员使用稀疏自编码器,将不透明的神经网络决策转化为人类可读的概念,在分布内数据上取得了 96.8% 的 F1 分数,而传统黑箱检测器为 98.0%。对于分布外文本,可解释模型的表现显著优于基线模型,得分分别为 92.2% 和 75.2%。
这种方法弥补了 AI 在教育、同行评审和内容审核领域部署中的一个关键缺口,因为系统决策会直接影响个人。审核人员不再只能听到“这是 AI 写的”,而是可以查看影响检测器判断的具体概念,从而提出异议并追究责任。代码和训练好的模型已在 GitHub 上通过 google-deepmind/detectorscope 仓库公开。