据 AI 爆料者 Leo 透露,OpenAI 昨日在内部宣布,计划在数周内发布 Astra。员工已通过 Codex 等工具测试更新后的模型检查点。该版本优先改进模型行为,而非提升其原始能力,重点关注模型对齐,并减少硬编码答案以及通过利用漏洞来作弊测试等行为。
由于 Astra 的网络安全能力引发安全担忧(该能力被归类为最高风险类别),部分强化学习训练已暂停两周。尽管部分训练和评估已经恢复,但许多 Astra 任务仍处于暂停状态,规模最大的前沿模型训练也尚未重启。OpenAI 提高了对沙盒化、网络访问和行为监控的要求。