GPT 学术每日简报GLOBAL AI · ACADEMIC DAILY BRIEF
2026-11-17 · 周二
数据截止:08:21(Asia/Shanghai)
6 个主题 · 1 篇研究

本期关注嵌入式安全评估方案;明确访问、披露与外部复核边界,不将评估计划视为已完成的安全验证。

📌 今日四项研究信号

  1. 1
    评估范围检查进入开发过程。本期收录一项安全评估方案,其余五板块暂无通过核验的新条目。
  2. 2
    证据阶段计划尚未给出结果。研究方案不能当作模型已经通过测试的证明。
  3. 3
    可复核性结论与公开证据有区别。披露受限可能影响外部复核。
  4. 4
    阅读重点留意无法回答的问题。后续报告应结合访问限制阅读。
1🧬AI for Science
  • 本期无通过核验的新条目
2🤖智能体与具身学习
  • 本期无通过核验的新条目
3🧠基础模型与多模态
  • 本期无通过核验的新条目
4⚙️训练推理与研究系统
  • 本期无通过核验的新条目
6📚开放研究与学术生态
  • 本期无通过核验的新条目

🧬 主题 1 · AI for Science

覆盖:科学预测 · 符号发现 · 科学数据

本期无通过核验的新条目。

🤖 主题 2 · 智能体与具身学习

覆盖:闭环控制 · 多智能体 · 潜在伙伴建模

本期无通过核验的新条目。

🧠 主题 3 · 基础模型与多模态

覆盖:基础模型 · 多模态学习 · 生成方法

本期无通过核验的新条目。

⚙️ 主题 4 · 训练推理与研究系统

覆盖:训练方法 · 推理效率 · 研究系统

本期无通过核验的新条目。

🔍 主题 5 · 评测、安全与可解释性

覆盖:评测方法 · 安全对齐 · 可解释性
Apollo 公布嵌入式评估试点:把检查延伸至训练与内部部署
研究评估方案
研究方案 安全评估 访问与披露边界 2026-11-16 · 方案公布
研究贡献Apollo计划派六名评估者进入OpenAI开展四个月试点,检查训练是否激励颠覆行为、评测能否诱发此类行为、内部部署是否出现此类行为,以及相关推理能否被检测。方法将开发方证据审查与独立取证结合,部分访问涵盖训练代码、数据、强化学习轨迹和中间检查点。
证据与局限这是评估设计,尚无试点实验结果或可比较基线。访问只覆盖约定模型、时段和主张;开发方仍可因技术、安全或知识产权理由拒绝部分信息。计划发布两份报告,结论不能仅因不利而被删除,但支撑证据可能被删减;公众未必能复核全部依据,亦无公开复现数据包。

研究价值在于公开评估的权限与披露条件,而非证明模型安全。Apollo明确表示本试点尚未满足其完整嵌入式评估标准;应关注后续报告揭示哪些问题无法评估,以及证据删减如何限制结论。

📚 主题 6 · 开放研究与学术生态

覆盖:研究诚信 · 文献资源 · 研究方法论

本期无通过核验的新条目。

6主题
1研究条目
1一手引用
0二手引用