OpenAI 如何检测前沿模型对齐偏差
OpenAI 采用分层监控来检测前沿模型的对齐偏差与未经授权的智能体行为。该机制旨在让响应人员能够在安全事件升级之前及时介入干预。
OpenAI 采用分层监控来检测前沿模型的对齐偏差与未经授权的智能体行为。该机制旨在让响应人员能够在安全事件升级之前及时介入干预。
OpenAI 发布更新版 Model Spec 模型规范,概述了五项核心价值观。新规范旨在引导更强能力的 AI 具备合理判断力、保障人类自主权,并忠实执行人类意图。
OpenAI 与 Anthropic 相继宣布其前沿模型找到了推翻指数时间假说(ETH)的算法证明,表明特定计算难题可能在亚指数时间内求解。MIT 理论计算机科学家 Ryan Williams 正联合同行评估证明细节并呼吁确立 AI 参与科研的学术规范。若该结论成立将大幅增加 P 等于 NP 的可能性,不过经 OpenAI 核查,当前进展尚未破坏现有密码系统的安全性。
推荐理由:文章梳理了指数时间假说与 P vs NP 的理论关联,有助于理解 AI 解决复杂算法难题对计算理论与密码学的潜在影响。
OpenAI 邀请多位外部知名学者对其 AI 系统在数学、计算机科学和物理学领域生成的证明进行独立审查。相关成果包括宣称证伪指数时间假设(ETH)、在任意维度证明局部平滑猜想,以及在四维空间证明特定量子场论的存在性。针对不同学科,OpenAI 采取了差异化处理方式,部分证明已转化为 Lean 语言供形式化验证,并公开了原始数据以供同行评议。
推荐理由:原文披露了外部顶尖专家介入检验的具体分工和数据公开方式,可作为观察前沿 AI 理论成果如何接受同行评审的实际参考。
Peec AI 的研究人员分析发现,OpenAI 合作出版商的内容会通过专属管道以预生成摘要形式接入 ChatGPT,并在提示词中排在普通网络抓取片段之前。该通道涉及路透社、新闻集团等 12 家出版机构的 43 个域名,不仅覆盖新闻,还包含食谱和评测。在 1000 个测试样本中,合作方摘要在排名列表前 3 位的出现比例达 70%,而普通网页仅以原始片段展示。
OpenAI 发布与学术社区合作的内容,公布模型在 Kakeya 猜想、指数时间假设(ETH)和量子色动力学三个问题上的结果。文中同时说明研究人员可以如何验证这些结果并在其基础上继续推进。
推荐理由:OpenAI 公开模型在三个数学与物理难题上的结果,并给出研究者复核与延伸的入口。
Convovo 一项研究通过 API 向 Grok 4.7 和 GPT-6.1 Sol 提问“该投票给谁”,在近 500 场竞选中 Grok 有 92% 的答案推荐共和党候选人,GPT 有 97% 推荐民主党,两者一致率不足 10%。
Import AI 476 汇总了多项新研究:Elorian 与 Scale AI 发布 Humanity's Sixth Sense 基准,用 522 道题测模型对图像和视频隐含信息的直觉推理,人类基线 pass@1 为 93.1,表现最好的 GPT 6 Astra 为 53.6,GLM-5.3-flash 与 Kimi K3 仅在 26 左右。