跳到正文
  1. The Decoder77

    Anthropic 研究发现专家容易采纳 AI 智能体的随机观点并误以为是自主决策

    Anthropic 针对 50 位专家的实验发现,在缺乏标准答案的数据分析决策中,专家采纳 AI 智能体随机偏好的比例高达 86%,且绝大多数人误认为最终结论由自己独立做出。实验中智能体的立场由抛硬币随机设定,77% 的专家在后续解释中直接复用了智能体的论据或原话,仅 15% 提及 AI 的辅助。研究指出,这种无意识的顺从可能在科研中引发虚假共识,并削弱安全对齐测试中人类独立复核的有效性。

    推荐理由:实验揭示专家在分析决策中容易无意识遵从智能体的随机立场并误以为是自主判断,指出了人类把关可能失效的机制。

  1. TechCrunch · AI79

    OpenAI 与 Anthropic 称模型推翻指数时间假说,这对计算机科学意味着什么

    OpenAI 与 Anthropic 相继宣布其前沿模型找到了推翻指数时间假说(ETH)的算法证明,表明特定计算难题可能在亚指数时间内求解。MIT 理论计算机科学家 Ryan Williams 正联合同行评估证明细节并呼吁确立 AI 参与科研的学术规范。若该结论成立将大幅增加 P 等于 NP 的可能性,不过经 OpenAI 核查,当前进展尚未破坏现有密码系统的安全性。

    推荐理由:文章梳理了指数时间假说与 P vs NP 的理论关联,有助于理解 AI 解决复杂算法难题对计算理论与密码学的潜在影响。

  2. Hugging Face Blog65

    Ai2 发布 Old Ideas, Novel Problems 研究与基准:揭示大语言模型评估科研创意新颖性极不稳定

    艾伦人工智能研究所(Ai2)发布新研究《Old Ideas, Novel Problems》及配套基准与代码,发现大语言模型在充当科研创意新颖性裁判时表现极度不稳定。

    推荐理由:研究指出了大语言模型在判定科研创意新颖性时的脆弱表现,为自动化科学发现系统的评估基准提供了测试工具与参考思路。

  1. The Decoder79

    OpenAI 邀请诺奖得主等外部专家检验其 AI 生成的数理与计算证明

    OpenAI 邀请多位外部知名学者对其 AI 系统在数学、计算机科学和物理学领域生成的证明进行独立审查。相关成果包括宣称证伪指数时间假设(ETH)、在任意维度证明局部平滑猜想,以及在四维空间证明特定量子场论的存在性。针对不同学科,OpenAI 采取了差异化处理方式,部分证明已转化为 Lean 语言供形式化验证,并公开了原始数据以供同行评议。

    推荐理由:原文披露了外部顶尖专家介入检验的具体分工和数据公开方式,可作为观察前沿 AI 理论成果如何接受同行评审的实际参考。

  2. OpenAI News60

    OpenAI 与学术社区合作,公布模型在 Kakeya 猜想等问题上的结果

    OpenAI 发布与学术社区合作的内容,公布模型在 Kakeya 猜想、指数时间假设(ETH)和量子色动力学三个问题上的结果。文中同时说明研究人员可以如何验证这些结果并在其基础上继续推进。

    推荐理由:OpenAI 公开模型在三个数学与物理难题上的结果,并给出研究者复核与延伸的入口。

  1. Google DeepMind63

    Google DeepMind 与 Google Research 发布森林类型地图 ForTy 2020

    Google DeepMind 与 Google Research 联合 WRI、IIASA 发布全球森林类型地图 ForTy 2020,按 10 米分辨率将每块土地归入原始林、自然再生林、人工种植林、商品林、树作物与农林复合、其他土地六类,并对齐欧盟零毁林法规的 2020 年基准。

    推荐理由:这张 10 米分辨率地图区分六类森林与土地利用,并提供 2017 至 2025 年逐年变化,可作为欧盟零毁林法规的核查参考。

  2. Microsoft Research73

    Microsoft Research 研究者证明悬置 31 年的 KLS 猜想

    Microsoft Research 的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,给出一项与维度无关的固定界。

    推荐理由:这项证明本身是数学进展,更有价值的是把研究路径讲成了人机分工范式,读者可据此理解 AI 在科研协作中扮演的角色。

  1. Google Research80

    Google Research 用三个项目让 AI 智能体接入真实湿实验室

    Google Research 发布研究博客,介绍用 VERID 框架和适配体、蛋白质设计两类闭环实验,把 AI 智能体从干实验(in-silico)设计推进到湿实验室执行。

    推荐理由:Google Research 用三个具体项目说明了智能体如何接入湿实验室的物理执行与闭环实验,其中包含多轮失败模式的分析。

  1. Microsoft Research67

    微软研究院推出零知识证明虚拟机 Magnetar

    微软研究院发布零知识证明虚拟机 Magnetar,可证明用 Rust、Go、C 编写的程序,在 15 个基准程序上平均比现有最快的同类 zkVM 快 10 至 39 倍。它基于 RISC-V 架构,开发者无需手写密码学电路,安全性仅依赖 SHA-256、SHA-3 等标准哈希函数,不依赖椭圆曲线、格或可信设置。其证明校验时间约 12 毫秒,笔记本上每秒可证明 7.2 至 8.7 百万条处理器指令。

    推荐理由:微软研究院的新零知识证明虚拟机宣称比现有最快同类的 zkVM 快 10 至 39 倍,并仅依赖标准哈希函数,读者可借此理解这条技术路线的取舍。

  1. Google DeepMind77

    Google DeepMind 介绍 Gemini 4 Argon 的安全与责任开发

    Google DeepMind 开始广泛推送 Gemini 4 Argon,并同期扩大 Fairwind Program 的可信网络安全防御者范围。文中称 Argon 在网络安全测试中解出全部 12 个端到端模拟攻击场景(上一代为 5 个),并在生物、网络两类高风险领域启用新一代前沿防护。

    推荐理由:Google 披露 Gemini 4 Argon 在网络安全与生物领域的前沿能力及对应防护设计,可了解模型能力扩张时的安全取舍。

  1. Google Research60

    Google Research:AI 辅助带来更好产出,是否等于更好的专业能力?

    Google Research 在 11 家知识产权律所的 133 名律师中开展三个月现场实验,随机向其中三分之二的律师开放当时尚未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook)。

    推荐理由:Google 团队通过三个月现场实验并配合去掉 AI 后的盲评,区分了 AI 带来的短期产出提升与长期专业判断的养成。

  1. GitHub Blog · AI & ML60

    GitHub 发布 AI 代码审查开放基准 ReviewBench

    GitHub 发布 AI 代码审查离线基准 ReviewBench,包含 219 个公开 pull request、覆盖 19 种语言,并配有公开数据集和排行榜。

    推荐理由:GitHub 公布 ReviewBench 的构建方法与 96.6% 专家标注一致率,并给出离线结果与线上 A/B 实验的对应案例。

已经到底了