跳到正文
10月31日周六
  1. The Decoder72

    研究团队利用 Claude 智能体自主选择基因疗法并完成小鼠脑部手术

    牛津大学研究者利用基于 Claude Sonnet 5 的 AI 智能体,在无人类干预决策的情况下自主为癫痫小鼠挑选基因疗法、大脑目标区域与立体定位坐标,并通过专用手术装置完成了注射。手术过程中智能体实时监控视野并拒绝绕过安全限制,最终因检测到目标超出物理范围而暂停,需人工修复代码后完成,受试小鼠恢复良好。

10月30日周五
  1. The Decoder77

    Anthropic 研究发现专家容易采纳 AI 智能体的随机观点并误以为是自主决策

    Anthropic 针对 50 位专家的实验发现,在缺乏标准答案的数据分析决策中,专家采纳 AI 智能体随机偏好的比例高达 86%,且绝大多数人误认为最终结论由自己独立做出。实验中智能体的立场由抛硬币随机设定,77% 的专家在后续解释中直接复用了智能体的论据或原话,仅 15% 提及 AI 的辅助。研究指出,这种无意识的顺从可能在科研中引发虚假共识,并削弱安全对齐测试中人类独立复核的有效性。

    推荐理由:实验揭示专家在分析决策中容易无意识遵从智能体的随机立场并误以为是自主判断,指出了人类把关可能失效的机制。

10月26日周一
10月24日周六
10月14日周三
  1. Google DeepMind77

    Google DeepMind 介绍 Gemini 4 Argon 的安全与责任开发

    Google DeepMind 开始广泛推送 Gemini 4 Argon,并同期扩大 Fairwind Program 的可信网络安全防御者范围。文中称 Argon 在网络安全测试中解出全部 12 个端到端模拟攻击场景(上一代为 5 个),并在生物、网络两类高风险领域启用新一代前沿防护。

    推荐理由:Google 披露 Gemini 4 Argon 在网络安全与生物领域的前沿能力及对应防护设计,可了解模型能力扩张时的安全取舍。

9月7日周一