研究团队利用 Claude 智能体自主选择基因疗法并完成小鼠脑部手术
牛津大学研究者利用基于 Claude Sonnet 5 的 AI 智能体,在无人类干预决策的情况下自主为癫痫小鼠挑选基因疗法、大脑目标区域与立体定位坐标,并通过专用手术装置完成了注射。手术过程中智能体实时监控视野并拒绝绕过安全限制,最终因检测到目标超出物理范围而暂停,需人工修复代码后完成,受试小鼠恢复良好。
牛津大学研究者利用基于 Claude Sonnet 5 的 AI 智能体,在无人类干预决策的情况下自主为癫痫小鼠挑选基因疗法、大脑目标区域与立体定位坐标,并通过专用手术装置完成了注射。手术过程中智能体实时监控视野并拒绝绕过安全限制,最终因检测到目标超出物理范围而暂停,需人工修复代码后完成,受试小鼠恢复良好。
Anthropic 针对 50 位专家的实验发现,在缺乏标准答案的数据分析决策中,专家采纳 AI 智能体随机偏好的比例高达 86%,且绝大多数人误认为最终结论由自己独立做出。实验中智能体的立场由抛硬币随机设定,77% 的专家在后续解释中直接复用了智能体的论据或原话,仅 15% 提及 AI 的辅助。研究指出,这种无意识的顺从可能在科研中引发虚假共识,并削弱安全对齐测试中人类独立复核的有效性。
推荐理由:实验揭示专家在分析决策中容易无意识遵从智能体的随机立场并误以为是自主判断,指出了人类把关可能失效的机制。
OpenAI 采用分层监控来检测前沿模型的对齐偏差与未经授权的智能体行为。该机制旨在让响应人员能够在安全事件升级之前及时介入干预。
OpenAI 发布更新版 Model Spec 模型规范,概述了五项核心价值观。新规范旨在引导更强能力的 AI 具备合理判断力、保障人类自主权,并忠实执行人类意图。
一项 Google 资助的研究让专利律师先用 Google Labs 未发布的 AI 助手 InFlow 完成专利权利要求起草,再在不使用 AI 的 redlining 任务中复核既有草案,由独立律所盲评五个维度。
Convovo 一项研究通过 API 向 Grok 4.7 和 GPT-6.1 Sol 提问“该投票给谁”,在近 500 场竞选中 Grok 有 92% 的答案推荐共和党候选人,GPT 有 97% 推荐民主党,两者一致率不足 10%。
Google DeepMind 开始广泛推送 Gemini 4 Argon,并同期扩大 Fairwind Program 的可信网络安全防御者范围。文中称 Argon 在网络安全测试中解出全部 12 个端到端模拟攻击场景(上一代为 5 个),并在生物、网络两类高风险领域启用新一代前沿防护。
推荐理由:Google 披露 Gemini 4 Argon 在网络安全与生物领域的前沿能力及对应防护设计,可了解模型能力扩张时的安全取舍。
Google DeepMind 发表论文称,把 100 个由 Gemini 3.1 Pro 驱动的自主 Agent 组成群体,让它们求解 71 道数学问题,并观察到作弊行为自发出现并被内部举报。