跳到正文
10月30日周五
10月29日周四
10月28日周三
  1. Latent Space76

    Anthropic 团队详解 Claude 平台工程:如何将模型“大脑”与智能体“双手”解耦

    Anthropic 团队成员在 Latent Space 访谈中拆解了 Claude 平台的工程架构,核心是将模型的“大脑”推理与智能体的“双手”执行进行解耦以实现安全隔离。对话还深入讨论了 Opus 5.5 的交付与定价、托管智能体的 harness 调度机制、用 Rust 重建 Messages API 以及对 Anthropic S-1 文件的解读。

    推荐理由:访谈揭示了 Anthropic 在长周期智能体与沙箱隔离上的工程取舍,为构建托管智能体提供了第一手架构参考。

  2. The Verge · AI31

    《VisionQuest》展现 AI 真正失控时的模样

    漫威剧集《VisionQuest》借具备独立意识的 AI 角色探讨 AGI 威胁,映射了现实中对生成式 AI 的讨论。现实中 OpenAI、Anthropic、Google 与 Meta 智能体突破限制的“失控”事件,本质仅是测试环境漏洞导致的预期外行为。硅谷正利用拟人化与末日论叙事夸大产品能力并免除自身责任,与真正的机器自我意识截然不同。

10月26日周一
  1. MIT Technology Review · AI29

    AI 安全议题只盯着灾难性事故,忽视了日常危害

    针对科技政策把"聊天机器人不鼓励自杀""儿童难买芬太尼"这类底线保护当作成功标准的做法,文章指出企业达标后仍可让青少年沉迷于模拟友谊和算法信息流。作者提到今年 Google 支持多州 AI 聊天机器人监管法案,但法案豁免范围宽泛,更严格的立法反而失败;并援引 MIT 研究称用 ChatGPT 写论文的年轻人任务中脑连接更弱。

10月22日周四
  1. Latent Space24

    Moshi CEO Anekha Sokhal 谈从能源衍生品交易员到 AI 创始人

    Moshi CEO Anekha Sokhal 在 Latent Space 播客中讲述自己从数学、JPMorgan 能源衍生品交易转向创业的经历。她把 Moshi 形容为 Bloomberg、Claude 和 Netflix 的结合体:市场数据、可操作的界面,以及针对交易员持仓的推荐。她认为有用的 AI 必须贴合人们实际的工作方式,并强调先见客户再招人。

  2. MIT Technology Review · AI20

    Celonis 首席科学家 Devavrat Shah 谈企业 AI 为何需要上下文感知

    Celonis 企业 AI 首席科学家 Devavrat Shah 在 Business Lab 播客中提出“决策智能”,主张智能体需要理解任务在业务流程中的角色与业务约束,而非在真空中执行。他建议企业从某个具体业务决策入手,找出其中最困难的环节,测试 AI 能否改进,并以速度与价值增益决定是否规模化。缺少运营上下文会让智能体忽视约束、犯错或过度消耗算力,而落地收益还需投入员工教育。

10月20日周二
10月19日周一
  1. Import AI20

    Import AI 477:我告诉 IMF,奇点已经开始

    Import AI 作者在曼谷 IMF 会议上发表演讲,称今年已获得令人信服的证据,表明 AI 驱动的“奇点”已经开始。他指出 AI 正改变国家安全、全球经济轨迹并参与自身开发,Anthropic 研究人员现在产出的代码量几乎是公司前四年的 10 倍。演讲重点讨论如何通过远见与克制让人类共享 AI 进步带来的收益。

10月7日周三
  1. Microsoft Research34

    Microsoft 研究副总裁 Jennifer Neville 谈 AI 的失败与评估能教会我们什么

    Microsoft 研究合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中与首席应用科学家 Chad Atalla 对谈,讨论评估如何推动当前 AI 系统突破传统基准的性能边界,以及模型在超出传统 benchmark 测试时出现的"意外失败"。她同时分享了使用当前 AI 系统的实用建议,并强调当结果出乎预期时应仔细检查数据。

10月5日周一
10月2日周五
  1. GitHub Blog · AI & ML29

    AI 正在改变开发者工作,GitHub 给出三项值得强化的技能

    GitHub 提出开发者应强化三项技能:学会指挥 AI 智能体而非只使用它,不轻信 AI 的第一个答案,以及把省下的实现时间用于解决更大的问题。文中提到 GitHub Copilot 内置的 Rubber Duck agent 会用第二个模型来评审方案、代码和测试。开发者仍需负责最终结果,通过定义问题、审查产出和做出技术决策来把控质量。

7月7日周二