Sam Altman 称在内存短缺背景下 RAM 部署在数据中心比个人电脑更高效
OpenAI CEO Sam Altman 在播客访谈中表示,在当前 DRAM 供应受限的背景下,让有限的内存分散在利用率仅约 5% 的个人电脑上极不划算,应优先集中在云端数据中心以实现最大化利用。
OpenAI CEO Sam Altman 在播客访谈中表示,在当前 DRAM 供应受限的背景下,让有限的内存分散在利用率仅约 5% 的个人电脑上极不划算,应优先集中在云端数据中心以实现最大化利用。
Hugging Face 推出 AnySpeechRecognizer 与 AnyDecisionModel 两款开源 Swift 软件包,支持在苹果平台上本地下载并运行开源语音与决策模型。
推荐理由:为苹果平台开发者补齐了开源语音识别与类型化概率决策接口,可直接在端侧替换原生框架并结合量化模型。
NVIDIA 宣布搭载 Blackwell GPU 与 Grace CPU 超级芯片的 RTX Spark 笔记本正式发售,并同步推出多项端侧 AI 与智能体功能更新。
推荐理由:硬件整合高容量统一内存与算力调度控制,让端侧同时运行前台应用与后台智能体成为可行方案。
Liquid AI 推出新一代 Liquid Foundation Models(LFM3)系列开源权重,基于 LFM3-1.7B-Base 统一底座衍生出覆盖文本、视觉、音频、全模态和决策任务的 6 款 2B 级模型。
推荐理由:该系列将多模态能力统一到2B级轻量底座并支持单卡微调,适合作为端侧智能体与具身控制的专用模型参考。
Exowatt 采用 Amazon SageMaker AI 无服务器模型微调构建了端到端 AI 管道,微调的 Qwen3-1.7B 与 Qwen3-14B 在告警分类与能源分析任务上的准确率超越了 Claude Opus 4.7 等前沿模型。
作者在断网环境下实测了本地代码智能体工作流,通过 Ollama 在本地运行 Qwen3.5 9B 并驱动 OpenCode 成功完成代码修复与测试。实操表明在完全切断外网连接后,智能体仍可读取本地文件、修改代码并跑通 unittest 测试。该方案要求提前离线下载模型与项目依赖,配置好本地 API 端口,并在提示词中明确具体测试命令以减少无效尝试。
Opera 推出名为 WebAI 的新 Web 标准,允许用户直接在浏览器中本地运行 AI 模型而无需依赖云端。该标准支持包括 Google Gemma 在内的多种开放权重模型,并在 Mac 端支持 Apple 端侧基础模型;功能已率先在 Opera One 早期预览版中提供,后续将扩展至 Opera GX 和 Opera Neon。
TechCrunch 盘点了一批将 AI 融入日常生活的可穿戴与便携设备,包括 49.99 美元的 Bee 吊坠、129 美元的 Friend 情感陪伴吊坠、99 美元的 Limitless 录音吊坠和 89 美元的 Omi。
Block 研究实验室发布全双工语音模型 Dessa,可边说话边聆听,并带有笑声、停顿和哭腔等表达。该模型完全用人类语音训练,可在 MacBook M4 Max 或更强的消费级电脑上本地运行,目前未公开开放,Block 正招募安全研究人员测试。Block 称现有语音模型因文本环节导致情感不自然,而 Dessa 将情感内建于模型之中,其知识来自对话数据。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一个保护隐私的端侧诈骗检测模型,训练数据来自本地诈骗对话。
Google DeepMind 发布 EmbeddingGemma 2,这是一个可原生映射文本、图像、音频和视频到统一嵌入空间的多模态嵌入模型,基于 Gemma 4 架构,采用 Apache 2.0 许可,参数量 7.4 亿。
推荐理由:EmbeddingGemma 2 把文本、图像、音频和视频嵌入统一到 7.4 亿参数的端侧模型,给出各模态参数拆分和内存占用,便于评估私有化检索方案。