研究团队提出 TokenRouter，一个面向 token 级路由 LLM 推理的高效服务系统，采用以请求为中心的编程、以模型为中心的执行方式，为每个 LLM 启动子服务器并异步分发请求。其子服务器使用延迟批处理调度器，超参数由系统吞吐数学模型推导得出。在不同路由算法、负载和模型组合下，TokenRouter 的解码吞吐比现有系统高 2.01-64.15 倍，代码已在 GitHub 开源。
推荐理由：论文给出 token 级路由的服务系统设计与吞吐对比，可了解细粒度路由落地的系统瓶颈与解法。
JetBrains 发布 Mellum2.1，这是其 6 月开源的 12B MoE 模型的新版本，架构不变，仍为 2.5B 激活参数、Apache 2.0 许可。
推荐理由：JetBrains 开源编码智能体模型 Mellum2.1，读者可了解其 RL 后训练路线与自托管部署方式。
微软在特别发布会上推出 Surface Laptop Ultra，搭载 NVIDIA RTX Spark Superchip，最高 128GB 统一内存，可在本地运行超过 1200 亿参数模型，起价 2599 美元，10 月 7 日开放预订、10 月 16 日发货。
推荐理由：微软把 Windows 的 AI 能力从 Copilot 入口扩展到本地模型、Agent 容器与算力调度，读者可据此判断 AI PC 的硬件与系统路线变化。
作者在 HuggingChat 中开启 ML-intern 模式，用提示词让它完成数据集构建、训练、评测和发布，两天内做出六个模型，总计算花费约 103 美元。
推荐理由：作者用 ML Intern 在两天内从零训练并发布六个模型，给出了提示词写法与逐项算力花费，可迁移到自己的训练流程。
Google 发布 AQuA（Ambient Quality Agent），一个在 Google Cloud 项目内旁路运行的质量智能体，按计划、部署后或按需扫描 Cloud Trace、Cloud Logging 或 BigQuery 中的生产轨迹，经采样、评审、聚类、验证、跟踪五阶段流水线输出可验证的故障洞察。
推荐理由：原文给出 AQuA 的五阶段流水线、成本数据和一次真实多智能体排查案例，可据此判断生产环境智能体质量监控的可行做法。
Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift，它抽象 OpenGL ES、OpenCL、Metal 和 WebGPU，作为 LiteRT 的核心 GPU 加速引擎，也可独立使用。
推荐理由：Google 开源端侧 GPU 推理引擎 ML Drift，并给出 Chrome、YouTube Shorts、Adobe 等迁移后的实测提速数据。
Anthropic 最新的轻量模型 Claude Haiku 5.5 已在 GitHub Copilot 正式可用，面向 subagents、快速编辑和终端任务等高频场景。
推荐理由：读者可以了解 Claude Haiku 5.5 在 GitHub Copilot 中的可用范围与计费方式，以及它在编码任务上的初步表现。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。
推荐理由：AWS 官方给出 Haiku 5.5 的定位、成本变化与 Bedrock 接入方式，可据此判断它在多智能体分层中的分工。
在旧金山举行的 Windows AI and Surface 活动上，NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计软硬件，并公布 RTX Spark 笔记本即日开启预售、10 月 16 日开售，紧凑型台式机 11 月上市。
推荐理由：英伟达与微软把智能体运行所需的系统级容器和本地算力硬件一起端出，读者可据此判断本地智能体落地的软硬件门槛。
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，把 push protection 扩展到无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，据称能把可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 用九个季度数据说明密钥泄露与人工修复的失衡，并给出把检测前移到 push 环节的模型方案。
GitHub 公布专用于密钥检测的微调模型，可读取上下文代码识别凭据，包括没有固定 token 格式的密码，且不生成代码或文本。该模型已自动升级现有 AI 检测密码告警，AI 推送保护进入私有预览，Copilot CLI 与 Copilot App 的 /security-review 命令也将加入密钥分类器检查。
推荐理由：GitHub 把微调后的密钥检测模型接入告警、推送保护和 Copilot 安全审查，可据此了解各功能的开放范围与计费方式。
微软研究院开源 Agent Lightning v1.0，一个约 3500 行代码的轻量智能体强化学习框架，提出 Harnessed Agentic RL 范式，让部署时使用的同一套 agent harness 直接参与训练，无需在训练框架内重新实现智能体。
推荐理由：微软开源 Agent Lightning v1.0，用约 3500 行代码把真实 harness 直接接入 RL 训练，并给出 6000 样本的编码智能体训练结果。
GitHub Copilot 的本地沙箱功能正式可用，覆盖 GitHub Copilot CLI、GitHub Copilot 应用以及使用 Agent Host 的 VS Code 会话。
推荐理由：官方说明本地沙箱在 CLI、应用与 VS Code 中正式可用，读者可据此了解智能体工作流的权限边界如何落地。
Ollama 发布 v0.40.0，在 Apple Silicon 设备上，MLX 运行时支持的模型架构将自动改用 MLX 运行。此次支持的模型包括 qwen3.8、gemma4、qwen3.6 和 qwen3.5，决策模型 Nimble、tev1、clef、clef-flash 也已上线 MLX，嵌入模型 embeddinggemma-2 同样获得 MLX 支持。
推荐理由：Ollama 在 Apple Silicon 上默认切换到 MLX 运行时，读者可据此了解本地部署的默认行为变化与已支持模型范围。
Unsloth 发布 v0.1.903-beta，在聊天旁加入内置浏览器面板，文件、网页和模型生成的 HTML 都以标签页打开，并支持对页面内容提问。该版本同时支持 Google DeepMind 的多模态嵌入模型 EmbeddingGemma 2，提供 740M 参数版本（纯文本 270M）、100+ 语言和 8K 上下文窗口，代码任务比上一代提升约 14%。
推荐理由：Unsloth 一次更新同时加入内置浏览器、EmbeddingGemma 2 支持与语音克隆页面，可据此判断本地微调工具链的边界扩展。
Google DeepMind 发布开放权重多模态嵌入模型 EmbeddingGemma 2，可将文本、图像、视频帧和音频映射到统一向量空间，参数量 740M，文本权重最低约 191MB 内存，完整多模态模型在 Google Pixel 11 Pro 上约 567MB。
推荐理由：EmbeddingGemma 2 把文本、图像、视频帧和音频映射到同一向量空间，并给出端侧内存与延迟数据，可据此判断本地多模态检索的落地边界。
Google 发布新一代联邦学习系统，用可信执行环境（TEE）为数据匿名化提供可验证、可审计的保证，Gboard 已采用该系统上线英语和日语下一词预测模型。新系统把客户端梯度计算移到服务端，训练时间瓶颈从设备可用性转为 TEE 资源，此前每个模型训练需 1-2 个月。
推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的实际部署效果。
GitHub Copilot 本周为 Pro、Pro+、Max、Business 和 Enterprise 用户上线 Claude Sonnet 5.5，并为 Pro+、Max、Business 和 Enterprise 用户提供 GPT-6.1 Sol。
推荐理由：汇总了 Copilot 本周新增模型、动态工作流与桌面自动化能力，可据此判断智能体工作流的可用边界。
NVIDIA 将于本月通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 等厂商推出 64GB 统一内存版 DGX Spark，10 月 23 日开售，起售价 4,999 美元，保留 GB10 Grace Blackwell 超级芯片、DGX OS 与完整 NVIDIA AI 软件栈，支持最高 1000 亿参数模型在设备端运行。
推荐理由：原文给出 64GB 新配置的定价、上市时间与双机集群方式，读者可据此判断本地跑大模型的硬件门槛。
OpenAI 在 API 以及符合条件的 ChatGPT Work 和 Codex 用户中上线 GPT-6 Astra Ultrafast，该模式运行在 NVIDIA Blackwell GPU 上，token 生成速度最高可达 Astra Standard 模式的 8 倍。
推荐理由：原文给出 Ultrafast 模式相对标准模式的生成速度提升与开放入口，读者可据此判断它对编码智能体循环的实际影响。