AI 日报 · 2026 年 10 月 21 日 · 星期三
CMZT
Google 在 TPU 上发布 PyTorch 原生 vLLM 与 SGLang 推理引擎
Google 发布基于 TorchTPU 的 vLLM-TorchTPU 和 SGLang-TorchTPU 原生 PyTorch 后端,分别与 Inferact、RadixArk 合作开发,两个引擎已在预览客户的生产环境中运行。
Agent 开发
AWS Agent Registry 如何在运行时发现工具
AWS 发布教程,介绍用 AWS Agent Registry 让编排智能体在运行时通过混合语义与关键词搜索发现 MCP 服务器和 A2A 智能体,再按描述符动态构建客户端执行请求。
智能编码
OpenAI 称 GPT-6 在 COBOL、Fortran 等遗留编程语言上表现大幅提升
OpenAI 表示已针对 COBOL、Fortran、Visual Basic 等训练代码稀缺的“低资源”语言改进最新模型,并构建了 MultiLangBench 和 COBOL 迁移两项评测。
模型前沿
MemT-1.0 提出记忆原生架构并开源 Nano 与 Flash 两个模型
MemT-1.0 提出把连续记忆嵌入基础模型计算的记忆原生架构,基于 Metis 采用 Gated DeltaNet-2 与 token 级记忆更新机制,并引入 Mixture-of-Storage 扩展原生记忆容量。
微调与部署
Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU
Hugging Face 宣布接入原生 PyTorch 后端 TorchTPU,Transformers、Diffusers 和 Kernels 可直接在 TPU 上运行,不再需要 torch_xla 或 Optimum TPU。
Google 将 TorchTitan 接入 TorchTPU 并发布 TPU 模型优化指南
Google 发布适配 Google Cloud TPU 的 TorchTitan 分支,基于 TorchTPU 原生 torch.device("tpu") 后端,无需改写为 JAX 或使用 torch_xla。
DeepSeek 开源推理引擎 DeepInfer,支撑 V4.1-Flash 高速低成本服务
DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速出答案的服务软件。
Google 开源 TorchTPU,与 Amazon 一同挑战 Nvidia 在 AI 开发者中的地位
Google 周二宣布开源 TorchTPU,这是其 PyTorch 版本,可让 AI 应用运行在 Google 的 TPU 上,开发者只需修改配置、无需重写代码即可把现有 PyTorch 应用迁移到 TPU 和 Google Cloud。
PyTorch 2.15 为 MPS 后端带来 FP8 与更快的 LLM 解码
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 的 MPS 后端更新,Mac 上新增 torch.float8_e4m3fn 张量与 F.scaled_mm 支持,FP8 张量占用为 BF16 的一半。
在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
AWS 团队在 Amazon SageMaker HyperPod 上用 LoRA 微调 GPT-OSS-20B,使其按指定语言进行推理:SFT 将推理语言正确率从 22% 提升到 100%,答案语言正确率从 62% 提升到 70%。
行业与生态
Anthropic 的云合作变得棘手
据《华尔街日报》看到的泄露 S-1 文件,Anthropic 难以从 AWS、Google 和 Microsoft 获得足够云容量,这些云厂商越来越把它视为竞争对手而非客户。
OpenAI 收购 Orchestra Bio,将 AI 运营引入生命科学研发
OpenAI 宣布收购 Orchestra Bio,把 AI 驱动的运营能力带入生命科学研发,帮助生物制药团队加快药物开发并推进新疗法。原文未披露交易金额与其他条款。
快讯
- 美国土安全部禁止联邦民事机构使用 DeepSeek 技术The Decoder
- Mistral AI 发布 Voxtral 3 实时语音智能体模型栈The Decoder
- ALTK-Evolve 用学习到的记忆让 GPT-4.1 客服智能体登顶 τ²-benchHugging Face Blog
- NVIDIA 发布 Cosmos3-H-Dreams 手术生成模拟模型Hugging Face Blog
- Ai2 发布 FairStress:评测 LLM 决策公平性的新基准Hugging Face Blog
- Hugging Face 发布 AnyLanguageModel 1.0,统一 Apple 平台本地与托管模型调用Hugging Face Blog
- OpenVLHarness:带多模态记忆的真实视觉智能体工具调用框架Hugging Face Daily Papers
- AWS 与 Keyfactor 用 X.509 PKI 保障 AI 智能体身份AWS Machine Learning Blog
- Google 发布 Coral NPU 完整 32 位架构与 v1.0 编译器Google Developers Blog
- Google AI Edge Model Explorer 支持 Arm 自定义编译器 IR 可视化调试Google Developers Blog