V-CoLA：面向线性注意力的视觉 Token 压缩方法
V-CoLA 是一种免训练的视觉 Token 压缩框架，专为 Qwen3.5 等采用线性注意力的混合架构设计。它通过唯一性感知的重要性准则筛选关键视觉 Token，并配合自适应 Token 合并策略完成压缩。实验显示，仅保留 50.0% 视觉 Token 即可达到原性能的 99.5%，保留 12.5% 时仍超 88.0%，prefill 提速 1.86 至 6.15 倍。
#推理引擎
Hugging Face Daily PapersAI 评分4242 Hugging Face Daily PapersAI 评分5353 SparseDecoding：面向解码的 LLM 剪枝框架
SparseDecoding 提出一种面向解码阶段的剪枝框架，用稠密模型自回归生成（不含 prefill）时收集的逐层激活构建校准矩阵，使剪枝目标与解码激活对齐，并配套实现带 bitmask 索引与固定步长遍历的 N:M 稀疏矩阵向量内核。
Hugging Face Daily Papers精选AI 评分6262 TokenRouter：面向 token 级 LLM 路由的高效服务系统
研究团队提出 TokenRouter，一个面向 token 级路由 LLM 推理的高效服务系统，采用以请求为中心的编程、以模型为中心的执行方式，为每个 LLM 启动子服务器并异步分发请求。其子服务器使用延迟批处理调度器，超参数由系统吞吐数学模型推导得出。在不同路由算法、负载和模型组合下，TokenRouter 的解码吞吐比现有系统高 2.01-64.15 倍，代码已在 GitHub 开源。
推荐理由：论文给出 token 级路由的服务系统设计与吞吐对比，可了解细粒度路由落地的系统瓶颈与解法。
llama.cpp ReleasesAI 评分1212 llama.cpp b11517：CUDA 向 host MMQ 配置辅助函数传递 src1 精度（#30168）
llama.cpp 发布 b11517 版本，CUDA 后端在调用 host MMQ 配置辅助函数时开始传递 src1 精度，并将 src1 精度参数改为显式传入。该改动由 ynankani 提交，对应 PR #30168。
llama.cpp ReleasesAI 评分2222 llama.cpp b11506：server 在 slot 保存/恢复时保留上下文检查点
llama.cpp 发布 b11506，server 在 slot 保存/恢复时保留上下文检查点，恢复后的 slot 可直接回滚到检查点，无需重新处理整个 prompt。
llama.cpp ReleasesAI 评分2222 llama.cpp b11516 修复 Hexagon IM2COL patch-embed DMA ring 溢出
llama.cpp 发布 b11516，修复 Hexagon 后端 IM2COL patch-embed 的 DMA ring 溢出问题：精确 tiling（stride == kernel。
Ollama ReleasesAI 评分2020 Ollama v0.40.2 发布：旧模型后台自动升级至 llama.cpp
Ollama v0.40.2 让旧版本下载的模型在首次运行时后台自动升级，以在 llama.cpp 上获得更好性能与兼容性，并保留原始副本作为备份以便安全降级。该版本还修复了 ollama list 对已升级模型重复显示的问题，ollama launch claude 现使用模型完整上下文长度。备份模型将在未来版本自动清除。
vLLM ReleasesAI 评分1212 vLLM 发布 vllm-proto 0.5.0
vLLM 发布 vllm-proto 0.5.0，该 tag 由提交者签名并通过验证。此次发布附带 2 个资源文件，版本号从 proto-v0.5.0 正式定为 vllm-proto 0.5.0。
llama.cpp ReleasesAI 评分1515 llama.cpp b11515 发布：SYCL 后端支持 Q5_K 重排布局 MMVQ 与融合 GLU
llama.cpp 发布 b11515 版本，为 SYCL 后端加入 Q5_K 重排布局的 MMVQ 与融合 GLU 支持。该版本同步更新 macOS、Linux、Windows、Android 及 openEuler 等多平台构建产物，覆盖 CUDA 12/13、ROCm 10.0、Vulkan、OpenVINO、SYCL FP32/FP16 等后端。
AWS Machine Learning BlogAI 评分3838 Cornerstone OnDemand 如何用 Amazon Bedrock 将数据库诊断时间缩短 78%
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI，将数据库诊断时间从 45 分钟降至 10 分钟，减少 78%。该系统还把手动生命周期步骤从 10 步以上压缩为 1 次交互（减少 70%），并将冗余告警中位数削减 65%。三人团队用六个月完成交付。
NVIDIA BlogAI 评分3838 NVIDIA Omniverse 如何用 GPT-6 Astra 等前沿 AI 智能体把想法变成仿真应用
NVIDIA 开发者正用 GPT-6 Astra、Claude Fable 5 等前沿 AI 模型配合 Omniverse 库，通过自然语言指令构建仿真应用。
llama.cpp ReleasesAI 评分1010 llama.cpp b11514 发布：修复 Musa FWHT
llama.cpp 发布 b11514 版本，修复了 Musa FWHT 问题（#30167）。该版本继续提供覆盖 macOS、Linux、Windows、Android 及 openEuler 的多平台构建，支持 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端，其中 macOS Intel 与 openEuler 构建处于 DISABLED 状态。
Claude Code ReleasesAI 评分1212 Claude Code v2.1.295 发布
Claude Code v2.1.295 为 command 和 HTTP hooks 新增 onFailure: "block"，使无法启动、超时或异常退出的 hook 直接阻断操作；同时加入 Program Status Protocol（OSC 7501）支持，终端可显示 Claude Code 正在工作、等待用户还是已完成。
llama.cpp ReleasesAI 评分2222 llama.cpp b11513 发布：CUDA top-k 算法按形状选择，qwen4exp 上提速约 6 倍
llama.cpp 发布 b11513，为 CUDA 后端改进 top-k 算法选择：按形状在 bitonic、radix select 与 DeviceTopK/CUB argsort 之间切换，阈值可在构建时覆盖。
OpenAI Codex ReleasesAI 评分2222 OpenAI Codex 发布 0.162.0：新增托管 Git worktree 工具与任务置顶
OpenAI Codex 发布 0.162.0，在启用 worktree 功能后，可从受信任的本地项目创建和列出托管 Git worktree，并支持在智能体 Command Center 中用 p 键置顶任务。
AWS Machine Learning BlogAI 评分4242 BlockRun 与 Incarna 如何用 Amazon Bedrock AgentCore payments 实现 AI 智能体按次付费推理
Incarna 借助 Amazon Bedrock AgentCore payments，让智能体通过 x402 按次向 BlockRun 付费购买模型推理，将接入 x402 支付支持的工作量从数月缩短到数天并投入生产。
Claude Agent SDK ReleasesAI 评分1010 Claude Agent SDK v0.2.165 发布，内置 Claude CLI 升级至 2.1.294
Claude Agent SDK 发布 v0.2.165，内置 Claude CLI 升级至 2.1.294，可通过 pip install claude-agent-sdk==0.2.165 安装。该版本还新增 CI 告警，当发布被阻塞或失败时会通知 Slack。
llama.cpp ReleasesAI 评分1212 llama.cpp b11512 修复 DFlash 输出头共享问题
llama.cpp 发布 b11512，修复 DFlash 输出头共享问题，改为从 GGUF metadata 读取绑定输出权重，并共享绑定词嵌入 metadata，同时移除 DFlash 嵌入头回退逻辑。相关改动由 Codex 协助完成。
llama.cpp ReleasesAI 评分1212 llama.cpp b11511 修复 CUDA 下 MMQ 越界读取问题
llama.cpp 发布 b11511 版本，修复了 CUDA 后端中 MMQ 的越界读取（out-of-bounds reads）问题（#29953）。该版本继续提供覆盖 macOS、Linux、Windows、Android 及 openEuler 的多平台构建，包括 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
llama.cpp ReleasesAI 评分1212 llama.cpp b11510 发布：CUDA 新增循环 PAD kernel，支持超过 65535 行或切片
llama.cpp 发布 b11510，CUDA 后端新增循环 PAD kernel，可处理超过 65535 行或切片的场景。该版本同步更新 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台构建，涵盖 CUDA 12.8/13.4、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
AWS Machine Learning BlogAI 评分2222 如何用 Amazon SageMaker HyperPod 实现跨团队 GPU 集群隔离与公平共享
Amazon SageMaker HyperPod 多租户参考架构通过 AWS IAM Identity Center 统一认证、按团队划分 SageMaker AI 域、Kubernetes 命名空间隔离工作负载，并用 HyperPod Task Governance 实现算力配额与调度优先级管理。
Ollama ReleasesAI 评分1010 Ollama v0.40.2-rc0 发布：列表隐藏重复与降级保护条目
Ollama v0.40.2-rc0 在列表输出中隐藏了重复与降级保护条目。加载需要 llama.cpp 补丁集的旧版 GGUF 时，Ollama 会在磁盘上做惰性转换，并临时保留新旧两份 GGUF、创建影子 v1 manifest 标签，以防降级后的服务器删除新 blob。这些旧副本将在未来版本中移除以回收磁盘空间。
llama.cpp ReleasesAI 评分1212 llama.cpp b11509 修复 CUDA CCCL 版本判断在 4.x 上失效的问题
llama.cpp 发布 b11509，修复 CUDA 后端 CCCL 版本守卫在 4.x 上误判的问题：旧逻辑分别比较主次版本号，导致 CCCL 4.x 下 STRIDED_ITERATOR_AVAILABLE 未定义，argsort 静默回退到 init_offsets 路径，仅损失性能而不报错。
llama.cpp ReleasesAI 评分2222 llama.cpp b11507 支持 MoE 缓存跨多 GPU
llama.cpp 发布 b11507 版本，新增 MoE 缓存跨多 GPU 支持（#30112）。该版本继续提供 macOS、Linux、Windows、Android 及 openEuler 等多平台构建，覆盖 CUDA 12/13、ROCm 10.0、Vulkan、SYCL、OpenVINO 等后端。
NVIDIA BlogAI 评分1212 《Gears of War: E-Day》登陆 GeForce NOW，Fire TV 将可直接购买会员
《Gears of War: E-Day》已于 10 月 6 日全球发售后上线 GeForce NOW，Ultimate 会员可以 GeForce RTX 5080 级性能云端游玩，并支持 NVIDIA DLSS 和 NVIDIA Reflex。
JetBrains AI Blog精选AI 评分6666 JetBrains 发布 Mellum2.1：面向编码智能体的快速开源模型
JetBrains 发布 Mellum2.1，这是其 6 月开源的 12B MoE 模型的新版本，架构不变，仍为 2.5B 激活参数、Apache 2.0 许可。
推荐理由：JetBrains 开源编码智能体模型 Mellum2.1，读者可了解其 RL 后训练路线与自托管部署方式。
OpenAI NewsAI 评分2222 LegalOn 将 Codex 成本减半，同时保持开发速度
LegalOn 将 Codex 每日预估成本降低 65%，同时保持开发速度。其做法是按任务匹配 Astra、Sol 和 Luna，并对预算进行策略性管理。
Cline ReleasesAI 评分1212 Cline Desktop v0.0.45 发布：修复 SSH 连接并新增 Claude Haiku 5.5
Cline Desktop v0.0.45 修复了自 0.0.38 起 SSH 环境连接报 SyntaxError 的问题，并新增 Claude Haiku 5.5 模型。Google Vertex AI、GitHub Copilot 等多个提供商的默认模型改为 Claude Haiku 5.5，同时修复了 GPT-6 Astra、Claude Opus 5.5 等模型关闭推理时的 400 错误。
Cline ReleasesAI 评分1212 Cline CLI v3.0.70 发布：修复 GPT-6 Astra 等模型 400 错误，新增 Claude Haiku 5.5
Cline CLI v3.0.70 修复了在 GPT-6 Astra、GPT-6.1 Sol、Claude Fable 5 和 Claude Opus 5.5 上关闭推理时生成 commit message 和任务报 400 错误的问题，并解决了 MCP server 或 hook 退出后约 3 秒即退出的缺陷。
Cline ReleasesAI 评分1515 Cline SDK v0.0.92 发布：AI SDK 统一版本线，修复推理关闭与 MCP 客户端问题
Cline SDK v0.0.92 将 AI SDK 统一到 ai 7.0.120 版本线，所有 @ai-sdk/* 包统一使用 @ai-sdk/provider-utils 5.0.50。
Unsloth ReleasesAI 评分6262 Unsloth 发布 v0.1.904-beta，可将任意 LLM 训练为决策模型
Unsloth 发布 v0.1.904-beta，支持用 QLoRA 将任意文本或视觉 LLM 训练成 Jev 风格决策模型，决策准确率从 30% 提升到 80%，并可在 Unsloth 内完成训练、测试、导出与部署。
Ollama ReleasesAI 评分88 Ollama v0.40.1 发布
Ollama 发布 v0.40.1，新增代理云端用量与余额 API，并移除 CLI 引导中的账户步骤。该版本修复了 Windows 上 llama 读取超过 2GiB 的问题，同时避免 Windows 上的符号链接，并清理了 README 中的失效链接。
Google Developers Blog精选AI 评分7575 Google 开源端侧 GPU 推理引擎 ML Drift
Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift，它抽象 OpenGL ES、OpenCL、Metal 和 WebGPU，作为 LiteRT 的核心 GPU 加速引擎，也可独立使用。
推荐理由：Google 开源端侧 GPU 推理引擎 ML Drift，并给出 Chrome、YouTube Shorts、Adobe 等迁移后的实测提速数据。
Google Developers Blog精选AI 评分7171 Google 发布 AQuA 环境质量智能体，诊断生产环境智能体故障
Google 发布 AQuA（Ambient Quality Agent），一个在 Google Cloud 项目内旁路运行的质量智能体，按计划、部署后或按需扫描 Cloud Trace、Cloud Logging 或 BigQuery 中的生产轨迹，经采样、评审、聚类、验证、跟踪五阶段流水线输出可验证的故障洞察。
推荐理由：原文给出 AQuA 的五阶段流水线、成本数据和一次真实多智能体排查案例，可据此判断生产环境智能体质量监控的可行做法。
Hugging Face Blog精选AI 评分7676 作者用 ML Intern 两天自建六个模型，总花费约 103 美元
作者在 HuggingChat 中开启 ML-intern 模式，用提示词让它完成数据集构建、训练、评测和发布，两天内做出六个模型，总计算花费约 103 美元。
推荐理由：作者用 ML Intern 在两天内从零训练并发布六个模型，给出了提示词写法与逐项算力花费，可迁移到自己的训练流程。
Ollama ReleasesAI 评分1313 Ollama v0.40.1-rc0 发布
Ollama 发布 v0.40.1-rc0，该版本移除了此前携带的 metal residency 补丁，因为相关改动已进入上游（#18854）。
GitHub Copilot Changelog精选AI 评分6060 Claude Haiku 5.5 在 GitHub Copilot 正式可用
Anthropic 最新的轻量模型 Claude Haiku 5.5 已在 GitHub Copilot 正式可用，面向 subagents、快速编辑和终端任务等高频场景。
推荐理由：读者可以了解 Claude Haiku 5.5 在 GitHub Copilot 中的可用范围与计费方式，以及它在编码任务上的初步表现。
AWS Machine Learning Blog精选AI 评分7171 Claude Haiku 5.5 上线 AWS，成本较 Haiku 4.5 降低约 75%
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。
推荐理由：AWS 官方给出 Haiku 5.5 的定位、成本变化与 Bedrock 接入方式，可据此判断它在多智能体分层中的分工。
NVIDIA Blog精选AI 评分7676 NVIDIA 与 Microsoft 发布 RTX Spark 笔记本和 Windows 智能体基础设施
在旧金山举行的 Windows AI and Surface 活动上，NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计软硬件，并公布 RTX Spark 笔记本即日开启预售、10 月 16 日开售，紧凑型台式机 11 月上市。
推荐理由：英伟达与微软把智能体运行所需的系统级容器和本地算力硬件一起端出，读者可据此判断本地智能体落地的软硬件门槛。
AWS Machine Learning BlogAI 评分3232 Amazon Quick 与 Amazon Bedrock 如何用实时 ACL 重构 RAG 访问控制
Amazon Quick 与 Amazon Bedrock Knowledge Bases 在原有预检索 ACL 过滤之上新增实时 ACL 校验，在查询时直接向权威数据源核实权限，避免依赖可能过期或映射错误的 ACL 数据。