AVEVA 如何为自主工业 AI 构建更安全的落地路径
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,负责任部署成为关键。AVEVA 的负责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,负责任部署成为关键。AVEVA 的负责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。
MIT Technology Review 报告指出,企业 AI 的规模化瓶颈是结构性的,全球 AI 投资 2026 年将达 2.5 万亿美元,同比增长 44%。报告提出“agentic shift”,主张企业先重构流程与数据基础设施,采用可组合架构,并解决 AI 主权问题,让数据无需迁移即可被 AI 智能体调用。
Import AI 第 474 期聚焦三项内容:Michael Levin 提出心智是来自柏拉图式模式空间的模式,身体与机器只是其进入物理世界的接口。智谱启动了一个"外层 RSI 循环",探索递归自我改进。此外还讨论了将 TPU 部署到太空,以及机器人领域正为 LLM 时刻做准备但缺少通用算法。
Sourcegraph 认为,AI 编程已把 prompt-to-PR 流程打磨到极致,但大型企业存量代码库的维护仍完全未解决。作者提出"自主代码库"构想:由触发器(定时任务、新 CVE、生产日志异常等)驱动可调用的智能体函数(全库 Deep Search、推送 PR、批量变更),组成确定性有向图工作流。未来企业将转向范围更窄、授权更小的智能体组合,而非继续泛化通用 harness。
Zed 团队认为,Ted Nelson 的 Xanadu 超文本构想(永不复制只引用、永不覆盖只版本化)缺的最后一个依赖是 AI 智能体这类新用户。DeltaDB 用 Lamport 时间戳、Merkle 树、CRDT 等已有技术为每个状态命名,Delta 的 worktree 可被多地的人与智能体同时编辑,每个版本默认保留。
Sourcegraph 提出以"限定范围检索"为智能体留下可审计的溯源记录,即明确列出智能体在改动代码前读过哪些文件及原因。其 Deep Search 会在每次回答中返回显式来源清单,MCP server 则把读文件、关键词搜索、跳转定义等操作拆成可单独观测的事件,并受仓库权限与 scoped token 约束,处理在用户自有实例内完成,仅模型调用对外。
Veracode 测试超 100 个大语言模型发现 45% 的 AI 生成代码样本未通过安全测试,Apiiro 的 Fortune 50 研究显示 AI 辅助开发者的提交量增加 3 至 4 倍、团队安全问题数增加 10 倍。
伯克利 EPIC Data Lab 提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分低于 $0.10,数据系统面临三大新挑战:为智能体设计(Data Systems For Agents)、运行智能体(Of Agents)、由智能体构建(By Agents)。
CrewAI 提出"受治理编排"模式,让智能体跨系统协同工作,同时由平台从设计之初就承载治理能力。该模式结合 Snowflake 的权限模型与数据血缘,以及 CrewAI 的构建与运行时层,使智能体在不突破企业信任边界的前提下规模化运行。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前多数方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild!
随着 Claude Code 等 AI 智能体并行写代码,代码库正变成无人阅读的"只写代码",Brown 教授 Shriram Krishnamurthi 发现其生成的 bookstore 应用存在用浮点数算钱、自造 CSV 解析器等问题。
Continue 提出,AI 生成代码引发的低质问题应归因于流程缺失而非开发者个人。采用 AI 辅助编码的团队 PR 提交量提升 2-5 倍,但代码从 agent 到合并缺乏标准强制检查,无人拦截缺失的限流、输入校验等问题。Continue 将团队标准写成仓库中的 markdown 检查文件,每个 PR 上以完整 agent 运行,通过则静默、失败则给出具体问题和修复建议。
Continue 提出在 vibe coding 之后增加“Chiseling(凿刻)”环节,即人工重构和打磨 AI 生成的代码,把重复功能、1000 行方法和无用单测清理成清晰的逻辑核心。团队规模扩大后,凿刻会成为瓶颈,因此需要在 CI/CD 中引入云端智能体自动检查命名、抽象、测试与安全规范,把资深工程师的打磨标准编码为对每个 PR 的系统化审查。
Continue 提出 LLM 正在成为新的"胶水代码",用于粘合 webhook、CLI、REST API、数据库等格式各异的接口。其与 Snyk 合作将 AI 安全嵌入开发流程:Snyk 发出漏洞告警后,LLM 提取严重程度和受影响文件路径,生成补丁,再通过 CLI 跑测试并用 gh pr create 创建 PR。