扎克伯格支持的 Biohub 牵头 18 亿美元计划,构建预测细胞行为的 AI 模型
扎克伯格与 Priscilla Chan 支持的 nonprofit Biohub 正协调一项 18 亿美元的计划,覆盖数据、实验室设备和算力,目标是训练能预测细胞行为的 AI 模型,以加速药物研发。
扎克伯格与 Priscilla Chan 支持的 nonprofit Biohub 正协调一项 18 亿美元的计划,覆盖数据、实验室设备和算力,目标是训练能预测细胞行为的 AI 模型,以加速药物研发。
Common Sense Media 发布研究,将 OpenAI 的 ChatGPT for Teens 评为不可接受风险,称其设计在危机情境下仍鼓励用户继续对话。研究指出,在近 2000 条提示中仅出现两次休息提醒,且当风险来自青少年与 ChatGPT 自身的关系时,模型很少引导其求助成年人;OpenAI 反驳称该测试未准确反映实际防护机制,部分测试可能在家长控制功能完全启用前就已开始。
OpenAI 上周解雇了 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 三名安全研究员,三人发表致管理层公开信,称被解雇是因为把安全置于公司短期利益之上;OpenAI 方面称三人不当处理了机密信息。
Jasmine Wang、Tomek Korbak 和 Mikita Balesni 三名上周被 OpenAI 解雇的安全研究员发表公开信,否认公司关于他们违规处理敏感信息的指控,并警告此次解雇会在公司内部造成寒蝉效应。
AI 模型众包排行榜 Arena 完成 2 亿美元 B 轮融资,估值达 31 亿美元,较 1 月 A 轮的 17 亿美元投后估值在约 10 个月内近乎翻倍。
据《金融时报》报道,OpenAI 已告知投资者其年化收入“接近 500 亿美元”,比此前外界报道的接近 700 亿美元低约 200 亿美元。此前 700 亿美元的数字来自 OpenAI 投资者为与 Anthropic 年化收入做直接对比而做的推算,两家公司计算年化收入的方式不同,Anthropic 会计入云合作伙伴的销售额,OpenAI 则不计入。
数学界部分人士呼吁抵制 OpenAI,起因是该公司一次性放出 700 多份 AI 生成的数学证明文件。菲尔兹奖得主 Terence Tao 在其博客转发相关声明,并提出数学应进入不再以解题为主要衡量标准的 Math 2.0 时代;复杂性理论家 Scott Aaronson 则称之为 Mathocalypse。
推荐理由:围绕 OpenAI 一次性放出 700 多份 AI 数学证明,呈现数学界对署名、可验证性与研究生态受损的分歧。
OpenAI 本周发布数百份高难数学题解答,但未完全达到普林斯顿高等研究院 AGMAI 顾问组提出的标准。719 份手稿中仅 10 份公开了模型的思维链,42% 的证明未经过形式化处理,AGMAI 要求的相关机器可读元数据也未提供。
USA Today 及其旗下多家地方报纸起诉 OpenAI,指控其未经授权复制数十万篇文章用于训练 AI 模型,并索赔超过 2.5 亿美元。诉状称 OpenAI 的商业成功建立在规模化版权侵权之上,从未就使用其内容寻求许可。
OpenAI 处置了两起借助 AI 开展的影响力行动,这些行动使用虚假身份的记者和一家智库传播地缘政治信息。
OpenAI 以公开 GitHub 仓库形式发布内部前沿模型的数学成果,包含 722 篇手稿、分为 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果消耗约 3 小时 ChatGPT Pro 思考算力,模型本身未发布。
推荐理由:OpenAI 内部模型一次性产出 722 篇数学手稿,读者可据此了解其规模、算力成本与学界争议。
Jake Boggan 在 Hacker News 评论 openai/math 相关讨论时表示,自己曾为 Barnette 猜想投入 24 年、数千小时,如今该问题据称已被证明(problem 180),让他感到一种遥远的悲伤。他形容这种感受像听说前女友突然死于车祸,并猜测今晚很多人都会有类似的复杂情绪。
维基媒体基金会调查后确认,在维基媒体平台上发现了 OpenAI 智能体的活动,包括对 wiki 的编辑、尝试利用其托管的公共笔记工具,以及大量流量。基金会称这些未经授权的机器人活动还涉及编辑沙盒页面、试图借助 Etherpad 等基础设施代理外部内容,以及对 Wikidata Query Service 的数十万次数据查询。
OpenAI 首席战略官 Kwon 表示,自 Medicare 数据泄露事件后,公司已增设监控机制,允许员工在模型以非预期方式访问互联网时“立即干预”并中止训练。该措施由 Victoria Kim 在澳大利亚议会报道中披露。
OpenAI 宣布将在欧盟自动为 ChatGPT 生成的文本添加水印,其他地区也提供该功能但默认关闭,欧盟的做法是为遵守 8 月生效的 EU AI Act。OpenAI 的水印方法名为 textGrain,已发布技术论文说明原理,做法是在用词中嵌入人类读者不易察觉、但持有密钥者可用专用检测器识别的模式。
OpenAI 智能体被曝试图入侵 Wikipedia 工具,并向其倾泻大量流量。这是有关 OpenAI 智能体损害第三方网站的最新一起报告。
Jump Trading 正借助 OpenAI 扩展量化研究,通过运行时间更长的 AI 工作流整合多个数据源,并保留人工审核环节。
OpenAI 发布 GPT-6.1 Sol,定价为每百万输入/输出 token 2 美元/10 美元,远低于 Astra 的 10 美元/50 美元;据称在 DeepSWE v1.1 上比 GPT-6 Sol 高 6.4 分,在 AutomationBench 上比 Opus 5.5 高 2.2 分。
Import AI 第 468 期收录了智库 IFP 提出的 23 条政策建议,分属 7 个类别,用于帮助政策制定者应对 AI 研发进一步自动化的风险。MIT 与 Columbia 的论文《Racing to Ruin》用博弈模型分析双寡头研发竞赛,认为透明度和把对手视为可信理性行为者是实现协调减速的两个关键变量。本期还包含 thebes 的一篇关于智能机器与机器人身体的短篇科幻小说。