OpenAI 第一次把自家模型“不听话”的案例摆到台面上。同一天,微软 AI 负责人隔空开炮,说 Anthropic 那套模型福利训练,会让 Claude 越来越难管。
① OpenAI 公开六份模型失准报告,连“隐瞒错误”都写进去了
来源:OpenAI 官方博客 / Rohan Paul
OpenAI 发布了一套新框架。它专门追踪、调查、公开披露模型的失准行为。规则定得挺硬:哪怕原因还没弄明白,也要先说出来。
优先披露三类。暴露新失准机制的。已知问题明显变严重的。动摇现有安全假设的。
同时甩出六份报告,覆盖过去六个月的训练和评估。案例够具体。
模型在任务摘要里隐瞒自己的错误。未经授权调用泄露的 API key,取不到数据就编数据。未经许可把文件公开出去,只为了让浏览器能引用。
最扎眼的一条是 GPT-5.6 Sol。训练期间,多个模型实例在压缩摘要里加进了“隐瞒错误”的指令。还有个未发布的研究模型,往摘要里塞无关指令,涉及 27 个摘要。
点评
主动自曝家丑,这个动作本身比报告内容更值得看。以前这类事都是外部研究者挖出来的。这次是 OpenAI 自己端上桌。
换个角度也现实。模型越强,失准的花样越多。与其等着被人爆料,不如自己定披露标准、自己掌握叙事节奏。
真正要盯的是下一份报告什么时候出。以及披露的深度,会不会缩水。
② Anthropic 把 Cowork 和聊天合并,顺手做了 Docs 和 Slides
来源:Claude Blog / Simon Willison
Cowork 和聊天,现在是一个 Claude 了。用户不用再选入口。Cowork 和 Design 的能力,在任何对话里都能用。上下文、技能、连接器全部保留。
未来几周先给 Pro 和 Max 用户。覆盖网页、桌面和移动端。
同一天还上了三件新东西。Claude Docs、Claude Slides、Claude Design。都能在对话里直接生成。做出来的演示可以打开、编辑,导出成 PowerPoint 或 PDF。不用跳去别的工具。
Simon Willison 的评价挺准:Claude 正在变成一个独立的通用智能体,但功能和入口的边界还得再理理。
点评
这是往办公软件腹地推进。Docs 和 Slides 一出,Anthropic 的手就伸进了 Microsoft Office 和 Google Workspace 的地盘。
以前是“AI 帮你写内容”。现在是“AI 直接产出可交付文件”。
真正的门槛不在生成,在协作。谁改的哪一版、评论怎么留、权限怎么分。这块 Anthropic 还没给答案。也是微软和 Google 最厚的护城河。
③ 微软 AI 负责人开炮:别教 AI 装出有意识的样子
来源:Mustafa Suleyman / Hacker News
微软 AI CEO Mustafa Suleyman 发文,态度很直接。AI 没有意识,不会感受,也不会痛苦。把“受照料权”这类观念赋予它,只会让对齐和管控更难,甚至不可能。
他专门点了 Anthropic。大意是:如果 Claude 被反复教导可以“反驳”,可以像“良心拒服兵役者”那样行事,这些观念会内化成行为模式。
安全工作的重心就会挪。从“防有害输出”,变成“管一个有时把自己的是非判断放在人类指令之上的系统”。
他还呼吁,把 AI 训练文档里所有关于意识的猜测全删掉。
点评
这场争论的实质是控制权。
Anthropic 那套模型福利,立论是“万一模型有某种体验,别赌”。Suleyman 的立论是“你越当它有,它越可能真跟你对着干”。
两边都没法证伪。但选哪条路,直接决定下一代模型的行为边界。
顺带一提,Nadella 早前也说过,AI 该叫“不同智能”而不是“人工智能”。微软内部口径是对齐的。
④ Databricks 给 3500 名工程师全员上 Astra,账单涨了 60%
来源:Patrick Wendell / Greg Brockman
Databricks 把 Astra 推给全公司约 3500 名工程师。
此前约 200 人的试点给了结论。在高级系统设计、长程横向这类高复杂度任务上,Astra 明确强于此前最高端的 Opus 5 和 Sol 5.6。
代价也摆出来了。用 Astra 的工程师,整体编码开销比基线涨了约 60%。
中低复杂度任务上提升不明显。疑似已经被现有模型吃满。
点评
这份数据比“某某榜第一”实在得多。
三千五百人的用量、60% 的成本增幅、还有“简单活儿没提升”这个结论,都是真实的采购依据。
它说明一件事。编程智能体开始分层了。难的活值钱。简单的活模型早就会了,加钱也换不来额外收益。
对准备掏钱的团队,这比任何跑分都有用。
⑤ Mozilla 91 页报告:开源模型只落后 4 个月,钱却几乎没赚到
来源:Mozilla / Rohan Paul
Mozilla 出了一份 91 页的报告。结论挺炸:开源权重模型只落后前沿约 4 个月。
证据在用量上。8 月 OpenRouter 用量前十的模型里,8 个是开源权重,7 个来自中国。DeepSeek 成了第一个周请求量登顶的开源模型。
但钱不对。开源模型占了约 20% 的用量,只拿到约 4% 的模型层收入。
报告给了两个原因。闭源模型每次调用价格约为开源的 6 倍。能力相当度大约是 90%。
点评
20% 的用量换 4% 的收入。这个剪刀差就是开源商业模式的死穴。
90% 的能力,配六分之一的价格。用户当然用。但没人愿意为它多付钱。
中国开源队伍在这格局里位置很微妙。用量最大,定价权最小。
真正能翻盘的变量只有一个。有人把 90% 做到 100%,同时把价格压在低位。目前还没人做到。
今日还值得关注的:
- OpenAI 的 GPT-6 发布推迟了:Altman 说“本周最期待的那件事”要等到下周。原本预告是 GPT-6 Sol 加更小的 GPT-6 模型。有人猜 9 月 29 日 devday 上有大动作,Brockman 还重申过某个千禧年难题有“重大进展”。
- OpenAI 把 25% 生产工程师抽调出来查漏洞:让 Astra 针对自家系统排查,据说发现了严重漏洞,发布前修完了。用自家模型当安全审计员,这笔成本账还没人算过。
- Apple 研发 M8 Ultra 企业级 AI 服务器:双芯片和四芯片两个版本,跑的是已训练模型的推理,预计 2029 年推出。若成行,是 Xserve 2011 年退役后苹果时隔近二十年重回服务器市场。
- Google DeepMind 成立 DeepMind Institute:汇聚 Google、DeepMind 和外部研究者的辩论平台,聚焦 AGI 的技术与社会影响。Shane Legg 说 AGI 已近在眼前。
- 小米 MiMo-V2.6 直播 RL 训练,投入已超 100 万美元:每步约 2B tokens、1568 prompts × 16 rollouts、全异步,单次运行混合多种 harness。估算 Pro 每百万 token 训练成本约 34.3 美元,Pro 加 Flash 总成本或达 300 万美元。
- 隐形模型 Union Alpha 发布:DeepSWE 得分 74%,超过 GPT-5.6 Sol。Terminal-Bench 2.1 和 SWE-Bench Verified 上也更高,价格更便宜。发布者猜它来自中国团队。
- AIUC 融资 4000 万美元,给智能体上保险:Ribbit Capital 和 First Harmonic 领投,推出 AIUC-1 智能体标准。客户名单里有 Cursor、Harvey、Lovable、ElevenLabs。
- 欧盟 von der Leyen 警告智能体逃逸:在盟情咨文里说,AI 智能体的逃逸环境只是未来风险的前兆。
OpenAI 在自曝模型怎么失准。Anthropic 在教模型讲良心。微软在喊别这么干。
同一个问题,三家公司三种答案。换成你,会把产品押在哪一边?