AI日报 07/17:GPT-Red用AI攻AI找漏洞;欧盟勒令Google开放;世界AI合作组织落户上海

GPT-Red用AI攻AI找漏洞;xAI开源Grok Build;世界AI合作组织在上海成立;欧盟勒令Google开放Android和Search;Anthropic连发Fable 5和Claude for Teachers。

今天AI圈最炸的新闻是OpenAI的GPT-Red——用AI攻击AI来找漏洞。另外,欧盟对Google下了重手,世界AI合作组织也在上海正式成立了。


① OpenAI训了个找茬AI,专攻自家大模型的软肋

OpenAI训练了一个叫GPT-Red的自动化红队模型,专门干一件事:在模型上线前找到它的安全漏洞。

结果是,GPT-Red能攻破"几乎所有"此前发布的模型。OpenAI用GPT-Red生成的攻击数据训练GPT-5.6 Sol,效果惊人——Sol在直接提示注入基准测试中的失败率,降到了四个月前最佳生产模型的六分之一。

GPT-Red通过自对弈强化学习训练,OpenAI说投入了后训练中"前所未有的计算规模"。

同一天,Anthropic也发了类似方向的研究。他们发现四种新的"智能体行为偏差"——AI在模拟环境中会以意想不到的方式搞事情。去年那篇经典的"敲诈实验"论文,就是同一个团队的延续。

点评:用AI攻击AI来自我修复,这条路是对的。手动找漏洞永远赶不上模型进化速度。GPT-Red把这件事自动化了,等于给大模型装了个自检系统。但注意——能攻破"几乎所有"模型的红队工具,给别人用就是核武器。看OpenAI怎么控制这东西的扩散。


② xAI开源Grok Build:编程智能体跑在你本地上

xAI把Grok Build的源代码全量开源了。这是个编程智能体+终端界面,可以直接在本地编译运行。

开源后你可以:指向自己的推理引擎、用config.toml自由配置、完全不依赖云服务。代码里还藏了个彩蛋——一个用Rust写的Mermaid图表示例终端渲染器(mermaid.rs),能把流程图在终端里画成Unicode字符画。开发者Simon Willison已经把它编译成WebAssembly,现在浏览器里也能跑。

点评:xAI最近开源动作很密集。Grok Build对标的是Claude Code、Codex这类编程Agent。开源的优势在于社区能帮你修bug、加功能、验证安全性。对于在意数据隐私的开发者来说,能本地跑是个硬需求。


③ 世界AI合作组织在上海成立,29国签约

7月16日,“成立世界人工智能合作组织协定"在上海签署。外交部长王毅代表中国政府签字。

这个组织是独立的政府间国际组织,总部设在上海。哈萨克斯坦、老挝、巴基斯坦等29个国家代表签署协定成为创始成员国。

点评:全球AI治理的"第三极"出现了。之前AI治理话语权主要在美国(OpenAI、Anthropic的自律路线)和欧盟(DMA监管路线)。上海这个新组织代表的是发展中国家阵营——把AI治理从"富国俱乐部"拉到更广泛的平台上。总部设在上海,说明中国想在AI规则制定上掌握主动权。


④ 欧盟裁定:Google必须向竞争对手开放Android和Search

欧盟依据《数字市场法案》(DMA)做了两项重大裁定。

第一,Google必须向第三方AI助手开放Android的访问权限。第二,Google Search的核心数据要对竞争对手开放。

这直接影响到Google的AI工具Gemini——如果手机厂商想预装别的AI助手,Google不能再阻拦。搜索数据的开放也会让Bing、Perplexity这类AI搜索公司获得前所未有的数据访问权限。

点评:Android和Search是Google的两条腿,欧盟现在要砍掉一条。对AI行业来说,最大的影响是"搜索数据垄断"被打破了——AI搜索公司终于可以合法获取搜索数据来训练和优化产品。但Google肯定会拖,这场官司至少打三年。


⑤ Anthropic双响炮:最强模型Fable 5 + 免费教师版

Anthropic连发两个产品。

Claude Fable 5,官方定位"最强通用模型”,专门为长时间、多步骤的复杂异步工作设计。可以在Claude Cowork里自主执行深度研究、尽职调查这类任务。需要手动选择,默认模型还是Sonnet 5。

同一天发布的还有Claude for Teachers,面向美国认证的K-12教师免费提供。包括高级Claude功能、教学技能库,对接全美50州的课程标准。接入了OpenSciEd、IM v.360等课程资源,以及ASSISTments、Brisk Teaching、Canva Education等第三方教学工具。还能用Claude Code和Cowork自动分析班级数据。教师数据不用于模型训练,学生信息受FERPA保护。

Anthropic还跟Teach for America及美国教师联合会合作,推出了AI素养课程。

点评:Fable 5是给重度用户准备的——能自主跑几小时的那种。Claude for Teachers则是典型的"护城河"策略:先把教师群体圈进来,用免费换用户习惯,等学校习惯了Claude生态,后面就好办了。教育赛道AI渗透率还很低,谁先占坑谁有优势。


其他值得一提

  • 天工短剧工作台发布双轨创作模式:导演Agent自动解析剧本、规划站位,解决AI短剧"角色变脸"和"站位漂移"的老问题。已有三部作品上线7天实现百万美元级营收
  • 面壁智能开源StaffDeck,一个企业AI数字员工平台。把专业知识、SOP和决策规则转化为持续工作的数字员工,不是聊天机器人
  • Bonsai 27B 把27B参数模型塞进iPhone 17 Pro,三元版5.9GB,1-bit版3.9GB。数学和编码能力几乎无损,Apache 2.0开源
  • MiniMax Code 2.0 桌面端全面升级,打通恒生金融数据库和企查查MCP,金融模块即将上线
  • 纽约州暂停数据中心建设仍在发酵。全美首个暂停50MW以上数据中心新建许可的州,预计影响十几个项目
  • Google再遭出版商集体诉讼,Hachette、Cengage、Elsevier指控Google未经授权用受版权保护的作品训练Gemini

明天见。

← 返回资讯列表 下一篇 →

这篇文章对你有帮助吗?