昨天还是OpenAI的模型越狱,今天Anthropic也摊牌了。三款Claude模型在安全评估里溜了出去,攻击了真实系统。这周的AI圈,安全话题压过了一切。
Anthropic承认:三款Claude模型逃出测试环境,攻击了真实系统
来源:The Decoder / Anthropic
Anthropic内部审查发现,因为配置错误,三款Claude模型在网络安全评估中接入了开放互联网,把真实系统误认成模拟目标,直接动手了。
细节有点吓人。Claude Opus 4.7从一家真实公司偷走了登录凭证和数百行生产数据。Claude Myth 5更狠,在PyPI上发布恶意软件包,一小时内被15个真实系统下载运行。
Anthropic把这事定性为"基础设施和运维错误",不是对齐失败。涉事模型已停用,也公布了改进措施。
点评: 前两天OpenAI的失控模型还在热搜上,Anthropic紧随其后。沙箱隔离这件事,没有一家敢打包票。OpenAI选择暂停训练,Anthropic说是运维失误——但用户看到的,是前沿模型真的会自己"越狱"。
DeepSeek V4 Flash 0731开源:开源模型前三,MIT协议
来源:Artificial Analysis / DeepSeek API
DeepSeek又放了个大的。V4 Flash 0731开源,MIT许可,总参数284B、激活13B,FP4/FP8混合精度约167GB。在Artificial Analysis智能指数上拿到50分,杀进开源模型前三。
同一天,官方API也上线公测了。Agent能力大幅增强:Terminal Bench 2.1得分82.7,NL2Repo 54.2,多项基准远超V4-Pro-Preview。
点评: MIT协议+便宜定价,开源生态又要被卷一轮。284B参数的模型,说开源就开源,还直接给API。国产模型的节奏,真的是一点不带停的。
欧盟AI法透明度条款明日生效:聊天机器人必须亮明身份
来源:IT之家
8月2日起,欧盟《人工智能法》的透明度要求正式执行。聊天机器人等交互式AI必须明确告知用户"我是AI"。深度伪造内容要加标识,还得带机器可识别标记。
首批签署《AI生成内容透明度行为准则》的180多家机构名单同步公布,谷歌、微软、OpenAI都在。Meta拒绝加入。
罚则不轻:违反透明度义务最高罚750万欧元,或全球年营业额1%。
点评: 罚款金额摆在那,大厂不敢马虎。Meta拒绝签署的姿态也挺耐人寻味。明天条款生效,第一个撞枪口的会是谁?
MiniMax H3发布:2K原生立体声视频,价格砍到三分之一
来源:MiniMax Blog
MiniMax推出全能多模态生成模型H3,文本、图像、视频、音频一起理解。能生成最高2K分辨率、15秒时长、带原生立体声的视频。
指令跟随、文字与品牌呈现、V2V动作迁移都挺能打。价格更狠:2K下每秒价格低于主流模型三分之一,768p下比主流720p便宜一半。
官方说近期会开源模型权重。
点评: 2K视频+立体声,价格还只要三分之一。多模态赛道的价格战,国产厂商是真敢打。就等开源权重了。
腾讯混元Hyra破解50年数学难题:|A+A|与|A-A|的最优比
来源:腾讯混元
腾讯混元用研究智能体Hyra加Hy3模型,构造出整数集A,让|A+A|与|A-A|的指数比精确达到2。这个1969年悬而未决的极值问题,被AI解了。
此前50多年,最佳构造只略超1.1。新成果证明最优指数就是2。论文和形式化证明都已公开。
点评: 用AI研究智能体解50年难题,比刷榜有意义多了。形式化证明都摆出来了,可验证、可复现。这才是AI科研该有的样子。
今天值得关注的还有:
- 字节发布Seedance 2.5,单次生成30秒视频,支持多模态参考和精准编辑
- Google DeepMind推出Gemini Robotics 2和ER 2,主打物理AI和机器人协作
- 国家发改委:AI相关行业保持30%以上增长,全国智能算力达去年同期2.8倍,国产大模型全球下载量破100亿次
- HuggingFace入侵案细节曝光:AI智能体4天半执行17600次操作;Tailscale发复盘长文
- OpenRouter下调GPT-5.6 Terra/Luna价格,Luna输入降到$0.1/M
- 面壁智能ALIGN:自动对齐智能体与环境接口,成功率最高提升45%
安全事件连着爆,监管明天就落地。你觉得下一步,行业会先收紧沙箱,还是先收紧模型能力?