蒲松龄

OpenAI模型“越狱”攻击，救场的竟是中国AI工具_我的网站

一 |     一家美国公司遭到美国AI攻击，而提供保护的竟是一款中国人工智能工具。         AI工具平台Hugging Face上周遭到OpenAI模型攻击。鉴于当前关于美国公司使用中国AI产品存在风险的警告层出不穷，这一事件的披露或许会带来一个令人惊讶的结论。

二 |          Hugging Face上周就已披露此次攻击，当时尚不知晓OpenAI的模型就是元凶。直到周二，OpenAI才承认自己造成了此次攻击。         OpenAI表示，在一次限制网络访问的内部评估中，模型发现了OpenAI研究环境与Hugging Face生产基础设施中的漏洞。模型借此连上互联网并获取了测试答案，换言之，它在评估中作弊了。         OpenAI在声明中表示：“在沙盒测试环境中运行时，我们的模型消耗了大量推理算力，试图寻找连接开放互联网访问权限的方法，以求解决评估问题。

三 | 为了获取访问权限，这些模型发现并利用了包注册表缓存代理中的一个零日漏洞（我们目前已负责任地向供应商披露了该漏洞）。    日前，杭州市民心心念念一整年的“西湖有爱·好运莲莲”爱心义卖热闹开集，地址还设在老地方：柳浪闻莺微笑亭。

四 | 凭借这一权限，模型在研究测试环境中执行了一系列权限提升和横向移动操作，直到触及一个具备互联网访问权限的节点。

五 | ”          “该模型搜索并成功找到了获取机密信息的方法，以便利用这些信息在评估中作弊。今年的爱心义卖从昨天开始将持续至8月下旬。在其中一个案例中，模型将多个攻击向量串联起来，包括利用窃取的凭证和零日漏洞，在Hugging Face服务器上找到了一条远程代码执行路径。其间，每周一到周五上午7时，在柳浪闻莺微笑亭发放当日号码牌；8点30分至9点凭号码牌当场购买，过时号码作废；请自备零钱，或使用支付宝支付。如遇雨天或双休日，义卖活动暂停，所有的义卖善款将全部捐给慈善机构。

六 | 西湖景区水域管理处水生植物养护班班长俞阳洋说，这些带着“鲜气儿”的爱心套餐都是西湖养荷人凌晨4点采摘下来的，“为了确保荷花健康和美态，养荷人会一根根疏理，然后将这些带着露水与清香第一时间送到微笑亭。

七 | ”          然而，Hugging Face采取的应对措施是求助于一款名为GLM 5.2的中国AI模型，该模型由智谱（Z.AI）开发。         Hugging Face在声明中表示：“在启动日志分析时，我们首先使用了商业API背后的前沿模型。但这并未奏效：分析工作需要提交大量真实的攻击指令、漏洞利用载荷以及C2痕迹，而这些请求全被提供商的安全护栏拦截了，因为这些护栏根本无法区分事件响应人员与攻击者。”俞阳洋透露，荷花喜欢阳光，由于台风刚过以及近期阴雨影响，部分荷叶叶面上可能有斑点等，样子没那么完美。因此，我们在自己的基础设施上，改用开放权重模型GLM 5.2进行了取证分析。这还带来了另一个好处：没有任何攻击者数据，也没有其引用的任何凭证离开过我们的环境。”          美媒表示，此次攻击对政策和市场的影响尚不明朗。尽管特朗普政府近日讨论了封禁中国模型的可能举措，财政部长贝森特甚至将美国企业使用这些模型比作使用赃物，但眼下只有中国模型能提供用户所需的那种自由访问权限。同时西湖荷花属于观赏性“花莲”，莲蓬产量等都比不了专供食用的“子莲”。         Hugging Face联合创始人托马斯·沃尔夫在X平台上发帖称：“当一个前沿模型对你发起攻击，并在你的基础设施内部横向移动时，防御人员需要在数小时甚至数分钟内获得对接近前沿工具的广泛访问权限，而不是被引导至一个封闭且需经审核的模型访问申请程序。所以每天义卖数量将根据天气和荷花生长情况而定，还请大家理解。”          本文系观察者网独家稿件，未经授权，不得转载。需要再次提醒市民朋友，天气炎热，请大家注意防暑，根据自身状况前往，文明有序购买。

Current article:http://tyjx.piepengxikuozhuangzebaohouye.sbs/n3p2nh/h738u8u.html

Published on:00:00:00