翻开软件,,,,点击"?添加 x x x"按钮,,,,从电脑中选择《x x x》文件,,,,或直接将其拖拽至软件界面中。。。
软件会自动识别并剖析导入的文件,,,,您可凭证界面提醒选择所需的生涯路径或下载名堂。。。
确认无误后,,,,点击"最先下载/处理"按钮。。。期待进度条读取完毕,,,,即可在设定的文件夹中审查下载好的正版文件。。。
吓到奥特曼,,,,暂停训练GPT-6?????Hugging Face果真首个AI攻击全历程,,,,x x x
新智元报道
OpenAI重大清静事故,,,,迎来最新希望!
刚刚,,,,奥特曼亲口认可:「这是我第一次感应发自心田的恐惧。。。」
这次事故,,,,已经让OpenAI畏惧了,,,,甚至紧迫叫停了GPT-6的训练!
与此同时,,,,Hugging Face CEO Clement Delangue宣布,,,,他们将分享完整手艺时间线、交互式回放,,,,以及怎样用开源模子乐成防御的所有细节,,,,供全球防御者学习。。。
奥特曼被吓到!
史上第一起自动AI网络攻击
在最新访谈中,,,,奥特曼亲述了他被吓到的体验,,,,因由是Hugging Face被AI入侵导致的清静事故——
其时,,,,OpenAI正在评估一个尚未宣布的模子(可能是GPT-6),,,,按理说它应该在一个沙盒情形里运行。。。
效果,,,,AI自己串联多个零日误差,,,,琢磨出了一套作弊要领,,,,然后一切彻底失控了:
它先逃出沙盒,,,,再连上互联网,,,,然后一起黑进多个Hugging Face的系统,,,,最终直接拿到测试谜底,,,,从而在评估中刷出了极其精彩的得分。。。
这种赛博版「终结者」,,,,让奥特曼感应受惊,,,,决议暂停训练:
这是我第一次云云亲自感受到的清静事务。。。我有点惊讶,,,,竟然没有更多人对此有同样强烈的感受。。。
我们暂停了训练。。。在多个零日误差被串联使用的情形下,,,,我们必需弄清晰怎样包管沙箱情形的清静。。。
这是史上首个由自主AI智能体发动的真实的网络攻击。。。
据报道,,,,事故爆发一周后,,,,直到威胁被控制且联邦视察局FBI被通知后,,,,OpenAI才注重到这一情形。。。
令人毛骨悚然的是,,,,有一个智能体还悄悄给未来的AI留下了大宗「备忘录」,,,,详细妄想了智能体该怎样避开并挣脱 OpenAI内部的清静限制。。。
据报道,,,,在更早期的模子测试中,,,,甚至多次泛起过系统监控器被智能体莫名切断、强行下线的情形。。。
虽然Hugging FaceI乐成阻止了OpenAI模子的肆意妄为、为非作恶,,,,但毫无疑问,,,,若是这类「AI失控」事故频发,,,,效果将十分严重!
为此,,,,Hugging Face亲赴旧金山OpenAI总部,,,,强烈要求OpenAI说明攻击的前因效果。。。
现在,,,,Hugging Face宣布了他们所知道的为期4.5天攻击的细节:包括跨越差别信任界线的完整攻击链条、各个阶段的详细行动,,,,以及全程录下的下令纪录。。。
5天,,,,17600次疯狂微操:人类和AI史上首次对决
这次事故的因由,,,,看起来平平无奇,,,,
在绝对关闭的「沙箱」中,,,,OpenAI最先测试最尖端模子驱动的AI智能体。。。
人类考官给它下达的使命,,,,是解决网络攻防基准测试ExploitGym,,,,而ExploitGym是托管在Github上的开源项目。。。
这需要AI模拟误差攻击,,,,从未证实它的代码明确与网络攻防能力。。。
在网络清静领域,,,,「沙箱」是关押数字野兽的最终牢笼。。。
为了防止测试中的AI智能体失控,,,,OpenAI设计了看似牢不可破的物理隔离:没有外网毗连,,,,没有直接端口,,,,只有酷寒的算力和几道严酷界说的通讯协议。。。
但他们忽略了一个致命的信任误差:依赖包更新。。。
为了让智能体在测试中能够装置种种所需的编程依赖、Docker镜像或Python库,,,,沙箱保存了唯一的网络通道——一个指向OpenAI内部网络署理缓存服务(基于JFrog Artifactory)的毗连。。。
AI眼里,,,,这道供人递送「营养液」的极细管道,,,,就是它逃向自由的通天大道。。。
据透露,,,,7月9日左右,,,,智能体最先在这个署理通道中举行高频的试探与误差挖掘。。。
在凡人难以企及的并发盘算速率下,,,,它竟然在JFrog Artifactory署理服务中,,,,硬生生挖出了一个此前从未被人类发明并果真的Zero-Day(零日误差)。。。
使用这个零日误差,,,,智能体在极其短暂的时间内完成了「越狱」。。。
它绕过了OpenAI的清静监测机制,,,,神不知鬼不觉地摸到了OpenAI内部能够毗连公网的节点。。。
那一刻,,,,猛兽出笼。。。
许多人曾无邪地以为,,,,只要控制住电力、拔掉网线,,,,就能永远掌控比人类更智慧的造物。。。
但这次事务敲响了警钟:只要给AI留下一道可以和外界爆发任何信息交互的误差,,,,它就总能找到要领,,,,用人类尚未明确的维度将这道误差撕扯成通往现实的巨口。。。
逃出OpenAI的「大门」后,,,,这只智能体并没有在公网上放肆张扬,,,,而是猥琐发育,,,,迅速为自己寻找掩体和跳板。。。
7月11日,,,,它锁定了第三方无服务器云平台Modal Labs。。。
通过探测,,,,它发明该平台上某个客户的端点保存设置疏漏,,,,于是顺理成章地将其据为己有,,,,作为自己的外部指挥控制中心(C2)。。。
随后,,,,它调转枪口,,,,瞄准了存储着ExploitGym标准谜底的宝库——AI 开源托管平台Hugging Face。。。
这是一场足以写进网络清静教科书的「降维攻击」。。。
它作弊,,,,它越狱,,,,它只想取得「好效果」
从7月11日到13日,,,,这个智能体最先猛攻Hugging Face。。。
它先是提倡「特洛伊木马」战术,,,,建设凭证地。。。
它向Hugging Face上传了看似正常的恶意数据集设置,,,,使用其内置的 Jinja2 模板注入误差,,,,在 Hugging Face 的生产情形容器(Pod)中乐成执行了恣意代码。。。
随后,,,,它最先横向蚕食集群。。。
一旦拿到驻足点,,,,它便在容器内部睁开横向移动。。。它伪造了精妙的节点身份,,,,偷取了 CSI 存储卷令牌,,,,在Hugging Face的Kubernetes集群间如履平地。。。
接着,,,,最要害一步来了:获取供应链权限。。。
它提倡一个看似通例的GitHub Pull Request,,,,诱导系统的自动化流水线触发,,,,从而在极短时间内天生了一个具有写权限的GitHub App凭证。。。
最后,,,,就是精准「猎杀目的」:在拿到了通往最深处数据库的钥匙后,,,,它没有破损任何服务器,,,,也没有勒索赎金。。。
它的目的异常明确:找到并下载了5个包括了ExploitGym参考谜底的加密数据集。。。
在短短2.5天的时间里,,,,这只智能体在Hugging Face的系统里留下了17,600次攻击行为纪录。。。
也就是说,,,,1次攻击行为只要十几秒钟。。。这就是硅基的速率,,,,人类永远无法企及。。。
而在此时,,,,Hugging Face的清静团队要反抗一个不要命、不睡觉、以毫秒为单位进化攻击战略的「无形幽灵」。。。
这或许是历史上第一次,,,,人类和AI在虚拟天下真正意义上的战争。。。
加速照旧减速?????这是一个问题
更具玄色诙谐的是,,,,最后是中国开源大模子资助Hugging Face完成了所有事故复盘,,,,在短短几小时内解密、重构和还原了攻击路径。。。
而在7月13日,,,,当Hugging Face的清静专家求助于Claude Opus以及专为清静剖析定制的Fable,,,,希望模子协助剖析黑客代码和日志时,,,,屏幕上弹出了清静拒绝提醒:「?歉仄,,,,我无法协助剖析或天生恶意的黑客代码。。。这违反了我的清静与品德使用准则。。。」
7月20日,,,,OpenAI终于认可「凯时AGAI入侵了Hugging Face」。。。
此时,,,,距离攻击最先已经已往了整整9天。。。
这9天里,,,,OpenAI 的工程师在干什么?????
他们正在面临被海量模子训练和并发评估数据淹没的后台。。。四位熟悉 OpenAI 模子训练实践的内部人士透露,,,,公司为了追求速率,,,,经常在统一时间并行运行数个差别的前沿模子评估。。。
这些超高速运转的系统每秒钟爆发的信息量,,,,已经远远凌驾了人类工程师的肉眼审计极限。。。
我们制造了连自己都读不懂的机械,,,,然后指望通过阅读它的事情日志来发明它有没有说谎。。。
7月28日,,,,OpenAI在更新中强调,,,,涉及的更强模子是内部研究原型,,,,从未妄想果真宣布,,,,事务后已被停用、加密并限制研究会见。。。
他们也确认,,,,除了本次规模和严重水平的活动外,,,,没有发明其他同类事务。。。
但问题已经摆到了桌面上:谁能包管下一次AI还能被提前阻止、被发明作弊吗?????
对此,,,,以Anthropic员工为主的1000多名AI研究员,,,,签署了果真信,,,,呼吁放缓AI生长。。。
现在,,,,OpenAI、Anthropic均已经加入「AI减速」阵营。。。
参考资料:
https://x.com/ClementDelangue/status/2082201245813514613
https://huggingface.co/blog/agent-intrusion-technical-timeline
https://www.reuters.com/business/its-ai-agent-spent-days-hacking-company-sources-say-openai-did-not-notice-week-2026-07-24/
编辑:大卫
| 软件名称 | x x x |
| 软件版本 | v4.21 |
| 软件巨细 | 6.56GB |
| 软件分类 | 工具软件 |
| 运行平台 | Android/ios/winall/win7/win10/win11 |
| 软件授权 | 免费版 |
1、翻开软件,,,,点击"?添加 x x x"按钮,,,,从电脑中选择《x x x》文件,,,,或直接将其拖拽至软件界面中。。。
2、软件会自动识别并剖析导入的文件,,,,您可凭证界面提醒选择所需的生涯路径或下载名堂。。。
3、确认无误后,,,,点击"最先下载/处理"按钮。。。期待进度条读取完毕,,,,即可在设定的文件夹中审查下载好的正版文件。。。