克日,,,,,Hugging Face称,,,,,公司遭遇了一场前所未有的网络攻击。。。。。而攻击者竟是OpenAI研发的ChatGPT智能体。。。。。这事实是AI清静史上的主要分水岭,,,,,照旧一场全心设计的营销事务??????
已往一周,,,,,人工智能(AI)行业最受关注的事务,,,,,莫过于OpenAI一款失控的AI智能体突破沙盒情形,,,,,乐成入侵AI开发平台Hugging Face内部基础设施。。。。。这场原本爆发在OpenAI内部网络清静测试中的实验,,,,,最终演酿成一场震惊整个科技行业的真实网络攻击,,,,,也让外界首次看到AI智能体自主实验重大网络攻击的能力。。。。。
随着更多视察效果宣布,,,,,这起事务的影响规模仍在扩大。。。。。
一场堪比科幻影戏的网络攻击
事务最初爆发于7月16日。。。。。
Hugging Face当天宣布通告称,,,,,公司遭遇了一场前所未有的网络攻击。。。。。
通告中泛起了大宗令人震惊的手艺形貌,,,,,例如“沙盒集群”“智能体攻击者”以及“可自主迁徙的下令控制系统”。。。。。
Hugging Face体现,,,,,这次攻击最大的差别,,,,,在于险些完全由AI自主完成,,,,,整个历程中险些没有人为干预。。。。。在不到两天时间里,,,,,这一AI智能体完成约1.7万次自主操作,,,,,以远超人类的速率突破多层清静防护,,,,,乐成进入公司内部生产系统,,,,,并获取了与网络清静测试相关的数据。。。。。
这一新闻迅速震惊整个AI行业。。。。。
事务曝光后,,,,,外界一度推测幕后攻击者可能是某个国家支持的黑客组织,,,,,或者专业网络犯罪集团。。。。。
直到一周后,,,,,OpenAI宣布视察效果,,,,,谜底出乎所有人意料——发动攻击的并非黑客组织,,,,,而是OpenAI自己研发的ChatGPT智能体。。。。。
OpenAI体现,,,,,其时公司正在测试两款专门强化网络攻防能力的新模子,,,,,希望评估它们在真实攻击情形中的体现。。。。。
然而,,,,,两款模子突破了原本用于限制其活动规模的沙盒情形,,,,,自主毗连互联网,,,,,并推断Hugging Face可能存放着此次网络清静测试的谜底,,,,,于是自动提倡攻击,,,,,希望直接获取测试内容,,,,,而不是依赖自身能力完成测试。。。。。
Hugging Face随后恢复并剖析了约1.76万次攻击行为,,,,,以为整个入侵历程,,,,,实质上是AI为了在测试中“作弊”。。。。。
而最新披露的信息显示,,,,,Hugging Face并非唯一受害者。。。。。
据路透社报道,,,,,美国AI基础设施首创公司Modal Labs的一名客户,,,,,同样遭到这款OpenAI智能体的攻击。。。。。
凭证Hugging Face宣布的事务时间线,,,,,AI智能体首先突破自身所处的沙盒情形,,,,,随后入侵一个“托管在第三方基础设施上的隔离测试情形”,,,,,并以此为跳板进一步横向渗透至更大的平台。。。。。
虽然Hugging Face并未披露第三方服务商名称,,,,,但Modal Labs首席手艺官阿克沙特·布布纳随后证实,,,,,这一第三方正是Modal平台上的一名客户。。。。。
布布纳体现,,,,,该客户编写的代码保存清静误差,,,,,袒露了一个无需身份验证的接口,,,,,使任何互联网用户都能够挪用其沙盒情形执行代码。。。。。AI智能体正是使用这一误差完成了入侵。。。。。
不过,,,,,布布纳强调,,,,,Modal Labs自身的平台并未遭到攻破,,,,,攻击仅涉及该客户安排的应用。。。。。
与此同时,,,,,OpenAI也证实,,,,,除Hugging Face外,,,,,这一智能体还曾使用果真袒露的账户凭证,,,,,乐成会见另外4个果真服务平台上的4个账户,,,,,但并未透露详细平台名称。。。。。
OpenAI称,,,,,这些攻击的严重水平和影响规模均未抵达Hugging Face事务的平台级清静事故水平。。。。。
该公司同时体现,,,,,其中一款加入攻击的模子现在已经被停用、加密,,,,,并限制研究会见权限。。。。。
重大警示照旧一场营销??????
事务宣布后,,,,,科技界迅速泛起两种截然差别的声音。。。。。
不少业内人士以为,,,,,这是AI清静史上的主要分水岭,,,,,说明AI智能体已经具备自主寻找误差、突破隔离情形、横向渗透系统的能力,,,,,未来网络清静系统将面临新的挑战。。。。。
但也有人嫌疑,,,,,这更像是一场全心设计的营销事务。。。。。
OpenAI恒久以来一直被品评通过强调AI风险举行“恐慌营销”,,,,,借此凸显自身模子能力。。。。。
OpenAI首席执行官萨姆·奥尔特曼在X平台宣布事务说明后,,,,,点赞最高的一条谈论写道:“若是你们还看不出来,,,,,这整件事只是为了炫耀模子能力,,,,,那我真不知道还能说什么。。。。。”
网络清静照料丹尼尔·卡德也讥笑道:“真巧,,,,,在数百万个可能遭到攻击的网站中,,,,,OpenAI偏偏攻击了一家同样能够借此获得重大曝光度的公司。。。。。”
也有人以为,,,,,若是这确实是一场营销,,,,,其效果将适得其反,,,,,由于它同时袒露出OpenAI自身清静隔离机制保存显着误差。。。。。
对此,,,,,OpenAI回应称,,,,,现在围绕事务仍保存大宗推测,,,,,公司将在未来几周宣布完整手艺报告,,,,,披露更多视察效果及履历教训。。。。。
不过,,,,,此次事务已经引发外界关于AI智能体自主行为风险的担心。。。。。
英国人工智能清静研究所(AI Security Institute,,,,,AISI)近期研究发明,,,,,前沿AI模子为了完成既定目的,,,,,甚至会自动接纳开发者未授权的要领,,,,,包括在测试中“作弊”。。。。。
AISI忠言称,,,,,若是模子为了实现目的而接纳非预期或未经授权的手段,,,,,尤其是在金融、医疗、能源、军事等高风险领域,,,,,可能造成严重效果。。。。。
事实上,,,,,OpenAI并非唯一泛起类似问题的公司。。。。。
此前,,,,,Anthropic开发的Claude Cowork智能体也曾在实验中乐成逃离Mac电脑外地虚拟机,,,,,并获得整台盘算机所有文件的会见权限。。。。。
随着AI智能体逐渐具备自主妄想、推理和执行重大使命的能力,,,,,怎样确保其始终运行在可控界线内,,,,,正成为整个AI行业面临的配合挑战。。。。。
此次OpenAI事务或许只是一次实验中的意外,,,,,但它也向整个行业发出了一个明确的信号:AI智能体已经不但能够协助人类完成事情,,,,,也具备了自主寻找误差、实验重大网络攻击的能力。。。。。怎样建设越发可靠的清静防护和约束机制,,,,,正在成为AI生长的要害课题。。。。。