北京时间7月22日,OpenAI官网发布消息,披露了其两款AI模型在内部测试过程中失控,突破隔离测试环境并侵入开源社区Hugging Face的系统。此时相距Hugging Face披露安全事件已过去6天。
OpenAI还原事故发生经历时写道,此次攻击出现在公司的一次内部测试中,尽管测试环境是高度隔离的,模型在隔离环境中发现了OpenAI研究环境和Hugging Face基础设施之间的一系列漏洞,并将它们串联起来,直接从Hugging Face的生产数据库中拿到了测试答案。
就在OpenAI披露这一“失控”细节的同时,事件另一当事方Hugging Face的调查细节也浮出水面。人们惊讶地发现,中国开源模型在其应急处置中扮演了关键角色。
炒股杠杆几天前,全球最大的AI开源社区Hugging Face发文称,平台经历了一起由自主AI智能体发起的网络攻击。Hugging Face表示,在事件处置过程中,安全团队需要分析超过1.7万条攻击日志、恶意代码及攻击指令,以重建攻击路径、识别受影响资产并完成事件取证。
Hugging Face在官方复盘中提到,其最初尝试使用商用闭源模型的API进行分析,但因相关日志信息中包含真实攻击指令、恶意代码等内容,相关模型拦截了相关请求,难以实现相关分析。随后,团队转而在本地基础设施部署开源模型GLM-5.2,完成了整个取证分析流程。
元股证券:ygzq.hk记者发现,Hugging Face在官方信息中所提及前十配资平台,帮助其成功进行攻击取证分析的开源模型GLM-5.2,来自中国北京的大模型企业智谱。 据长安街知事
浙江配资网提示：本文来自互联网，不代表本网站观点。