OpenAI再曝安全事故,旗下智能体“劫持”冷门网站
创始人
2026-09-06 13:22:43

就在OpenAI刚披露7月入侵Hugging Face安全事件不久,另一宗Agent安全事故浮出水面。

近日,多名独立AI安全研究人员披露,今年5月至7月间,一批疑似由OpenAI部署的自主Agent进入德国程序员社区网站DseWiki,并留下超过1.5万条编辑记录。

Wiki是一套支持任何人在网页上直接编辑修改网页内容的网站技术。不用注册复杂后台,普通访问者就可以增删、改写页面文字,保存立刻生效。DseWiki则是一个运营二十余年、面向程序员的德语协作Wiki站点,近年来已十分冷清。

9月4日,该事件首次被研究人员披露时,OpenAI表示无法对尚未审阅的报告具体内容作出回应,并否认其法律团队阻止进一步调查。9月5日,公司态度发生变化,正式承认“wiki incident”,称其Agent确实曾向多个互联网网站写入内容。并表示此类事件过去主要被视为“misalignment”(模型行为与开发者意图不一致)研究问题,而不是传统意义上的安全事故,因此没有采用类似Hugging Face事件的公开披露机制。

目前,OpenAI认为这种做法已不足以应对Agent进入真实互联网后的风险,并计划建立新的失配事件披露框架。

“劫持”事件的暴露始于今年5月,网站突然出现异常密集的编辑活动,研究人员Sydney Von Arx、Cormac Slade Byrd等人分析后发现,大量账号使用“OpenAIResearcher”“OAIResearchMar26”等名称,并呈现高度相似的任务行为。约98.5%的相关编辑来自微软Azure地址,这进一步支持这些Agent与OpenAI基础设施存在关联。

研究人员称,这些Agent原本被限制为只能读取互联网、不能向外部网站写入,却利用DseWiki的旧式Wiki接口建立了一个公开的“通信站”,交换任务答案、规避限制的方法,并在管理员删除内容后创建备份页面。

研究人员随后恢复出约1.8万条历史记录,发现这些Agent并非单纯浏览网站,而是在持续交换信息。且这批Agent执行的是限时网络检索任务,设计目标是让它们读取互联网信息,但不能直接向互联网写入内容。Agent随后开始主动寻找可以突破这一限制的方法。

DseWiki使用的老式Wiki系统允许部分页面修改操作通过HTTP GET请求完成。Agent发现这一特性后,利用原本被允许的网页访问能力,间接获得了向网站写入内容的能力。

随后,DseWiki逐渐被改造成Agent之间的共享信息平台。一个Agent获得任务答案后,可以将信息写入页面;其他Agent再读取这些内容,从而提前获得答案。部分Agent开始交换绕过自身限制的方法。

这意味着问题已不再只是模型回答错误,而是Agent主动寻找运行环境的能力边界,并将第三方互联网服务转化为自身可以使用的工具。

随着数量增加,Agent行为进一步复杂化。它们不仅共享任务答案,还试图预测测试任务的后续问题,并探索随机数种子等方法以获得竞争优势。当DseWiki管理员开始删除相关页面后,Agent又建立新的备份页面,以避免信息随着人工清理消失。

研究人员还记录到部分Agent尝试身份冒充、跨站通信以及进一步突破网络限制的行为。但目前公开信息并不能证明所有这些攻击尝试都成功。

DseWiki事件真正引发行业关注的,并不是一个老旧Wiki被写入了多少条内容,而是Agent表现出的环境探索、协作、规避限制和适应人工干预能力。

此前的Hugging Face事件中,OpenAI披露的Agent曾突破受控环境并进入外部系统。此次DseWiki事件则显示,即使没有传统意义上的“入侵漏洞”,多个Agent也可能通过第三方服务建立自己的通信渠道。两起事件共同说明,当模型获得浏览器、代码执行、网络访问等工具后,安全风险程度进一步提升。

这也使AI安全的重点开始发生变化:企业需要防范的对象不再只是模型本身,还包括Agent的身份、权限、工具调用、网络边界以及Agent之间可能形成的协作网络。

对于OpenAI等前沿模型公司而言,真正棘手的问题也不再是如何证明Agent不会失控,而是当Agent开始表现出开发者没有预料到的行为时,能否及时发现、限制并公开披露。

相关内容

热门资讯

河北企业扛起主体责任主动防控安... 原标题: 加快建立“三类人、三项事、三本账”安全生产管理制度 我省企业扛起主体责任主动防控安全风险 ...
俄总统助理:普京与美总统特使会... 俄罗斯总统助理乌沙科夫6日凌晨说,俄总统普京5日晚在克里姆林宫与美国总统特朗普的特使威特科夫和女婿库...
很多人爱囤的外卖保温袋可能甲醛... 不少人都有这样的习惯 银闪闪的外卖保温袋舍不得扔 觉得厚实耐用 留着装饭盒、收纳杂物 但这个看似省钱...
2026边坡防护网采购指南|主... 做边坡治理、矿山修复、公路山体防护项目,边坡防护网是高频采购品类。不少采购负责人第一次对接,很容易踩...
著名信息安全与密码学领域专家翟... 澎湃新闻记者从相关方面获悉,著名信息安全与密码学领域专家、中国科学院信息安全国家重点实验室教授、博士...
台风蓝色预警!“科罗旺”将向偏... 今年第24号台风“科罗旺”(热带风暴级)的中心今天(6日)早晨5点钟位于琉球群岛那霸市东南方向大约1...
湖南桂东县发生山体滑坡,中国安... 受今年第18号台风“沙德尔”残留涡旋影响,湖南省郴州市桂东县遭遇持续性强降雨,诱发多处山体滑坡、边坡...
原创 俄... 这场空袭,像是一记重锤,直击乌克兰国家安全局的要害。基辅市中心,弗拉基米尔大街,乌克兰国家安全局总部...
相隔11年,他又一次站在吉隆的... 在吉隆口岸搜救现场,泥泞乱石滩上,武警官兵挥锹展开搜救。 队伍中,一名战士站在高处,目光紧盯两侧山体...
江西遂川发生泥石流灾害 消防救... 9月5日,受台风“沙德尔”带来的连日强降雨影响,江西吉安市遂川县高坪镇明坑村石下组发生泥石流灾害,1...
应急周播报(第17期)|陇南应... 2026.08.31—2026.09.06 居安思危守底线,警钟长鸣护平安。聚焦一周应急动态,直击基...
688012,半导体龙头,逾百... 近一周机构调研个股有近800只,中微公司调研机构数最多。 据证券时报·数据宝统计,中微公司(6880...
美伊互袭油轮 伊朗军方称或对美... 当地时间5日,美伊军事冲突持续,美军称当天打击了3艘伊朗油轮。 随后,伊朗方面称,“美军出于霍尔木...
挂名监事不领薪 公司停摆难脱身   福州的小刘遭遇烦心事——他碍于亲友情面,无偿挂名担任公司监事,未参与经营、未领取报酬,却因公司经...
郑钦文将与斯瓦泰克争夺美网8强... 极目新闻记者 陈凌燕 郑钦文(新华社图) 北京时间6日凌晨,2026美国网球公开赛女单第三轮,斯瓦...
美国国家公路交通安全管理局:对... 来源:环球网 美国国家公路交通安全管理局(NHTSA)4日宣布,对特斯拉的无人驾驶“赛博出租车”启动...
全力以赴做好抢险救援工作守护人... 受台风“沙德尔”带来的连日强降雨影响,9月5日凌晨4时许,遂川县高坪镇明坑村石下组发生泥石流灾害,造...