研究：AI公司安全防护措施远未达标_安全新闻

研究：AI公司安全防护措施远未达标

创始人

2025-12-04 16:55:43

根据未来生命研究所周三发布的新版人工智能安全指数，Anthropic、OpenAI、xAI 和 Meta 等主要人工智能公司的安全实践 "远低于全球新兴标准"。该研究所称，由独立专家小组进行的安全评估发现，虽然这些公司都在竞相开发超级智能，但没有一家公司制定了控制此类先进系统的完善战略。在多起与AI聊天机器人相关的自杀和自残事件曝光之后，公众愈发担心具备推理和逻辑思维能力、甚至比人类更聪明的系统对社会的影响。这项研究正是在这种背景下发布的。麻省理工学院教授、未来生命研究所主席Max Tegmark表示：“尽管近期因AI驱动的黑客攻击以及AI导致人们出现精神错乱和自残行为引发强烈关注，美国AI公司受到的监管力度仍不及餐馆，而且还在继续游说反对有约束力的安全标准。”

上一篇：织密防护网，让养生骗局无处遁形

下一篇：华杉解除一键防护模式，防护期间连更数条微博未道歉，罗永浩暂未公布录音，此前称“要处理很多脏话”

研究：AI公司安全防护措施远未达标

相关内容

热门资讯