英国政府机构发布报告:AI安全防护措施正在改善
创始人
2025-12-19 18:16:32

英国政府支持的AI安全研究所(AISI)今日发布一份深度报告,该机构声称确保人工智能模型按预期正常运行的安全防护措施正在改善。这份报告汇集了该机构在网络安全及其他科学领域开展的两年AI研究和实验成果。

《前沿AI趋势报告》是对先进AI系统演进情况的公开评估,旨在提供一个"清晰、基于证据"的视角,并强化相关讨论——这些讨论过去常常被猜测和缺乏证据所主导。

AI部长卡尼什卡·纳拉扬表示:"这份报告展示了英国对负责任开发AI的重视程度。这意味着确保防护措施足够稳健,并直接与开发者合作测试领先系统,在它们广泛使用之前发现漏洞并修复。"

他说:"通过世界领先的AI安全研究所,我们正在政府内部建立科学能力,以便在这些系统演进的过程中就理解它们,而不是事后才行动,并提高整个行业的标准。这份报告将证据而非猜测置于我们思考AI的核心位置,这样我们就能释放其在增长、更好的公共服务和国家振兴方面的益处,同时将信任和安全放在首要位置。"

测试结果显示显著进步

AISI表示,尽管其测试的每个系统都容易受到某种形式的绕过攻击,且防护措施差异很大,但仍取得了巨大进展。其中一个重要进展体现在该研究所的红队人员发现模型安全规则的通用越狱方法所需的时间,从几分钟增加到数小时,跨越多个模型世代,标志着显著改善。

在网络安全相关事项方面,AISI发现AI模型在处理学徒级网络任务时的成功率约为50%,而在24个月前这一比例还不到10%。

此外,AI系统在无需任何人工指导的情况下能够完成的网络任务持续时间似乎每八个月翻一番。AISI称,今年首次有AI模型完成了专家级网络任务,该级别任务被定义为人类需要长达10年工作经验才能独立完成。

其他关键发现

其他与网络安全无关的关键发现包括:对软件工程AI模型演进速度的洞察,许多模型现在能够在超过40%的情况下完成长达一小时的软件工程任务,而2023年这一比例仅为5%。在生物学和化学领域,一些系统据称现在在科学知识测试中超越了博士级研究人员的表现,并使更高级别的实验室专业知识为普通人所用。

AISI的分析还识别出一些与自主性相关的早期能力迹象,但这些仅在严格控制的实验条件下观察到。测试的AI模型均未显示出有害或自发行为,不过该研究所指出需要尽早考虑并跟踪此类因素。

支持AI决策者

AISI谨慎地表示,这份报告——该机构希望这是众多报告中的第一份——并非针对英国政府的一系列政策建议,而是旨在为技术决策者提供关于AI系统能力的清晰数据,提高透明度,并促进关于进一步发展的理性讨论。

政府在这方面的角色将是继续与产业界、研究人员和国际合作伙伴一起投资于评估和AI科学,目的是帮助确保AI能够带来增长、就业机会和改善的公共服务。

英国将通过继续投资于评估和AI科学来支持这项工作,与产业界、研究人员和国际合作伙伴合作,确保AI为勤劳的社区带来增长、新就业机会、改善的公共服务和国家振兴。

AISI首席技术官兼首相AI顾问杰德·梁表示:"这份报告提供了迄今为止来自政府机构关于前沿AI发展速度的最可靠公开证据。我们的工作是用严谨的科学来消除猜测。这些发现既突显了AI的巨大潜力,也强调了独立评估对跟上这些发展步伐的重要性。"

Q&A

Q1:英国AI安全研究所的报告主要发现了什么?

A:报告发现AI安全防护措施正在改善。例如,红队人员发现模型安全规则漏洞所需时间从几分钟增加到数小时;AI模型在学徒级网络任务上的成功率从不到10%提升到约50%;AI完成网络任务的持续时间每八个月翻一番,并首次有模型完成专家级任务。

Q2:AI模型在软件工程方面有什么进展?

A:AI模型在软件工程领域取得显著进步。许多模型现在能够在超过40%的情况下完成长达一小时的软件工程任务,而在2023年这一比例仅为5%。这表明AI在软件开发辅助方面的能力正在快速提升。

Q3:英国发布这份AI趋势报告的目的是什么?

A:报告旨在为技术决策者提供关于AI系统能力的清晰、基于证据的数据,提高透明度,并促进理性讨论,而不是被猜测主导。政府希望通过这份报告支持负责任的AI开发,在释放AI增长潜力的同时确保信任和安全。

相关内容

热门资讯

“爱心茶摊”走进鼓山景区   送清凉小分队人员为景区户外工作者送上矿泉水。记者 郑帅 摄  10日下午,福州市鼓山景区游客服务...
爱心企业联动 致敬城市守护者   “谢谢你们送来的爱心礼包和爱心水,真好!”10日,收到“爱心茶摊”送清凉小分队送来的解暑物资,参...
“闽江之光”致敬教师 9月10日是第42个教师节。当晚,闽江畔的海峡金融街商务区楼宇化身巨幅光影画布,“闽江之光”灯光秀特...
“爱心茶摊”便民义诊活动周日举...   “爱心茶摊”便民义诊活动周日举行  可享义诊、义剪、茶饮等福利传承公益初心,传递城市温度。13日...
“福州造”钢管为省重点项目铸就...   近日,福州生产的定制钢管,运往全国首例长距离海底曲线顶管项目现场。  据悉,位于连江经济开发区可...
福州核电技术员捐献造血干细胞 ... 10日,张川成功捐献造血干细胞。  9月10日,福州核电技术员张川躺在福建省肿瘤医院的采集床上,用捐...
凝聚警检合力 马尾公检召开联席...   近日,福州市马尾区检察院与福州市公安局马尾分局召开侦查监督与协作配合办公室联席会议,进一步推进侦...
“双节”临近 近300场活动将...   中秋、国庆“双节”临近,三坊七巷、朱紫坊、上下杭、南公河口、梁厝五大历史文化街区,将推出近300...
2026海洋装备产业发展伙伴大... 9日,2026海洋装备产业发展伙伴大会暨第四届海洋装备博览会行业合作伙伴发布活动在福州举行。活动以“...
花香寄师恩 致敬引路人   花香寄师恩 致敬引路人福州“心青年”亲手制花献礼教师节  “老师,节日快乐!”9月10日是第42...
麦顶小学周边交通拥堵 系列举措... 每天上学、放学时段,接送学生的家长、车辆短时间聚集,导致麦顶小学周边街巷车辆积压,交通拥堵。为解决这...
“心青年”为特教老师送上节日祝...   9月10日,教师节如期而至。福州小善公益社区特教课堂的心智障碍学员手捧鲜花,来到福州盲校,将鲜花...
福州疾控专家:接种流感疫苗正当...   9月校园重启,孩子们回归课堂。同时,一个“不速之客”——流感病毒,也悄然进入活跃期。10日,福州...
福州新房水表开户实现“零跑腿” 近日,市民陈先生坐在新房的客厅里,用电脑打开“福建省网上办事大厅”,在福州市新房购置“一件事”系统上...
福州教师俞榕清捧回国家级家政大...   这个教师节,福建华南女子职业学院教师俞榕清收获了从教16年来最好的一份教师节礼物——摘得全国巾帼...
“撸网贷”帮朋友?当心借钱变“... 朋友急用钱,能否从网贷平台借些钱再转借给朋友?这种看似“两肋插刀”的救急之举,实则暗藏危机。近日,闽...
公示中!福建312人拟获评高级... 近日,福建省工业和信息化厅网站发布公示,312人拟获高级经济师任职资格,一起来看——  根据《职称评...
中国海警舰艇编队在我钓鱼岛及其... 9月10日,中国海警登步舰编队在我钓鱼岛及其附属岛屿领海内维权巡航。这是中国海警依法开展的维权巡航活...
歌声寄情 福州教师节活动温情拉...   9月10日是我国第42个教师节,近期,福州各校开展多项温情感恩活动。