加拿大央行以及该国主要银行和金融机构于周五召开会议,讨论由Anthropic最新人工智能模型引发的网络安全风险。加拿大财政部长François-Philippe Champagne的发言人确认该会议于周五举行。
此次会议紧随本周早些时候美国政策制定者采取的类似行动。媒体周四报道称,美国财政部长贝森特和美联储主席鲍威尔紧急召集华尔街高管,讨论Anthropic的Mythos及类似AI模型。
加拿大方面的会议由“加拿大金融部门韧性小组”成员参与,该小组由加拿大六家最大的银行代表组成,例如加拿大皇家银行和多伦多道明银行。其他成员还包括多伦多证券交易所的母公司、联邦财政部以及加拿大金融机构监管办公室在内的金融监管机构(OSFI)。
加拿大金融部门韧性小组由加拿大央行牵头,是一个公私合作机制,其使命是“提升加拿大关键金融体系的运营韧性”。加拿大央行发言人表示:“我们已注意到这一问题,并高度重视网络安全。”
代表包括六大银行在内数十家机构的行业组织加拿大银行家协会,未就Anthropic模型或此次会议作出具体评论。该协会发言人表示,银行正通过“长期存在的、行业特定的监管要求和内部框架”来管理与人工智能相关的风险。
加拿大金融机构监管办公室(OSFI)一位发言人在邮件声明中表示:“我们正与各机构积极沟通,以提高对这一问题的认知,并评估其对金融系统韧性的潜在影响。”该监管机构正就“先进人工智能模型的最新发展及其潜在网络安全影响”与银行保持接触。
此次会议以及OSFI的表态,进一步表明全球监管机构日益担忧:更强大的AI模型可能催生针对金融行业的新型网络攻击。
银行正越来越多地组建专门团队,利用AI降低成本并发掘商业机会,但同时也在努力管理这一快速发展技术所带来的风险。自2023年以来,OSFI已被赋予职责,评估银行和保险公司是否具备足够的政策来防范安全威胁,并已发布技术与网络风险管理指南。
该发言人表示:“OSFI目前不计划因这一新兴威胁在短期内调整现有指南”,但会继续与加拿大网络安全中心协调,分享威胁信息及缓解措施,并持续监测相关风险。
Anthropic表示,其Mythos模型是一种高度复杂的新系统,能够识别并利用主流操作系统和网络浏览器中的漏洞。由于能力过于强大,公司决定不向公众发布该模型,而是成立了一个名为“Glasswing项目”的小组,向部分大型科技公司以及摩根大通提供测试访问权限。
这些公司将使用该模型测试自身产品,查找可能被利用的漏洞并反馈结果,Anthropic则据此确定需要为该技术设置哪些安全护栏。在美国,包括高盛、花旗集团和美国银行在内的一些华尔街银行正在进行内部测试。