美政府要求AI模型接受安全测试
参考消息网6月5日报道据路透社6月2日报道，根据2日发布的一项行政命令，特朗普政府将要求领先的人工智能(AI)公司在发布大模型前，自愿提交自己最强大的模型供政府进行网络安全测试，因为华盛顿对类似“克劳德神话”(由Anthropic公司开发的)等强大新型人工智能模型的安全问题日益感到担忧。
报道称，美国总统特朗普签署了一项行政命令，指示财政部、国防部、商务部、国土安全部以及其他政府机构与人工智能公司达成协议，测试它们的模型。根据这一行政命令，在人工智能公司向政府以外的组织发布模型之前，美国政府机构将有最多30天的时间对这些模型进行安全测试。该命令还要求政府部门加强整个政府的网络防御。
这一行政命令标志着特朗普正在改变他在人工智能方面的战略，并要在这项技术的监管方面发挥更主动的作用。自重返白宫以来，特朗普一直主张联邦政府应该对科技行业采取放手的态度，并试图阻止各州采取对人工智能行业的监管。如果特朗普的这一行政命令延缓了新型人工智能模型的推出，或导致人工智能公司为缓解安全担忧而改变研发模式，那么它就有可能损害人工智能行业的利润。
美国一名高级官员今年5月在接受记者电话采访时曾表示，Anthropic公司、开放人工智能研究中心(OpenAI)和“字母表”公司旗下的谷歌公司已经与美国政府官员就网络安全问题进行了讨论。
谷歌公司高管肯特·沃克称，这一行政命令是“向前迈出的重要一步”。Anthropic公司表示期待与白宫合作，并支持这一行政命令的实施。OpenAI没有回应路透社的置评请求。
特朗普原计划在5月21日签署关于人工智能的行政命令。但他在当日推迟了这一决定，称他不喜欢该命令的某些方面，也不想采取任何阻碍性措施，因为这有可能损害美国在人工智能领域的优势。
美国财政部长贝森特5月中旬表示，他已经与各大银行就网络安全问题进行了讨论。这次的行政命令要求财政部与人工智能企业以及关键性基础设施提供商合作，检查软件中的网络安全漏洞，并为堵住这些漏洞开发安全补丁。关键性基础设施指的是对美国经济至关重要并应得到特别保护的部门，比如银行、紧急服务部门和医院。
自愿接受联邦安全测试的措施已经实施了几年，OpenAI和Anthropic公司等都提交了模型，接受美国商务部所属的人工智能标准与创新中心的安全审查。商务部5月份表示，谷歌公司、xAI公司和微软公司已同意提交各自的人工智能模型进行安全测试，但商务部网站后来没有公布相关细节。（编译/潘晓燕）