美国商务部已将其人工智能安全研究所更名为人工智能标准与创新中心(CAISI),将其工作重点从总体安全转向应对国家安全风险,并防止海外“繁琐且不必要的监管”。商务部长霍华德·卢特尼克于6月3日宣布了这一更名,并称该机构的改革旨在“评估和增强美国创新”并“确保美国在国际人工智能标准中的主导地位”。
人工智能安全研究所于2023年在前总统乔·拜登任内宣布成立,这是一项全球努力的一部分,旨在为各国政府创建最佳实践,以降低人工智能系统的风险。该研究所与OpenAI和Anthropic等美国主要人工智能公司签署了谅解备忘录,以便在新模型发布前获得使用权并提出改进建议。在2025年初拜登任期即将结束时,该研究所发布了管理人工智能风险的指南草案,其中包括利用系统制造生物武器或其他明显威胁国家安全的内容,以及更常见的有害内容类别,例如儿童性虐待内容(CSAM)。
卢特尼克的声明称,新研究所的评估将“重点关注可证实的风险,例如网络安全、生物安全和化学武器”。该研究所还将调查“因使用对手的人工智能系统而产生的恶意外国影响”,这一类别可能包括今年早些时候震撼美国人工智能行业的中国大型语言模型DeepSeek。
此举是特朗普政府加速美国人工智能公司扩张的一项重大举措的一部分。特朗普上任第一天就撤销了拜登的一项行政命令,该命令要求制定大型人工智能系统的新安全标准,并发布一份评估美国消费者和劳动力市场潜在风险的报告。他自己的行政命令鼓励在教育等领域更多地采用生成式人工智能,并推广使用煤炭作为高耗能人工智能数据中心的电力来源。当前的共和党预算法案还包括一项为期10年的州级人工智能监管禁令——这项条款甚至遭到了特朗普党内一些人的反对。