拜登政府启动人工智能安全标准和测试的公众意见：所有你需要知道的

　　拜登政府宣布了为安全部署生成式人工智能(AI)制定关键标准和指导方针的初步步骤，这是一个重大举措。美国商务部下属的国家标准与技术研究院(NIST)周二透露，它正在征求公众意见，直到2月2日，以告知确保人工智能系统安全所必需的关键测试程序。

　　商务部长吉娜·雷蒙多强调，这一倡议源于乔·拜登总统10月份关于人工智能的行政命令。目标是建立“围绕人工智能安全、安保和信任的行业标准”，这将使美国在负责任的开发和使用这一快速发展的技术方面成为全球领导者。

　　NIST正积极致力于开发评估人工智能的综合指南，促进标准的创建，并为评估人工智能系统提供测试环境。该机构的请求特别寻求人工智能公司和公众就生成人工智能的风险管理和策略提供意见，以减轻与人工智能生成的错误信息相关的潜在风险。

　　生成式人工智能能够根据开放式提示生成文本、照片和视频，近几个月来既引起了人们的热情，也引起了人们的关注。人们担心的是，人工智能有可能淘汰某些工作，影响选举，并超越人类的能力，带来潜在的灾难性后果。

　　拜登总统的行政命令指示各机构建立人工智能测试标准，同时解决化学、生物、辐射、核和网络安全等领域的相关风险。NIST正在积极制定测试指南，包括探索对人工智能风险评估和管理最有效的“红队”方法。这包括为外部红队设定最佳实践，这是一个在网络安全领域建立的概念，其中模拟识别潜在风险-“红队”一词可以追溯到冷战时期的模拟。

　　在8月份举行的一场具有里程碑意义的活动中，美国首次公开评估“红队”活动在由人工智能村、SeedAI和人道情报组织的一次重大网络安全会议上举行。该活动有数千名参与者，旨在挑战系统产生不良输出或失败，最终为与人工智能相关的风险提供有价值的见解。白宫强调了这次活动的成功，称它“展示了外部红队如何成为识别新型人工智能风险的有效工具”。