美国总统拜登签署这一行政令！拜登曾表示它可能很危险......

每经编辑 杜宇

据央视新闻10月31日消息，当地时间10月30日，美国总统拜登签署了一项关于人工智能的行政命令，要求进行新的安全评估、公平和民权指导以及人工智能对劳动力市场影响的研究，以在人工智能高速发展的前提下，对其技术的运用进行法律约束，防止人工智能的滥用。

据白宫官网披露的内容显示，该行政命令为人工智能安全和保障建立了新的标准，并在保护美国用户隐私、促进公平和公民权利、维护消费者和工人权益、促进创新竞争等8个方面进行了规定。

据媒体报道，行政令指出，随着人工智能能力的持续增长，其对用户安全的影响也在增加。在该行政命令中，美国计划采取“有史以来最全面的行动”，以保护美国用户免受AI系统的潜在风险。

例如，在AI安全新标准方面，该行政命令要求领先的AI系统开发者与美国政府分享其安全测试结果及其他关键信息，制定标准、工具与测试，从而确保AI系统正式面向公众发布前是安全、可靠的。

同时，行政命令指出，通过建立检测AI生成内容和认证官方内容的标准，从而保护美国用户免受人工智能欺诈和欺骗。例如，美国商务部将制定内容认证和水印指南，以清晰地标记人工智能生成的内容。

在保护美国用户隐私方面，该行政命令呼吁通过两党数据隐私立法确保美国用户隐私安全。同时，行政命令提示，优先考虑联邦政府支持加速隐私保护技术的开发和使用，包括使用尖端AI技术以及在训练AI系统时保护训练数据的隐私。

与此同时，该行政命令指出通过资助研究协调网络以加强隐私保护技术研究，例如保护个人隐私的加密工具等。此外，行政命令还提示应评估各机构及其数据供应商收集及使用商用可用信息的方式，并加强联邦的隐私指导等。

媒体报道称，新命令也超越了OpenAI、谷歌母公司Alphabet和Meta Platforms等人工智能公司今年早些时候作出的自愿承诺。这些公司同意为人工智能生成的内容添加水印，以使技术更安全。

9月12日，美国白宫发布声明称，美国商务部长雷蒙多等政府高官将在白宫召集人工智能（AI）行业高管，宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

Adobe总法律顾问Dana Rao表示：“很高兴看到白宫通过创建一个负责任的实践框架来推动人工智能的发展。”

白宫幕僚长副里德（Bruce Reed）称，该命令是任何政府为确保人工智能安全而采取的“最有力的一系列行动”。“这是一项积极战略的下一步，即在各条战线上尽一切努力利用人工智能的好处并减轻风险。”他表示。

签署行政命令后，拜登31日将与美国参议院多数党领袖舒默和两党人工智能小组会面。上周，舒默主持召开了第二届人工智能洞察论坛（AI Insight Forum），预计该论坛将成为国会监管政策研究的基础，他希望在几个月内准备好人工智能立法。

此外，七国集团预计30日也将就开发先进人工智能系统的公司的行为准则达成一致。副总统哈里斯本周将代表美国出席在英国举行的人工智能全球峰会。

据央视中文国际，美国总统拜登4月初曾在白宫专门开会讨论AI。就AI风险问题，拜登在回答记者提问时表示，不好说，AI可能很危险。

每日经济新闻综合央视新闻、央视中文国际、21世纪经济报道、第一财经

封面图片来源：视觉中国-VCG111396703847 （图文无关）