朝鲜日报 中文网

当地时间30日，美国总统拜登签署杜绝滥用人工智能（AI）技术带来的风险的行政命令。该命令是在G7（七国集团）计划于下月1日至2日在英国举行的AI安全峰会上达成共识的《AI国际行动纲领》出台之前签署的。有评价认为，过去美国对Big Tech比欧洲更为宽容，而美国以引领AI管制讨论的领先者地位自居。事实上，美国副总统卡玛拉·哈里斯当天表示：“我们在国内采取的措施将成为国际性措施的模范。”

美国《华盛顿邮报》（WP）称：“此次行政命令是迄今为止（针对Big Tech的）所有管制中最有野心、最广泛的一次。这表明了美国政府为解决AI可能取代工人、破坏国家安全的隐患所付出的努力。”

拜登当天在签字前进行的白宫讲话中说：“为了在实现AI可能性的同时回避风险，我们必须管理这项技术。AI设备已经被用于欺骗人类。AI诈骗犯们可以用3秒的时间录制你们的声音，制造出足以欺骗你们的家人和你们自己的结果。我见过我的深度伪造（Deepfake），甚至会想：‘我到底什么时候讲过这种话？’”神不知鬼不觉地制作得和真的一样的深度伪造不仅被用于勒索金钱，还广泛被用于损害人们的声誉。

拜登说：“每个人都有权知道特定的音频或视频是AI制作的。”其实根据这次的行政命令，美国商务部计划开发AI生成的资料中必须附带的水印标准。

该措施最强大的一点实际上在于政府将深入介入从问世前开始对所有AI服务进行服务的一切过程，进行管理和监督。白宫透露，拜登的行政命令规定AI开发商在产品上市前与美国政府提前共享安全测试的结果和其他重要技术信息。尤其是在国家安全、经济、公共卫生等重要领域开发AI模型的公司，必须从AI培训阶段开始通报给政府，并向政府汇报政府成立的验证专家组“红组”的安全测试结果。

这一强有力的措施是为了提高AI系统的安全性和可靠性，其依据是1950年韩国战争当时为普及战略物资而制定的《国防物资生产法》。拜登介绍说：“该权限被用于战争等‘最紧急的时刻’，是为了在允许使用技术之前进行最强大的安全验证。”AI技术发布后，政府将不断从企业那里听取报告，评估AI的影响。

与此同时，行政命令还规定要制定指南来限制企业用于AI培训的个人信息。其内容还包括编写关于AI对劳动市场的潜在影响的报告，要求研究能为因AI而失去工作的劳动者提供援助的方法。在司法、医疗部门使用的AI中，为了保护市民的人权，还要求研究公平且负责任的AI使用方法。

《华盛顿邮报》评价称：“此举将对众多为构建先进AI系统而竞争的硅谷企业以及联邦政府内几乎所有机构都产生广泛影响。”在发布上述行政命令之前，亚马逊、Alphabet、Open AI、Meta等主要AI技术企业已经决定遵守拜登政府的限制。但也有业内人士指出，这种严格的限制可能会成为AI发展的绊脚石。特别是在与中国等国就AI开发展开激烈竞争的情况下，如果全球主要国家都不采取类似水平的限制，本国企业可能会落后。