朝鲜日报 中文网

“我尹锡悦是一个通过执法折磨国民的人。”

发表上述言论的“假”尹锡悦深度伪造（deepfake，制作成与真人相似的数字视觉作品）视频打出“尹锡悦总统坦白局”的标题正在社交媒体上疯传，警方22日要求广播通信审议委员会（广审委）对此采取屏蔽措施。广审委认为这是“韩国首个利用总统制作的可能引发社会混乱的深度伪造作品”。最近，首尔警察厅向广审委发出公文，要求对TikTok和Meta等网站上发布的深度伪造视频进行删除和屏蔽。

警方称：“经确认，一名使用相同URL地址，拥有TikTok、Instagram、Facebook网站账号的用户上传了题为《假想生成的尹锡悦坦白局演讲》的视频，要求对其予以删除和屏蔽。”

在这段时长46秒的视频中，“假”尹锡悦说：“尹锡悦政府无能、腐败，特权和犯规，不正与腐败都是家常便饭”，“我尹锡悦执迷于有悖常识的理念，毁掉大韩民国，让国民陷入痛苦。”

广审委认为，这是在国会选举前，首个针对尹锡悦总统可能引发社会混乱的深度伪造视频。广审委计划23日召开紧急通信审议小委员会会议，审议相关议案，并立即采取删除和屏蔽措施。

这并非韩国第一次出现尹锡悦的深度伪造视频。2022年在地方选举前，尹锡悦支持当时的国民之力南海郡守候选人朴英一的假视频就曾经在社交媒体上扩散。

与此同时，据中央选举管理委员会称，自1月29日至2月16日的19天间，已经查处129个面向选民的，利用深度伪造开展选举运动等的，涉嫌违反《公职选举法》的帖子。2023年12月20日，朝野在国会全体会议上通过了《公职选举法》修订案，规定在选举前的90天内禁止进行深度伪造选举运动。

事实上，不只是韩国正面临深度伪造的威胁。在今年即将举行总统选举的美国，深度伪造等AI技术生成的假信息正在社交媒体上迅速传播，令即将面临大型选举的美国头痛不已。

1月23日，在新罕布什尔州初选（预备选举）前，谎称是乔·拜登总统的深度伪造音频在网上疯传。去年，前美国总统特朗普戴着手铐被警察带走的深度伪造图片也曾席卷网络。

据美国网络媒体Axios报道称，美国目前有33个州提出了防止AI深度伪造的法案。法案规定，AI生成的政治内容应履行告知义务，以及禁止自行发布AI生成内容等。