朝鲜日报 中文网

韩国中央选举管理委员会在今年4月国会选举前查出了129条利用AI 深度伪造（假视频、假声音）发布的非法内容。19天里监视的结果就是如此。选举管理委员会查出的深度伪造大部分是巧妙地篡改了有对方候选人出现的视频，歪曲了部分发言或全部篡改后在SNS上传播。就算仔细看，也像候选人发表了有问题的言论一样，到了能够蒙骗人的地步。2022年地方选举当时出现了尹锡悦总统似乎支持国民之力庆尚南道地方自治团体特定候选人的假视频，这次也查出了类似的视频。

选举管理委员会投入70名员工删除的129条深度伪造发布内容都是通过自主监控掌握的。选举管理委员会构建的深度伪造监视系统落后于民间，人力也有限，因此这次未被查出的国会选举相关深度伪造可能会更多。

谷歌和OpenAI等20家全球大科技企业为了不让深度伪造阻碍选举的公正性，决定成立“联军”进行应对，这表明了深度伪造的严重性。这些企业签订了《2024年防止选举使用AI诈骗的技术协议》，决定为了缓解AI内容的风险，联合开发技术并努力防止诈骗扩散。

相反，NAVER、KakaoTalk等韩国大型科技企业没有积极采取行动防止深度伪造。他们的立场是，只在从选举管理委员会接到举报的情况下进行处理。这些企业实际上在韩国享有网络垄断，却在为公益出手时表现出了消极的态度。为了不让这次国会选举受到深度伪造歪曲信息的影响，选举管理委员会有必要与这些科技企业建立合作机制。

歪曲并散布舆论调查的违法行为也接连出现。中央选举舆论调查审议委员会向调查机关举报了5起伪造朝野候选人之间舆论调查、党内竞选相关舆论调查等的犯罪。还查出为了通过竞选，在SNS群里集中发布诱导回答舆论调查电话时谎报年龄的帖子的人。数字技术的发展威胁到选举的情况，可能现在才刚刚起步。选举管理委员会和相关行业必须具备强大的责任意识。

如果不能保障公正舆论下的国会选举，不仅民主会倒退，难以承受的混乱也会席卷韩国社会。