朝鲜日报 中文网

一张美国国防部大楼附近发生大规模爆炸黑烟滚滚的照片在社交媒体上疯传，造成美国股市动荡，黄金、国债价格上涨等一系列混乱。另外还传出白宫被大火包围的照片，担忧发生类似9·11事件的大规模恐怖袭击的恐惧不断扩散。但事后证实这些是AI（人工智能）炮制的假新闻。虽然事件很快得到证伪，但留给我们极大的启示。

Chat GPT等生成式AI会不顾真假，生成海量的似是而非的内容。由AI生成的假新闻被其他AI拿来学习后，又会生成更加以假乱真的假新闻。还可以根据用户的个人喜好一对一地生成虚假信息。因为AI可以扩大和再生产假新闻，可能出现更严重的舆论造假，这一点令人担忧。

美国和英国即将在明年举行总统选举和议会选举，舆论对生成式AI制造假新闻和伪造舆论的危险性持续发出警告。但不能因此而阻止使用AI这件事本身。近日，欧盟（EU）发表了限制无差别使用AI方针的草案。韩国也提出了要求义务标明相关内容为AI制作的法案等。

然而仅凭上述规定根本不可能控制AI生成的假新闻。原因是AI的技术进步过于迅速。在韩国类似疯牛病、萨德怪谈等各种虚假煽动层出不穷，可见韩国社会本就是无力辟谣假新闻的脆弱体制。如果利用AI技术炮制的天衣无缝的假新闻再成为日常，可能存在真相被掩盖，谎言横行的危险。必须从现在开始做好应对。