上周，俄罗斯遭遇恐怖袭击以后，各种假消息，以及伪造的视频满天飞。据BBC做的事实核查，俄罗斯NTV电视台播放了一段视频，显示乌克兰高级安全官员奥莱柯西·达尼洛夫（Oleksiy Danilov）暗示前一晚莫斯科附近音乐厅的血腥袭击的幕后黑手是乌克兰。这段视频被证明是伪造的，达尼洛夫的音频是人工拼接的。
这只是利用人工伪造政治人物言行的众多事例之一。更加令人担忧的是生成式AI可能对今年的美国大选带来的冲击。
自从2022年底由chatGPT引发的生成式AI大热以来，各种大语言模型和视频模型层出不穷。上个月OpenAI演示的能够由文本自动生成视频的模型Sora引爆网络。也引发了人们的担忧，因为AI生成的图片和视频越来越能够以假乱真，让人很难分辨真伪。近来的各种事例表明，生成式AI产生的图片、语音或者视频，已经开始对大选造成了负面冲击。并可能给今年11月的大选活动带来麻烦。
