上周，俄罗斯遭遇恐怖袭击以后，各种假消息，以及伪造的视频满天飞。据BBC做的事实核查，俄罗斯NTV电视台播放了一段视频，显示乌克兰高级安全官员奥莱柯西·达尼洛夫（Oleksiy Danilov）暗示前一晚莫斯科附近音乐厅的血腥袭击的幕后黑手是乌克兰。这段视频被证明是伪造的，达尼洛夫的音频是人工拼接的。
这只是利用人工伪造政治人物言行的众多事例之一。更加令人担忧的是生成式AI可能对今年的美国大选带来的冲击。
自从2022年底由chatGPT引发的生成式AI大热以来，各种大语言模型和视频模型层出不穷。上个月OpenAI演示的能够由文本自动生成视频的模型Sora引爆网络。也引发了人们的担忧，因为AI生成的图片和视频越来越能够以假乱真，让人很难分辨真伪。近来的各种事例表明，生成式AI产生的图片、语音或者视频，已经开始对大选造成了负面冲击。并可能给今年11月的大选活动带来麻烦。
在没有明确保障措施的情况下，人工智能对选举的影响可能取决于选民能辨别哪些是真实的，哪些是虚假的。人工智能 — 以文本、机器人、音频、照片或视频的形式 — 可以用来让候选人看起来说了或做了他们没说过的话或没做过的事，从而损害他们的声誉或误导选民。它可以用来加强造谣活动，制作看起来足够真实的图像，给选民造成混淆。
在今年1月的初选中，新罕布什尔的选民，接到利用人工智能模仿拜登的声音打出的机器人电话，敦促选民不要出门投票。官员称这可能是利用人工智能干预美国大选的首次尝试。
这些深度伪造电话与两家德克萨斯州公司有关，它们分别是Life Corporation和Lingo Telecom。
新罕布什尔州总检察长约翰`福梅拉（John Formella）在新闻发布会上表示，Lingo Telecom 和 Life Corporation与一起利用人工智能伪造总统拜登的声音劝说新罕布什尔州选民不要投票的机器人电话竞选活动有关。当局已向两家公司发出了停止令和传票。联邦通信委员会在文件中指出，这两家公司的总部都设在得克萨斯州，过去曾被指控进行非法抢答调查。
其实发生在美国的这起通过伪造政治人物达到干扰大选目的的事件，在别国早已经发生过。
未来可能发生在美国的事情，正在世界各地上演。据美国有线电视新闻网报道，在斯洛伐克，假录音可能影响了选举。这是美国在2024年总统选举期间可能会经历人工智能干预选举的可怕预兆。根据路透社报道，在印度尼西亚，一个人工智能生成的军事指挥官形象帮助该国国防部长重塑成了一个胖乎乎的人。他会做韩式比心手势，并抱着他可爱的猫鲍比，以取…
