近期,韩国发生多起利用深度伪造技术(deepfake)制作并传播淫秽影像的案件,去年的时候俄罗斯进攻乌克兰后的第三周,乌克兰官网发布了一段乌克兰总统泽连斯基的视频。在视频中,泽连斯基穿着他标志性的绿色T恤,神情略显僵硬地呼吁乌克兰军队放下武器,向俄罗斯投降。这一视频迅速引发了公众的强烈反应,但很快人们发现,这其实是一个经过篡改的假视频。
事实上,这段视频是黑客利用深度伪造技术制造的虚假内容。深度伪造技术,也称为Deepfake,最早出现在一个名为“Reddit”的社交平台上。在这个平台的一个社区中,用户分享和传播了大量女明星的虚假色情视频。这个社区不仅仅是分享这些虚假视频,还提供了AI换脸软件,能够自动将视频中的人脸替换成另一个人。尽管Reddit后来关闭了这个社区,但这项技术已经广为人知,并逐渐被应用于政治人物和演员的视频中。
那么,什么是深度伪造技术呢?
Deepfake一词由“深度机器学习”(Deep Machine Learning)和“假照片”(Fake Photo)两个词组合而成。它通过人工智能技术中的深度学习模型,将图片或视频叠加到原始内容上。借助神经网络技术,经过对大量数据的学习,将人的声音、面部表情及身体动作合成为非常逼真的虚假内容。深度伪造技术最常见的应用是AI换脸,此外还包括语音模拟、人脸合成和视频生成等技术。
2018年,美国导演兼演员乔丹·皮尔(Jordan Peele)发布了一段视频,在这段视频中,奥巴马的形象和口吻被用来发表一句“特朗普是一个笨蛋”的言论。这类视频的制作需要大量的奥巴马视频或照片数据,这些数据被输入到神经网络的软件系统中,系统会在仿造的形象与奥巴马的真实形象之间建立统计关联。如果你想让仿造的奥巴马说出他从未说过的话,软件需要学习特定单词与奥巴马嘴型之间的关联。同样的,如果需要进行换脸操作,软件还需学习脸部与身体之间的关联。
深度伪造技术的基础是生成式对抗网络(Generative Adversarial Networks,简称GANS)。这种AI技术的核心思想是通过两个神经网络的相互对抗来进行学习和改进。其中一个神经网络称为生成器,用于生成与真实数据相似的虚假数据;另一个神经网络称为判别器,用于区分真实数据和虚假数据。