研究人员分析人工智能生成的深度伪造作品的特征

通过社交媒体传播的人工智能(AI)生成的深度伪造视频(具有虚假超现实主义再现的视频)大部分都以政治代表和艺术家为主角，并且通常与当前的新闻周期相关。

这是马德里卡洛斯三世大学(UC3M)研究得出的结论之一，该研究分析了西班牙因使用人工智能工具进行非法活动而出现的病毒式虚假信息的形式和内容特征。这一进展代表着我们朝着理解和减轻社会中虚假信息造成的威胁迈出了一步。

在最近发表在《观察家报》(OBS*)杂志上的研究中，研究团队通过西班牙事实核查机构(例如EFEVerifica、Maldita、Newtral和VerificaRTVE)的验证研究了这些虚假内容。

“我们的目标是在这些病毒式深度伪造中识别出一系列常见的模式和特征，提供一些识别它们的线索，并提出一些媒体素养建议，以便公民能够应对错误信息，”其中一位作者、卡罗来纳大学三世传播系研究员RaquelRuizIncertis解释说，她正在攻读欧洲传播博士学位。

研究人员开发了一种深度伪造的类型学，这使得识别和消除它们变得更加容易。根据研究结果，一些政治领导人(如特朗普或马克龙)是涉及吸毒或道德上应受谴责的活动内容的主角。还有相当一部分色情深度伪造损害了女性的完整性，尤其是曝光著名歌手和女演员。研究人员表示，它们通常从非官方账户分享，并通过即时通讯服务迅速传播。

深度伪造的泛滥，即频繁使用人工智能工具处理的图像、视频或音频，是一个备受关注的问题。“这种预制的在敏感情况下尤其有害，例如在选举前时期或像我们目前在乌克兰或加沙经历的冲突时期。这就是我们所说的‘混合战争’：战争不仅在物理领域进行，也在数字领域进行，而且谎言比以往任何时候都更加严重，”RuizIncertis说。

这项研究的应用范围很广，从国家安全到竞选活动的公正性。研究结果表明，在社交媒体平台上积极使用人工智能可能会彻底改变我们在数字时代维护信息真实性的方式。

该研究强调了提高媒体素养的必要性，并提出了提高公众辨别真实内容和操纵内容能力的教育策略。“许多此类深度伪造内容可以通过谷歌或必应等搜索引擎上的反向图像搜索来识别。公众可以通过一些工具在传播来源可疑的内容之前，点击几下鼠标来检查内容的准确性。关键是要教会他们如何做到这一点，”RuizIncertis说。

它还提供了检测深度伪造的其他技巧，例如注意元素边缘的锐度和图像背景的清晰度：如果视频中的动作变慢，或者有任何面部改变、身体不成比例或奇怪的光影效果，一切都表明它可能是人工智能生成的内容。

此外，该研究的作者还认为需要立法强制平台、应用程序和程序(如Midjourney或Dall-e)建立“水印”来识别它们，并让用户一眼就知道图像或视频是否已经修改或完全使用人工智能创建。

研究团队采用了多学科方法，结合数据科学和定性分析，研究事实核查机构如何在其运营中应用人工智能。主要方法是对上述事实核查机构网站上的大约30篇出版物进行内容分析，以反驳这些由人工智能操纵或制造的内容。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！