研究人员创建了能够在系统之间传播的人工智能蠕虫窃取私人数据

一组研究人员创建了一种可自我复制的计算机蠕虫，它可以在网络中蠕动，以GeminiPro、ChatGPT4.0和LLaVAAI驱动的应用程序为目标。

研究人员开发了该蠕虫来展示人工智能应用程序的风险和漏洞，特别是生成人工智能系统之间的联系如何帮助传播恶意软件。

在他们的报告中，以色列理工学院的StavCohen、康奈尔理工大学的BenNassi和Intuit的RonBitton这三位研究人员从1988年肆虐互联网的原始蠕虫病毒中汲取灵感，想出了“MorrisII”这个名字。

零点击蠕虫在人工智能上爆发

蠕虫的开发主要考虑了三个目标。首先是确保蠕虫能够自我复制。通过使用对抗性自我复制提示，触发AI应用程序自行输出原始提示，AI每次使用该提示时都会自动复制蠕虫。

第二个目标是传递有效载荷或执行恶意活动，在这种情况下，蠕虫被编程为执行一系列操作之一。从窃取敏感信息到制作侮辱性和粗俗的电子邮件，以传播毒性和宣传。

最后，蠕虫需要能够在主机和AI应用程序之间跳跃，以便通过AI生态系统传播自身。第一种方法是使用检索增强生成(RAG)来攻击使用AI辅助电子邮件应用程序，方法是发送有毒电子邮件，然后将其存储在目标数据库中。当收件人尝试回复电子邮件时，AI助手会自动使用有毒数据生成回复，然后通过生态系统传播自我复制提示。

第二种方法需要生成式人工智能模型执行输入，然后生成输出，促使人工智能将蠕虫传播到新宿主。当下一个宿主被感染时，它会立即将蠕虫传播到自身之外。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！