Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X前身为Twitter掀起热潮后，我们不禁要问：这对AI的未来意味著什么？

最近，AI生成的 著名歌手泰勒斯威夫特的露骨图片 在X平台上迅速传播，显示了AI能力的阴暗面。这些图片据说是使用微软设计工具创建的，并引起了广泛的关注，突显出AI生成色情内容日益严峻的挑战。

随著这些图片在平台上的快速扩散，此事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了有关AI在媒体创作中伦理使用的重要问题。

Avast的威胁情报总监米哈伊萨拉特Michal Salt在这一时刻的讨论中提供了丰富的知识和专业见解。他专注于科技、安全与伦理的交汇点，对AI生成内容的影响提供了深刻的观察。

在接下来的部分中，我们将深入探讨他的见解，回顾图像操纵的历史平行，AI能力所提出的伦理困境，以及在这个日益依赖人工智慧的世界中，对数位信任和安全的广泛影响。

假色情内容并非新问题

萨拉特将当前AI生成真实图片的能力与过去的Photoshop使用进行了比较。正如Photoshop在多年前彻底改变了图像操纵，AI如今也使得创建现实图片变得显著容易。然而，操纵图像的概念并不新鲜；AI只是这个持续故事中的最新工具。

“这在某种程度上只是另一种照片编辑软件，”他解释道，强调操纵图像的概念已经有十多年了。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了关于社会如何适应和监管这些新工具的重要问题，而这些工具使得创建真实图片变得比以往更加轻松。

AI和露骨内容的伦理困境

最让人忧虑的是，使用AI生成特定个体的露骨图片的伦理影响，特别是在未经同意的情况下。尽管生成一般的裸体图片可能不会引发太多伦理问题，但真正的问题在于容易生成可识别人物的露骨图片。

“AI生成色情内容本身并没有任何内在的错误或伦理问题，”萨拉特说。“但对我来说，伦理问题在于你可以相对容易地生成一幅包含已知或具体面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能延伸到任何人，强调了对伦理指导原则和立法的需求：虽然所谓的“报复色情”或非自愿分享裸体图像在48个州是 非法的，但目前AI生成的深度伪造色情在仅10个州是禁止的。这一显著差异凸显了立法迫切需要赶上技术的步伐。](https//wwwusatodaycom/story/news/nation/2024/01/26/wasdeepfaketaylorswiftpornographyillegalcanshesue/72359653007/)

AI公司如何防止深度伪造色情的生成？

或许是因为接触生成式AI仍然是一种相对较新的现象，对于在未经主体同意的情况下创建露骨内容，相关的保护措施仍然不多。然而，萨拉特认为，对于AI公司来说，实施这些保护措施并不会太困难：例如，可以禁止生成特定人物的图片或使用客户提交的图片作为素材，这就能为大多数人提供足够的屏障。

“当然，有些人能够打破这些限制，迫使模型做它不应该做的事情，”萨拉特说。“在我看来，现在几乎不可能完全避免这种情况你只能让它更加困难。我的观点是，提供这些服务的公司应该更加努力地避免这种情况。”

还存在著某人创建他们自己的色情生成模型而不受任何限制的可能性。不过，萨拉特指出，尽管这种情况可能存在，但创建这样的模组需要 大量 的技术知识和 大量 的计算能力。

“能够自己创建AI生成裸体图片的人并不多，”萨拉特表示。“所以，这更像是使用Photoshop，需要具有一定的技能水平。”

萨拉特将当前AI发展的状态与安全行业的演变进行了比较。他观察到我们正目睹安全行业在AI面前“重启”。这一比较强调了将AI发展视为一个持续过程的重要性，发现并修复漏洞是成熟技术的关键。

在X平台上出现的泰勒斯威夫特AI生成图片突显了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力与伦理考量及安全措施至关重要。通过向米哈伊萨拉特等专家学习并反思过去的挑战，我们能在这个复杂的环境中更为明智和谨慎地应对。