Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X前身为Twitter上迅速走红，我们不禁构思：这对AI的未来意味著什么？

在最近令人不安的事件中，AI生成的泰勒斯威夫特的露骨图片充斥著X，揭示了AI能力的黑暗面。这些图片据信是使用Microsoft Designer创作的，迅速引发广泛关注，凸显了AI生成假色情内容日益增长的挑战。

随著这些图片在平台上迅速传播，此事件不仅引发了粉丝和隐私维护者的愤怒，也提出了关于在媒体创作中道德使用AI的重大问题。

Avast威胁情报总监Michal Salt在这次及时的讨论中提供了丰富的知识和专业见解。他专注于技术、安全和伦理的交叉点，为AI生成内容的影响提供了深刻的视角。

在接下来的部分中，我们将深入探索他的见解，探讨图像操控的历史平行性、AI能力带来的伦理困境，以及在日益受到AI驱动的世界中数位信任与安全的更广泛含义。

假色情内容并不是新问题

Salt将当前AI生成逼真图片的能力与过去使用Photoshop的情况相比较。就像Photoshop曾彻底改变了图片处理一样，如今AI使得创建现实主义图片变得更加简单。然而，操控图像的概念并不新颖；AI只是这场持续斗争中的最新工具。

“这在某种程度上只是一种新的照片编辑软件，”他解释道，强调操控图像的问题已经存在了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了人们对社会如何适应和规范这些新工具的重大思考，因为这些工具使得创建逼真的图片比以往任何时候都要容易。

AI与露骨内容的伦理困境

当前最迫切的担忧之一是使用AI生成露骨图片的伦理含义，特别是未经个人同意的特定个体的图片。虽然生成通用的裸体图片可能不会引发太多道德问题，但关键问题在于创建特定可识别人物的露骨图片的容易程度。

“对于AI生成的色情图片可能没有什么固有的问题或伦理上的争议，”Salt说。“但问题在于，你可以相对容易地生成带有已知或特定脸谱的图片。”

这种能力的影响不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，这强调了需要建立伦理指导和立法的必要性。虽然所谓的“报复色情”或非自愿分享裸体在48个州都是非法的，但AI生成的深伪色情目前仅在10个州被禁止。这一明显差异凸显了立法需要与技术保持同步。

AI公司如何防止深伪色情的创作？

或许由于生成AI的接入还相对较新，围绕创作未经主体允许的露骨内容的保护措施仍然很少。然而，Salt表示，对AI公司来说，实施这些措施并不会非常困难：例如，不允许针对特定人物创造图片，或使用客户提交的图片作为素材，这将为绝大多数人提供足够的防护。

“当然，一些人会找到方法逃避限制，迫使模型执行不应该做的事情，”Salt说。“我认为目前几乎不可能避免这种情况你只能让这变得更难。我想说的是，提供这些服务的公司应该更努力地避免这种情况。”

此外，还有可能有人创建自己没有任何限制的色情生成模型。然而，Salt指出，尽管这是可能的，但需要相当高的技术知识和大量的计算能力。

“能够自己创建生成裸体的AI的人并不多，”Salt说。“所以这更像是在使用Photoshop，你需要有一定的技能才能做到。”

Salt将当前AI开发的状态与安全行业的演变作比较。他观察到，我们正在目睹安全行业“随著AI重启”。这一比较突显了将AI开发视为一个持续过程的重要性，在这个过程中识别和修复漏洞是技术成熟的关键。

在X上出现的泰勒斯威夫特AI生成图片突显了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量和安全措施之间取得平衡将至关重要。通过向Michal Salt等专家学习并反思过去的挑战，我们可以以更加知情和谨慎的方式来应对这一复杂局面。