泰勒斯威夫特的深度假冒色情内容并不新鲜，但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

随著AI生成的泰勒斯威夫特色情图片在X平台上引起轰动，我们不禁思考：这对AI的未来意味著什么？

最近，AI生成的泰勒斯威夫特露骨图片在X前身是Twitter上如潮水般涌现，这展示了AI能力的黑暗面。这些图片被认为是使用微软设计软体创造的，并引发了广泛关注，突显了AI生成假色情影片日益严峻的挑战。

随著这些图片在平台上迅速传播，此事件不仅引发了粉丝和隐私维护者的愤怒，还提出了有关AI在媒体创作中伦理使用的关键问题。

Avast的威胁情报总监米哈伊萨拉特Michal Salt对这一时事话题提供了丰富的知识和专业见解。萨拉特密切关注科技、安全与伦理的交汇，为AI生成内容的影响提供了细致的观点。

在接下来的部分中，我们将探讨他的见解，研究影像操控的历史平行、AI能力所提出的伦理困境，以及在我们日益依赖AI的世界中，数位信任与安全的更广泛影响。

假色情不是新问题

萨拉特将AI当前生成逼真图片的能力与过去使用Photoshop的情况相提并论。就像Photoshop多年前彻底改变了图片编辑一样，AI如今使得创造逼真图片变得更加简单。然而，操控图片的概念并不新鲜；AI只是这场持续论战中的最新工具。

“在某种程度上，这只是一种不同的照片编辑软体，”他解释道，强调操纵图片的概念已经成为关注点超过十年。如今最大的不同在于AI技术带来的便利性和可及性。这一变化引发了有关社会如何适应和规范这些新工具的重要问题，而这些工具使得创造逼真图片变得前所未有的容易。

AI和露骨内容的伦理困境

最迫切的担忧之一是使用AI生成露骨图片的伦理影响，特别是针对特定个体且未经他们同意的情况。虽然生成一般的裸体图片可能不会引发如此多的伦理问题，但实际问题在于轻易地创造出可识别人物的露骨图片。

“AI生成色情内容本身或许没有什么内在的错误或伦理问题，”萨拉特说。“但对我而言，真正的伦理问题在于，你可以相对容易地生成一张带有已知面孔或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能涉及任何人，突显了这方面需要伦理准则和立法的必要性。虽然所谓的“报复色情”非自愿分享裸体图片在48个州是非法的，但目前AI生成的深度伪造色情内容仅在10个州被禁止。这一巨大差异强调了立法必须赶上技术的需要。

AI公司如何防止生成深度伪造色情？

也许因为生成AI的使用还是相对较新的现象，目前在未经主体同意的情况下创作露骨内容的相关规范很少。然而，根据萨拉特的看法，对于AI公司来说，实施这类规范并不会很难：例如，不允许生成特定人物的图片或不使用用户提交的图片作为素材，这将为绝大多数人提供足够的防范措施。

“当然，有人会设法突破这些限制并迫使模型不按规定行事，”萨拉特表示。“在我看来，目前几乎无法完全避免这种情况只能让它变得更难。我想强调的重点是，提供这些服务的公司应该更加努力地避免这种情况。”

此外，也存在某人创建自己的色情生成模型而不受任何限制的可能性。然而，萨拉特指出，即使这是可能的，却需要大量的技术知识和计算能力。

“不是每个人都有能力自己创建AI来生成裸体图片，”萨拉特说。“所以，这与使用Photoshop更为类似，你需要具备一定的技能才能做到这点。”

萨拉特将当前AI发展的状态与安全产业的演变进行了比较。他观察到，我们正目睹安全产业“在AI领域重新开始”。这一比较凸显了将AI发展视为一个持续过程的重要性，其中识别和修复漏洞是促进技术成熟的关键。

泰勒斯威夫特在X平台上出现的AI生成图片强调了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考量和安全措施之间取得平衡至关重要。透过向米哈伊萨拉特等专家学习，并反思过去的挑战，我们可以以更加明智和谨慎的态度应对这一复杂的局面。