泰勒斯威夫特的深fake色情内容并不是新鲜事但这并不意味著我们不应该感到担忧。

Emma McGowan 2024年1月30日

自从AI生成的泰勒斯威夫特色情图片在X前Twitter上引起热议后，我们不禁要问：这对AI的未来意味著什么？

近期，一些AI生成的显露出名歌手 泰勒斯威夫特 的不当图片在X平台上迅速蔓延，展示了AI技术的阴暗面。这些图片据信是使用Microsoft Designer创建的，吸引了广泛关注，突显了AI生成假冒色情内容的日益严重挑战。

随著这些图片快速在平台上传播，此事件不仅引发了粉丝和隐私权倡导者的愤怒，也提出了关于AI在媒体创作中伦理使用的关键问题。

Avast的威胁情报主管Michal Salt拥有丰富的知识和专业技能，为这一时宜的讨论提供了深刻的见解。Salt密切关注技术、安全和伦理的交集，对AI生成内容的影响提供了细致的看法。

接下来的部分，我们将深入探索他的见解，考察影像操控的历史平行、AI技术所带来的伦理困境，以及在这个日益AI驱动的世界中对数字信任和安全的更广泛影响。

假色情并非新问题

Salt将目前AI生成逼真影像的能力与以往Photoshop的使用做了比较。就像Photoshop在数年前革新了影像操控一样，AI现在使创建真实影像变得更为简便。然而，操控影像的概念并不新鲜；AI只是这场持续的故事中的最新工具。

“在某种程度上，这只是另一种照片编辑软体，”他解释道，强调操控影像的概念十多年来一直都是人们关注的重点。现在的关键区别在于AI技术带来的便利性和易用性。这一转变引发了有关社会如何适应和监管这些新工具的重要问题，这些工具使得创建逼真影像比以往任何时候都更容易。

AI与露骨内容的伦理困境

最迫切的问题之一是使用AI生成露骨图片的伦理影响，特别是未经个人同意的特定个体。虽然生成泛泛的裸体图像可能不会引发太多伦理质疑，但问题的真正所在是轻易能创建可识别个体的露骨图片。

“AI生成色情内容本身没有什么道德或伦理问题，”Salt说。“但对我来说，伦理问题在于你可以相对轻易地生成一个具有知名或特定面孔的图片。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，因此强调了制定伦理准则和立法的必要性：虽然所谓的报复色情即未经同意共享裸体图片在48个州都是 非法的，但目前AI生成的深伪色情内容在 只有10个州被禁止。这一明显的差异凸显了立法有必要追上科技的步伐。

AI公司如何防止深伪色情的产生？

或许是因为生成AI的使用相对较新，针对未经主体同意创建露骨内容的保护措施仍然并不多。然而，Salt指出，对于AI公司来说，实施这些措施并不会非常困难：像不允许生成特定人员的图片或使用客户提交的图片作为素材这样简单的措施，就能对绝大多数人形成足够的屏障。

“当然，某些人能够突破这些限制，让模型做一些不应该做的事情，”Salt表示。“目前，我认为几乎不可能避免这一点你只能使其变得更加困难。我认为我想表达的观点是，提供这些服务的公司应该更加努力去避免这种情况。”

还存在某人创建自己的无限制色情生成模型的可能性。不过，Salt指出，即便这是可能的，也需要 大量 的技术知识和 大规模 的计算能力来实现。

“并不是很多人能够自己创建生成裸体的AI，”Salt说。“所以这更像是使用Photoshop，你需要具备一定的技术水平才能做到。”

Salt将当前AI发展状况和安全行业的演变进行了比较。他观察到，我们正在见证安全行业在AI领域的重新开始。这一比较强调了将AI发展视为持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X平台上的AI生成图片凸显了负责任使用AI的重要性。随著AI的不断进步，平衡技术能力、伦理考量和安全措施将至关重要。通过向像Michal Salt这样的专家学习并反思过去的挑战，我们可以以更具信息性和谨慎的方式来应对这一复杂的环境。