Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成色情图片在X平台前身为Twitter迅速走红后，我们不禁要问：这对未来的AI意味著什么？

最近，AI生成的泰勒斯威夫特不雅图片在X平台上疯狂流传，揭示了AI能力的阴暗面。这些图片被认为是通过Microsoft Designer创建的，迅速引发了广泛的关注，也凸显了AI生成假色情内容的日益严峻的挑战。

随著这些图片在平台上快速蔓延，事件不仅引发了粉丝和隐私保护倡导者的愤怒，也提出了关于AI在媒体创作中伦理使用的重大问题。

Avast的威胁情报总监米哈尔萨拉特Michal Salt在这一讨论中提供了丰富的知识和专业见解。萨拉特关注技术、安全和伦理的交叉点，提供了对AI生成内容影响的深刻见解。

接下来的部分，我们将深入探讨他的观点，探讨影像操控的历史平行、AI能力所带来的伦理困境，以及在我们越来越依赖AI的世界中对数字信任和安全的更广泛影响。

假色情并非新问题

萨拉特指出当前AI生成栩栩如生图片的能力和过去Photoshop的使用之间的类比。正如Photoshop曾经彻底改变了图片处理一样，AI如今使得生成逼真图片变得更为简单。然而，操控图片的概念并不新颖，AI只不过是这场持续剧情中的最新工具。

“这在某种程度上只是一种不同的照片编辑软件，”他解释道，强调操控图片的概念已关注了十多年。现在的关键差异在于AI技术所带来的便利性和可及性。这一变化引发了关于社会如何适应和规范这些新工具的重要问题，因为这些工具使创建逼真图片变得前所未有的容易。

AI与露骨内容的伦理困境

其中最迫切的担忧之一是使用AI生成露骨图片，特别是针对特定个体而未获得他们的同意的伦理影响。尽管生成一般的裸体图片可能不会引发太多的伦理问题，但问题实际上出现在可以轻易生成带有可识别人面孔的露骨图片的情况中。

“AI生成色情内容本身并没有什么固有的错误或伦理问题，”萨拉特说。“但我的伦理问题在于，你可以相对轻易地生成带有已知或特定面孔的图片。”

这种能力不仅限于泰勒斯威夫特等名人，还可能延伸至任何人，突显出对伦理指导和立法的迫切需求：虽然所谓的“报复色情”即未经同意分享裸照在48个州是违法的，但目前AI生成的深伪色情内容仅在10个州被禁止。这一明显的差异凸显了法律需要赶上技术的必要性。

AI公司如何防止生成深伪色情？

可能因为接触生成性AI是一种相对新的现象，目前对于在未经同意的情况下创建露骨内容的限制措施相对较少。然而，萨拉特认为，对AI公司来说，实施这些限制并不会太过困难：像是不允许生成特定人物图片或使用顾客提交的图片作为源材料这样的简单措施，便能为大多数人提供足够的障碍。

“当然，有些人会突破这些限制，迫使模型做它不应该做的事情，”萨拉特说。“在我看来，现在几乎不可能完全避免这个问题你只能让它变得更难。我想要表达的是，提供这些服务的公司应该更加努力去避免这一情况。”

也有可能会有人创建自己的无限制色情生成模型，但萨拉特指出，尽管这是可能的，但需要大量的技术知识和计算能力。

“并不是很多人能够自己创建生成裸体图像的AI，”萨拉特说。“所以，这更像是使用Photoshop，你需要有一定的技能才能做到。”

萨拉特将当前AI的发展状况与安全产业的演变进行了比较。他观察到，我们正在见证安全产业“随著AI重新开始”。这一比较强调了将AI开发视为持续过程的重要性，识别和修复漏洞是技术成熟的关键。

泰勒斯威夫特在X平台上的AI生成图片突显了负责任使用AI的重要性。随著AI的持续进步，在技术能力与伦理考虑和安全措施之间取得平衡至关重要。通过向专家如米哈尔萨拉特学习并反思过去的挑战，我们可以以更明智和谨慎的方式驾驭这一复杂的领域。