泰勒斯威夫特的深伪色情作品并不是什么新鲜事但这并不意味著我们就不应该感到担忧。
艾玛麦戈万 2024年1月30日
在泰勒斯威夫特的AI生成色情图片在X平台上引发热议后，我们不禁要问：这对AI的未来意味著什么？
最近出现了一些令人不安的事件，AI生成的明确图片正在X前Twitter上迅速流传，展示了AI技术的阴暗面。这些图片被认为是使用微软设计师创建的，引起了广泛关注，突显了AI生成虚假色情内容日益增长的挑战。
一元机场官网随著这些图片迅速在平台上扩散，这一事件不仅引发了粉丝和隐私倡导者的愤怒，还提出了关于AI在媒体创作中伦理使用的关键问题。
Avast 威胁情报总监米哈尔萨拉特拥有丰富的知识和专业背景，为这一及时讨论提供了深刻的见解。他专注于技术、安全和伦理的交汇点，对AI生成内容的影响提供了细致的观点。
在接下来的部分中，我们将深入探讨他的见解，探索图像操控的历史类比、AI能力带来的伦理困境，以及在日益驱动于AI的世界中，数字信任和安全的更广泛影响。
假色情并不是新问题
萨拉特将当前AI生成紧逼真形象的能力与过去的Photoshop使用相提并论。正如Photoshop多年前彻底改变了图像处理，现在AI也显著简化了创建逼真图像的过程。然而，操控图像的概念并不新鲜；AI只是这一持续传奇中的最新工具。
“在某种程度上，这不过是另一种照片编辑软件，”他解释道，强调对于操控图像的关注已经持续了十多年。现在的关键不同在于AI技术带来的易用性和可及性。这一转变引发了重要问题，即社会如何适应和规范这些新工具，这些工具使得创建逼真图像比以往任何时候都更容易。
AI和明确内容的伦理困境
最迫切的问题之一是使用AI生成明确图片的伦理问题，特别是针对特定个体而没有他们的同意。尽管生成一般的裸体图片可能不会引发太多伦理疑虑，但真正的问题在于为易于创建可识别人的明确图片。
“AI生成的色情内容本身在伦理上可能并没什么根本问题，”萨拉特说。“但对我来说，伦理问题在于你能相对轻松地生成在某个已知或特定脸孔上的图片。”
这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，强调了伦理指南和立法的必要性：虽然所谓的“报复色情”或未经同意分享的裸体照片在48个州是非法的，但AI生成的深度伪造色情目前仅在10个州被禁止。这一巨大差异突显了立法需要跟上技术的步伐。
AI公司如何防止生成深度伪造色情？
或许因为生成式AI的使用相对较新，对于在没有受访者同意的情况下创建明确内容，几乎没有护栏。然而，根据萨拉特的说法，对AI公司来说，实施这些措施并不会非常困难：只需不允许针对特定人物的图像生成，或不使用顾客提交的图片作为来源材料，就可以为大多数人提供足够的障碍。
“当然，有些人能够突破这些限制，迫使模型做一些它不应该做的事情，”萨拉特说。“我现在的看法是，几乎不可能完全避免这种情况你只能让它变得更难。我想我想表达的是，提供这些服务的公司应该更努力去避免这种情况。”
还有可能有人创建自己的无限制色情生成模型。然而，萨拉特指出，尽管这是可能的，却需要大量的技术知识和计算能力才能实现。
“并不是很多人能够自己创建生成裸体的AI，”萨拉特说。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”
萨拉特将当前的AI发展状态与安全行业的演变进行了比较。他观察到，我们正目睹安全行业“随著AI重新开始”。这一比较强调了将AI开发视为一个持续进程的重要性，在这一过程中，识别和修复漏洞是成熟技术的关键。
泰勒斯威夫特在X平台上的AI生成图片强调了负责任使用AI的重要性。随著AI技术的进步，在技术能力与伦理考量及安全措施之间取得平衡将至关重要。通过向像米哈尔萨拉特这样的专家学习，并反思过去的挑战，我们可以以更具知识和谨慎的方式导航这一复杂的领域。