周一，微软为其人工智能文本到图像生成工具Designer推出了更多保护措施，禁止人们使用它来非自愿地制作名人的假照片。据悉，泰勒·斯威夫特(Taylor)上周在X上走红
Swift)人工智能从4chan和Telegram渠道生成裸照，迫使微软做出改变。
微软发言人证实了这一事件，并表示：“我们已对此展开调查，并正在采取相应措施解决问题。”我们的行为准则明确禁止使用我们的工具创建成人或未经授权的私人内容。任何违反我们政策的行为，特别是反复尝试制作此类内容，都将使用户无法继续使用我们的服务。我们有一个庞大的团队，致力于根据我们负责任的人工智能原则开发各种安全系统，包括内容过滤、运营监控和滥用检测，以减少系统被滥用的可能性。并为用户创造更安全的环境。“
微软强调，正在进行的调查无法证实斯威夫特在X上的虚假裸照是由Designer制作的，但该公司将继续加强文本过滤提示，并解决其服务滥用问题。上周五，微软首席执行官萨蒂亚·纳德拉(Satya)
Nadella)在接受采访时表示，为人工智能工具增加更多“护栏”，以防止它们产生有害内容，“这是我们的责任”。上周末，X开始完全屏蔽对泰勒·斯威夫特的搜索。
纳德拉说：“这关系到全球社会的规范整合。”我们可以做到这一点，特别是在执法、执法和技术平台的共同努力下。我相信，我们可以做到远远超出我们目前的理解。“
在4chan和Telegram上进行了404Media和Messages等媒体测试后，发现用户利用该漏洞生成图像的操作不再有效。
上周，在斯威夫特人工智能生成的图片引起关注之前，Designer曾阻止用户生成带有文字提示的图片，如“泰勒·斯威夫特裸体”，但Telegram和4chan上的用户发现，他们可以通过稍微拼错名人名字和描述没有使用性词语但有性暗示的图片来绕过这些保护。
微软修补漏洞后，引发网友热议。根据404
据媒体报道，Telegram上的一名用户在该频道上写道：“我认为微软的设计者已经被修补了。”
另一位用户回应说：“它似乎再也不能生成名人的照片了。甚至搜索克洛伊·莫里茨(Chloe
Moretz)，只会产生普通的金发女郎。我试图更改服务器和帐户，但结果是相同的。“
另一位用户说：“我想现在一切都结束了。”阿里安娜，、凯莉
像詹纳、丽莎和曾达亚这样的名人现在只展示长相或种族上与她们相似的普通女孩的照片。“
404
媒体不会公布Telegram频道的名称，因为Telegram不会删除该频道，而且通常不会从其平台上删除太多有害内容。该频道有数万名成员，但有404名
媒体不会透露特定用户的身份。共享电报频道的名称只会吸引更多的人关注它，而不是为有害内容的目标提供任何资源。
尽管Telegram仍然分享人工智能生成的成人图像，但其中一些似乎是由其他人工智能工具生成的，而另一些则是从其他网站提取的。虽然该频道专注于利用微软的设计器，这是一个免费且易于使用的工具，但还有许多其他方法可以在网上制作此类有害内容。例如，目前，任何人都可以下载名人模型，并在自己的计算机上本地运行，以生成有害内容。在4chan上，一些用户声称他们在Bing和Designer中发现了新的漏洞。
Telegram上的一位用户表示：“我坚信，如果关闭这个地方，我们会找到其他地方来制作人工智能内容。”
