不稳定扩散是一种具有最小co的人工智能图像生成器ntent限制。

　　该平台允许用户生成NSFW内容，包括色情图片。

　　其首席执行官表示，该服务每天发布的图片超过50万张。

　　去年12月在Kickstarter上推出的NSFW人工智能图像生成器“不稳定扩散”(Unstable Diffusion)获得了相当多的关注:该程序每天生成超过50万张图像，其首席执行官兼联合创始人阿尔曼·乔杜里(Arman Chaudhry)在电子邮件中告诉Insider网站。

　　不稳定扩散类似于其他AI图像生成器，从文本输入创建图像，但它有最小的内容限制，可以创建NSFW图像，包括色情图像。

　　它是基于稳定扩散，从稳定AI流行的文本到图像生成器。Stable Diffusion的底层代码是公开的，因此理论上任何人都可以查看和修改它，以创建原始模型的新版本。

　　这就是乔杜里在2022年8月启动“不稳定扩散”时所做的，同月“稳定扩散”向公众发布。

　　不稳定扩散最初是reddit的一个子版块，用来分享人工智能生成的色情内容。据TechCrunch报道，该小组随后转移到Discord，成员们开始构建工具，最终创建了一个机器人，成为其图像生成器的早期版本。

　　今年2月，不稳定扩散公司的首席执行官乔杜里通过电子邮件告诉内幕网:“我们成立了这个不和谐小组，为那些想要创作不受限制的人工智能艺术的艺术家们提供避难所，包括那些与成人内容有关的艺术。”

　　去年12月，该社区在Kickstarter上发起了一项活动，筹集资金建立自己的图像生成器，但12天后就被从平台上删除了。

　　尽管如此，不稳定扩散还是筹集到了必要的资金——乔杜里在2月份告诉内幕网，3万美元——来推出一个独立的网络应用程序。不稳定扩散有一个基本的免费服务，以及三个付费产品，每月收费在14.99美元到59.99美元之间。这些高级服务允许用户同时生成更多图像，更快地生成图像，并将图像用于商业用途。

　　当然，在人工智能色情方面也存在违规行为的可能性，因为用户可以创建深度假色情或描绘未成年人性行为的内容。

　　今年2月，人气颇高的Twitch主播atric被发现观看了这段描述女性主播深度造假的色情内容。当时，专家告诉Insider，在未经同意的情况下出演深度色情片可能会造成创伤，被认为是虐待。

　　乔杜里在2月份告诉Insider网站，不稳定的“积极过滤和审核系统”可以防止深度造假和其他不受欢迎的内容。

　　但这并不是万无一失的。例如，TechCrunch能够使用该生成器生成唐纳德·特朗普(Donald Trump)和克里斯·海姆斯沃斯(Chris Hemsworth)的图像。

　　当被问及TechCrunch的图片时，乔杜里说，这些相似的图片是在该服务遇到“深度虚假内容生成过滤器的一个bug期间创建的，该bug暂时无法为一些用户使用”。

　　无论是否存在漏洞，完美的内容审核都是困难的，特别是对于一个几乎没有保护栏杆的产品。

　　“这是不可能的，因为吉尔不可靠性定律——任何依赖于人类可靠性的系统都是不可靠的，”人工智能安全专家、人工智能安全中心主任丹·亨德里克斯告诉内幕网。

　　他补充说，对任何能够产生煽动性材料的系统进行内容审核都是不可能的。

　　即使是由谷歌(Google)和OpenAI等科技公司广泛管理的人工智能聊天机器人，也有被绕过护栏的风险。

　　该平台还可能遇到法律问题:

　　2019年，加州州长加文·纽森(Gavin Newsom)签署了两项与深度造假相关的法案，使其成为州法律，其中一项法案允许居民起诉任何使用深度造假技术、未经同意将他们插入色情材料的人。

　　今年5月，国会提交了一项法案，规定分享或传播未经同意的人工智能生成的色情内容是非法的。