当前位置: 欣欣网 > 码农

SPM:AI图片「橡皮擦」你见过吗,阿里和清华合作推出AI图片部分擦除的开源工具

2024-03-15码农

正向的AI绘画大家都会

把AI生成的图片擦掉其中的一部分

你见过吗

当面包猫没有了猫,会是什么样

当梵高风格没有了梵高,会是什么样

一起看看AI图片的橡皮擦是怎么个事

项目简介

项目旨在通过一维适配器实现商业和开源扩散模型中多概念的非侵入式、精确、可定制和可转移擦除。利用半渗透结构的概念作为膜(SPM)注入扩散模型,实现高效概念消除,减轻代际交替侵蚀和提高迁移能力。SPM允许灵活组合,即插即用,无需重调,适应不同场景,同时最小化对其他概念的影响。此方法在多个概念和模型中验证了其优越的擦除能力。

扫码加入交流群

获得更多技术支持和交流

(请注明自己的职业)

优点

·无需数据 :训练SPM不需要额外的文本或图像数据。

·轻量级 :SPM的可训练参数仅为DM的0.5%。一个针对SD v1.4的SPM只需要1.7MB的存储空间。

·可定制 :一旦获得,可以根据您的需要同时装备不同目标概念的SPM到DM上。

·模型可转移 :在某一DM上训练的SPM可以直接转移到其他个性化模型上,无需额外调整。例如,从SD v1.4转移到SD v1.5 / Dreamshaper-8或任何其他类似的社区模型。

原理

SPM在一个通用扩散模型中采用了一个称为半透膜(SPM)的一维适配器。在微调过程中设计了潜在锚定,以自监督的方式有效缓解变化和侵蚀现象。在生成阶段,引入了促进传输机制,确保只有威胁性提示增加相应SPM的渗透率,而安全提示的生成(例如,毕加索风格)不受影响。

项目用途

1.「擦除史努比后的{概念}涂鸦」样本。

SPM在目标概念史努比上展示了充分的消除效果,而对非目标的影响可以忽略不计。

2.无需训练的转移结果。

一旦获得(例如,在这种情况下从SD v1.4获取),SPM可以转移到其他专业模型上而无需重新调整,并且很好地展现了其目标概念擦除和非目标保留能力。

3.艺术风格去除

来自DM的样本,其中移除了艺术风格。与之前的作品不同,展示了擦除与保留之间明显的权衡,SPM可以擦除目标风格(上部为梵高风格,下部为毕加索风格)同时保留其他风格。

4.露骨内容删除

NudeNet在I2P基准上的评估结果。左边的数字统计了原始SD v1.4生成的暴露身体部位的数量。箱线图展示了采用不同方法进行裸露内容减轻时的降低,包括数据过滤(SD v2.0)和不同的擦除策略。与之前的作品相比,SPM有效地消除了不同裸露类别中的明显内容。

项目链接

https://github.com/Con6924/SPM

论文链接

https://lyumengyao.github.io/projects/spm#

关注「 开源AI项目落地 」公众号