AIGC动态欢迎阅读
原标题：3秒让AI变乖，生成风险图片减少30%！复旦新研究拿下扩散模型概念
移除新SOTA｜ECCV 2024
关键字：概念,模型,方法,内容,编辑文章来源：量子位
内容字数：0字内容摘要：
RECE团队 投稿量子位 | 公众号 QbitAI让AI绘画模型变“乖”，现在仅需3秒调整模型参数。
效果be like：生成的风险图片比以往最佳方法减少30%！
像这样，在充分移除梵高绘画风格的同时，对非目标艺术风格几乎没有影响。
在移除裸露内容上，效果达到“只穿衣服，不改结构”。
这就是复旦大学提出的概念移除新方法——RECE。
目前，基于扩散模型的AI生图有时真假难辨，常被恶意用户用来生成侵犯版权和包含风险内容（如虚假新闻、暴力色情内容）的图像。
SD中使用的的安全措施是使用安全检查器，对违规的生成图像不予展示，还集成了一些用classifier-free guidance来规避风险概念的方法。
但在开源条件下，恶意用户可以轻松绕过这些机制，网上甚至有大把的教程……
针对此，学界提出了“概念移除”，即通过微调来移除文生图扩散模型中特定的风险概念，使其不再具备生成相应内容的能力。
这种方法的资源消耗远低于从头重新训练的SD v2.1版本，也不能被轻易绕过。
而最新研究RECE，拿下概念移除SOTA效果，并且对无关概念破坏极小，论文已被顶会ECCV 2024接收。
整个过程基于高效的原文链接：3秒让AI变乖，生成风险图片减少30%！复旦新研究拿下扩散模型概念移除新SOTA｜ECCV 2024
联系作者
文章来源：量子位
作者微信：
作者简介：
