图像生成王者不是GAN?扩散模型最近有点火,效果直达SOTA
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
OpenAI刚刚推出的年末新作GLIDE,又让扩散模型小火了一把。
这个基于扩散模型的文本图像生成大模型参数规图像模更小,但生成的图像质量却更高。
于是,依旧是OpenAI出品,论文标题就直接号称“在图像生成上打败GAN”的ADM-G模型也重新进入了大众眼中:
光看Papers with Code上基于I生成mageNet数据集的图像生成模型榜单,从64 x 64到512 x 512分辨率都由这一模型占据榜首:
对比曾号称史上最强图像生成器的BigGAN-deep也不落下风,甚至还能在LSUN和Image王者Net 64 × 64的图像生成效果上达到SOTA。
有网友对此感叹:前几年图像生成领域一直由GAN主导,现在看来,似乎要变成扩散模型了。
加入类别条件的扩散模型
我们先来看看扩散模型的定义。
这是一种新的图不是像生成的方法,其名字中的“扩散”本质上是一个迭代过程。
具体到推理中,就是从一幅完全由噪声构成的图像开始,通过预测每个步骤滤除的噪声,迭代去噪得到一个高质量的样本,然后再逐步添加更多的细节GA。
而OpenAI的这个ADM-G模型,则是在此基础上向图像生成任务中加入了类别条件,形成了一种独特的消融扩散模型。
研究人员分别从以下几个方面做了改进:
基本架构
基于UNet结构做了五点改N?进:
在保持模型大小不变的前提下,增加深度与宽度 增加注意头(Attention Head)数量 在32×32、16×16和8×8的分辨率下都使用注意力机制 使用BigGAN残差块对激活函数进行上采样和下扩散采样 将残差连接(Residual Connections)缩小为原来的1/根号2 类别引导(Classifier Guidance)
在噪声逐步转换到信号的过程中,研究人员引入了一个预先训练好模型的分类网络。
它能够为中间生成图像预测并得到一个标签,也就是可以对生成的图片进行分类。
之后,再基于分类分数和目标类别之间的交叉熵损失计算梯度,用梯度引导下一步的生成采样。
缩放分类梯度(S最近caling Classifier Gradients)
按超参数缩放分类网络梯度,以此来控制生成图像的多样性和精度。
比如像这样,左边是1.0规模大小的分类网络,右边是10.0大小的分类网络有点,可以看到,右边的生成图像明显类别更加一致:
也就是说,分类网络梯度越高,类别就越一致,精度也越高,而同时多样性也会变小。
生成领域的新热点
目前,这一模型在GitHub上已有近千标星:
而与G火,AN比起来,扩散模型生成的图像还更多样、更复杂。
基于同样的训练数据集时,扩散模型可以生成拥有全景、局部特写、不同角度的图像:
△左:BigGAN-deep 右:ADM
其实,自2020年谷歌发表DD效果PM后,扩散模型就逐渐成为了生成领域的一个新热点,
除了文章中提到的OpenAI的两篇论文之外,还有Semantic Guidence Diffusion、Classifier-Free Di直达ffusion Guidence等多个基于扩散模型设计的生成模型。
扩散模型接下来还会在视觉任务上有哪些新的应用呢,我们来年再看。
论文链接:
https://arxiv.org/abs/2105.05SO233
开源链接:
https://github.com/openai/guided-diffusion
- ·德国下达紧急禁令:禁止Facebook收集WhatsApp用户数据
- ·DeepGEM大模型落地!金域医学联手腾讯、广医一院,用AI精准“读取”癌症基因密码
- ·2021年将利用人工智能提高工业生产率
- ·爱奇艺上线“AI艺人库”惹争议:是降本增效的利器,还是行业“自掘坟墓”?
- ·OpenAI 努力消除 ChatGPT 的政治偏见
- ·标签: 正大种业 襄阳正大 玉米种子 北交所IPO
- ·马斯克:曾就可能的收购接触苹果公司 但库克拒绝会面
- ·标签: 泡泡玛特 拓竹科技 Labubu 3D打印侵权
- ·标签: 西贝 贾国龙 宋宣 品牌公关
- ·两位20岁辍学生打造Turbo AI:500万用户的AI笔记神话
- ·英国:苹果和亚马逊应对电子废弃物负责任
- ·千问AI PPT重大升级:智能体架构赋能,全流程自动化制作
- ·IBM发布Cloud Satellite扩张边缘计算市场
- ·标签: 游戏手机
- ·云计算核心技术Docker教程:Docker Swarm 复制和全局服务运行原理
- ·璋锋瓕瀹挎晫琚�彁鍚嶅姞鍏ュ徃娉曢儴 绉戞妧宸ㄥご鍙嶅瀯鏂��鏆存垨鏇村姞姹规秾
- ·https://www.mynextmove.org/find/search?s=黑帽seo寄生虫程序【tg:seogoogle987】,etU
- ·https://www.qylaws.com/search/黑帽seo寄生虫程序【tg:seogoogle987】,vWo
- ·https://www.nss.nhs.scot/search?q=黑帽seo寄生虫程序【tg:seogoogle987】,1Zt
- ·https://www.signingsavvy.com/sentence/黑帽seo寄生虫程序【tg:seogoogle987】,dn2
- ·https://www.duksung.ac.kr/search/front/Search.jsp?qt=黑帽seo寄生虫程序【tg:seogoogle987】aLe
- ·https://www.rhymezone.com/r/rhyme.cgi?typeofrhyme=oldrel&loc=nojs&Word=黑帽seo寄生虫程序【tg:seogoogle987】,8p3
- ·https://www.impactpool.org/search/?type=79&q=黑帽seo寄生虫程序【tg:seogoogle987】KCU
- ·https://www.scq.ubc.ca/?page=2&s=黑帽seo寄生虫程序【tg:seogoogle987】,bgb
- ·https://www.vocabulary.com/dictionary/黑帽seo寄生虫程序【tg:seogoogle987】,Hw3
- ·https://m.shoppinghow.kakao.com/m/search/q/黑帽seo寄生虫程序【tg:seogoogle987】Sf9
