CycleGAN生成对抗网络图像处理工具
1. GAN简介
"干饭人,干饭魂,干饭都是人上人"。
此GAN饭人非彼干饭人。本文要讲的GAN是Goodfellow2014提出的生成产生对抗模型,即Generative Adversarial Nets。那么GAN到底有什么神奇的地方?
常规的深度学习任务如图像分类,目标检测以及语义分割或者实例分割,这些任务的结果都可以归结为预测。图像分类是预测单一的类别,目标检测是预测bbox和类别,语义分割或者实例分割是预测每个像素的类别。而GAN是生成一个新的东西如一个图片。
GAN的原理用一句话来说明:
通过对抗的方式,去学习数据分布的生成式模型。GAN是无监督的过程,能够捕捉数据集的分布,以便于可以从随机噪声中生成同样分布的数据
GAN的组成:判别式模型和生成式模型的左右手博弈
D判别式模型:学习真假边界,判断数据是真的还是假的 G生成式模型:学习数据分布并生成数据
GAN经典的loss如下(minmax体现的就是对抗)
2. 实战cycleGAN 风格转换
了解了GAN的作用,来体验的GAN的神奇效果。这里以cycleGAN为例子来实现图像的风格转换。所谓的风格转换就是改变原始图片的风格,如下图左边是原图,中间是风格图(梵高画),生成后是右边的具有梵高风格的原图,可以看到总体上生成后的图保留大部分原图的内容。
2.1 cycleGAN简介
cycleGAN本质上和GAN是一样的,是学习数据集中潜在的数据分布。GAN是从随机噪声生成同分布的图片,cycleGAN是在有意义的图上加上学习到的分布从而Cy生成另一个领域的图。cycleGAN假设image-to-image的两个领域存在的潜在的联系。
众所周知,GAN的映射函数很难保证生成图片的有效性。cycleGAN利用cycle consistency来保证生成的图片与输入图片的结构上一致性。我们看下cycleGAN的结构:
特点总结如下:
两路GAN:两个生成器[ G:X->Y , F:Y->X ] 和两个判别器[Dx, Dy], G和Dy目的是生成的对象,Dy(正类是Y领域)无法判别。同理F和Dx也是一样的。 cycle consistency:G是生成Y的生成器, F是生成X的生成器,cycle consistency是为了约束G和F生成的对象的范围, 是的G生成的对象通过F生成器能够回到原始的领域如:x->G(x)->F(G(x))=x
对抗loss如下:
2.2 实现cycleGAN
2.2.1 生成器
从上面简介中生成器有两个生成器,一个是正向,一个是反向的。结构是参考论文Perceptual Losses for Real-Time Style Transfer and Super-Resolution: Supplementary Material。大致可以分为:下采样 + residual 残差block + 上采样,如下图(摘自论文):
实现上下采样是stride=2的卷积, 上采样用nn.Upsample:
# 残差block class ResidualBlock(nn.Module): cl def __init__(self, in_features): super(ResidualBlock, self).__init__() self.block = nn.Sequential( nn.ReflectionPad2d(1), nn.Conv2d(in_features, in_features, 3), nn.InstanceNorm2d(in_features),  eG; nn.ReLU(inplace=True), nn.ReflectionPad2d(1), nn.Conv2d(in_features, in_features, 3), nn.InstanceNorm2d(in_features), ) def forward(self, x): return x + self.block(x) class ANGeneratorResNet(nn.Module): def __init__(self, input_shape, num_residual_blocks): super(GeneratorResNet, self).__init__() channels = input_shape[0] # Initial convolution block out_features = 64 model = [ 生成 nn.ReflectionPad2d(channels), nn.Conv2d(channels, out_features, 7), nn.InstanceNorm2d(out_features), nn.ReLU(inplace=True), ] in_features = out_features # Downsampling &n对抗bsp; for _ in range(2): out_features *= 2 model += [ nn.Conv2d(in_features, out_features, 3, stride=2, padding=1), nn.InstanceNorm2d(out_features),  网络; nn.ReLU(inplace=True), ] in_features = out_features # Residual blocks for _ in range(num_residual_blocks): model += [ResidualBlock(out_features)] #&nbs图像p;Upsampling for _ in range(2): out_features //= 2 model += [ nn.Upsample(scale_factor=2), nn.Conv2d(in_features, out_features, 3, stride=1, padding=1), &处理nbsp; nn.InstanceNorm2d(out_features), nn.ReLU(inplace=True), ] in_features = out_features # Output layer model += [nn.ReflectionPad2d(channels), nn.Conv2d(out工具_features, channels, 7), nn.Tanh()] self.model = nn.Sequential(*model) def forward(self, x): return self.model(x)
2.2.2 判别器
传统的GAN 判别器输出的是一个值,判断真假的程度。而patchGAN输出是N*N值,每一个值代表着原始图像上的一定大小的感受野,直观上就是对原图上crop下可重复的一部分区域进行判断真假,可以认为是一个全卷积网络,最早是在pix2pix提出(Image-to-Image Translation with Conditional Adversarial Networks)。好处是参数少,另外一个从局部可以更好的抓取高频信息。
class Discriminator(nn.Module): def __init__(self, input_shape): &nCybsp; super(Discriminator, self).__init__() channels, height, width = input_shape # Calculate output shape of image discriminator (PatchGAN) self.output_shape = (1, height // 2 ** 4, width // 2 ** 4) def discriminator_block(in_filters, out_filters, normalize=True): &nclbsp; """Returns downsampling layers of each discriminator block""" layers = [nn.Conv2d(in_filters, out_filters, 4, stride=2, padding=1)] if normalize: layers.append(nn.InstanceNorm2d(out_filters))  eG; layers.append(nn.LeakyReLU(0.2, inplace=True)) return layers self.model = nn.Sequential( *discriminator_block(channels, 64, normalize=False), *discriminator_block(64, 128), *discriminator_block(128, 256), &nANbsp; *discriminator_block(256, 512), nn.ZeroPad2d((1, 0, 1, 0)), nn.Conv2d(512, 1, 4, padding=1) ) def forward(self, img): return self.model(img)
-
上海交大发布 MobiAgent:人人都能拥有自己的 AI 助手,超越 GPT-5!布林亲自下场!谷歌组建Gemini精英团队,AI编程赛道开启“贴身肉搏”人脸识别时一定要穿衣服引热议,专家称不必过分担心美国数据中心建设热潮遇阻:超七成民众反对,QTS终止全球最大园区项目火山引擎发布Agentic AI汽车方案,豆包大模型加速智驾座舱生态变革标签: 欣旺达动力 威睿 吉利控股 动力电池Kubernetes为科技行业创造公平竞争环境翻滚跳跃、集群飞行,MIT新一代类昆虫无人机还能承受人为撞击标签: 芯潮流 光电DSP芯片 高速SerDes 数据中心互连对抗SpaceX!亚马逊收购Facebook卫星互联网团队
- ·苹果iPhone 12新机在美畅销:占iPhone总销量的27%
- ·一文让你了解什么是管理大数据技术!
- ·AI 算力豪赌:OpenAI 签署万亿美元芯片大单,烧钱规模远超谷歌微软?
- ·3根机械手指打《超级马里奥》登上Science子刊
- ·标签: 尚德机构 银发教育 AI教育 成人教育
- ·SparkStreaming项目实战,实时计算Pv和Uv
- ·Firecrawl宣布下周开源AI就绪检查器,助力网站全面优化
- ·美团 LongCat 团队推出 VitaBench:全新智能体评测基准
- ·云计算开发:Python3三角函数hypot()方法详解
- ·仅需2张图,AI便可生成完整运动过程
- ·标签: 德适生物 AI AutoVision 医学影像大模型 三类创新医疗器械
- ·科大讯飞AI翻译耳机全球首发,实时沟通无障碍!
- ·标签: 小米集团 星纪魅族 曾洋 公关媒介
- ·Grammarly 推出 AI 写作助手,助力学生提升论文质量
- ·贝索斯将于7月5日卸任亚马逊CEO:由云计算负责人贾西接任
- ·2021年12种最佳云管理平台
- ·https://www.nyif.com/catalogsearch/result/index/?f=sarbanesoxleyU&index=me_cms_pe&lit=20&mode=list&p=1&q=谷歌搜索留痕【tg:seogoogle987】,pZV
- ·https://www.swecobelgium.be/?page=9&s=谷歌搜索留痕【tg:seogoogle987】,ZvO
- ·https://www.mexperience.com/?T=1686132112324&s=谷歌搜索留痕【tg:seogoogle987】,Jku
- ·https://www.roberthalf.com/us/en/jobs/all/谷歌搜索留痕【tg:seogoogle987】O30
- ·https://www.takachi-enclosure.com/search?eqYB=gnI31Ou&text=谷歌搜索留痕【tg:seogoogle987】,WKC
- ·https://search.danawa.com/dsearch.php?query=谷歌搜索留痕【tg:seogoogle987】xaC
- ·https://www.sdcard.org/ja/?s=谷歌搜索留痕【tg:seogoogle987】,Cf1
- ·https://www.terramania.nl/catalogsearch/result/index/?q=谷歌搜索留痕【tg:seogoogle987】,pmZ
- ·https://www.nissin.com/jp/search/?cat=105&q=谷歌搜索留痕【tg:seogoogle987】,6ve
- ·https://www.repetto.jp/item/search?action=QUERY&q=谷歌搜索留痕【tg:seogoogle987】,prZ
