
私以为现在GAN就是一个思想,而非统一的框架,创始人GoodFellow在2014年的论文Goodfellow, Ian, et al. "Generative adversarial nets." Advances in Neural Information Processing Systems. 2014.只是挖了一个坑而已,具体GAN待研究的的东西还很多,包括理论和应用领域。 至于“对通用人工智能有什么意义”这个问题,估计GoodFellow也给不出准确的回答,GAN刚起步,它的影响力多大,对于人工智能有多大推动作用?时间和后继的研究者会给出答案。
目前GAN方向有不少有趣的探索:
理论方向
一.GAN(Generative Adversarial Nets)原文是要求generator学习一个分布(精确讲这里其实并不是“学习”分布,而是我们已经提供一个高斯分布z,学习一个映射把高斯分布映射到更高维的空间)去拟合真实图像的分布。
这篇文章最大的contribution前面也有人提了并不是生成看起来更自然真实的图像,而是用NN生成一个分布,这是它重大研究意义的核心所在。
二.CGAN( Conditional Generative Adversarial Nets )在原本过于自由的训练基础上加了约束,指导数据生成过程。
三.DCGAN(Unsupervised Representation Learning with Deep ...)非常非常经典的一篇文章,GAN在CV领域的延伸,去除pooling和全连接层,使用反卷积。
四.关于GAN训练找纳什均衡点的问题一直存在,然后最近也出了很多文章从理论上改进GAN收敛性问题。包括WGAN(Wasserstein GAN)还有@齐国君 老师的LS-GAN(Loss-Sensitive Generative Adversarial Networks on ...)
应用方向
这个数不胜数了。列一下transfer learning领域的吧:
一.DANN(Domain-Adversarial Training of Neural Networks)主要思路是target和source domain对抗形成一个相似的分布,这篇文章借用了GAN的思想,但只是采用负loss的形式,并没有GAN训练的时候找纳什均衡点的过程。
二.CoGAN(Coupled Generative Adversarial Networks)又是一篇经典之作,加了高层权值共享约束,学习一组联合分布,主要用来生成跨域的图片。
另外的很多就不做列举了
