生成对抗网络GAN损失函数loss的简单理解

原始的公式长这样：

min⁡Gmax⁡DV(D,G)=Ex∼pdata(x)[log⁡D(x)]+Ez∼pz(z)[log⁡(1−D(G(z)))]\min _{G} \max _{D} V(D, G)=\mathbb{E}_{\boldsymbol{x} \sim p_{\text {data }}(\boldsymbol{x})}[\log D(\boldsymbol{x})]+\mathbb{E}_{\boldsymbol{z} \sim p_{\boldsymbol{z}}(\boldsymbol{z})}[\log (1-D(G(\boldsymbol{z})))] Gmin​Dmax​V(D,G)=Ex∼pdata​(x)​[logD(x)]+Ez∼pz​(z)​[log(1−D(G(z)))] 首先可以明确一点，这种公式肯定是从里面算到外面的，也就是可以先看这一部分：max⁡DV(D,G)=Ex∼pdata(x)[log⁡D(x)]+Ez∼pz(z)[log⁡(1−D(G(z)))]\max _{D} V(D, G)=\mathbb{E}_{\boldsymbol{x} \sim p_{\text {data }}(\boldsymbol{x})}[\log D(\boldsymbol{x})]+\mathbb{E}_{\boldsymbol{z} \sim p_{\boldsymbol{z}}(\boldsymbol{z})}[\log (1-D(G(\boldsymbol{z})))] Dmax​V(D,G)=Ex∼pdata​(x)​[logD(x)]+Ez∼pz​(z)​[log(1−D(G(z)))] 我们知道，在每个epoch中，GAN的生成器与判别器是分别训练的，即先固定生成器GGG，去训练判别器DDD，那么上面这个式子实际上就是判别器的"损失函数"。继续拆分上面这个式子，可以发现主要就是加号左右两个部分。

先看左边。左边这一部分的作用是保证判别器的基础判断能力：对于Ex∼pdata(x)[log⁡D(x)]\mathbb{E}_{\boldsymbol{x} \sim p_{\text {data }}(\boldsymbol{x})}[\log D(\boldsymbol{x})]Ex∼pdata​(x)​[logD(x)]，x\boldsymbol{x}x为从真实数据分布pdatap_{\text {data }}pdata​中采样得到的样本。Ex∼pdata(x)[log⁡D(x)]\mathbb{E}_{\boldsymbol{x} \sim p_{\text {data }}(\boldsymbol{x})}[\log D(\boldsymbol{x})]Ex∼pdata​(x)​[logD(x)]越大，相当于意味着D(x)D(\boldsymbol{x})D(x)越大，即判别器越能准确地将真实样本识别为真实样本；因此有max⁡D\max _{D}maxD​；

再看右边。右边这一部分的作用是保证判别器能够区分出虚假样本：对于Ez∼pz(z)[log⁡(1−D(G(z)))]\mathbb{E}_{\boldsymbol{z} \sim p_{\boldsymbol{z}}(\boldsymbol{z})}[\log (1-D(G(\boldsymbol{z})))]Ez∼pz​(z)​[log(1−D(G(z)))]，z\boldsymbol{z}z为从某一特定分布pzp_{\boldsymbol{z}}pz​中得到的采样，G(z)G(\boldsymbol{z})G(z)为生成器生成的虚假样本。Ez∼pz(z)[log⁡(1−D(G(z)))]\mathbb{E}_{\boldsymbol{z} \sim p_{\boldsymbol{z}}(\boldsymbol{z})}[\log (1-D(G(\boldsymbol{z})))]Ez∼pz​(z)​[log(1−D(G(z)))]越大，相当于意味着D(G(z))D(G(\boldsymbol{z}))D(G(z))越小，即判别器越能够正确区分虚假样本，将其标为False；因此有max⁡D\max _{D}maxD​。

再来看生成器G的"损失函数"。到了训练生成器G的阶段，此时判别器D固定。如果G更强，那么判别器会进行误判，此时D(G(z))D(G(\boldsymbol{z}))D(G(z))会变大，Ez∼pz(z)[log⁡(1−D(G(z)))]\mathbb{E}_{\boldsymbol{z} \sim p_{\boldsymbol{z}}(\boldsymbol{z})}[\log (1-D(G(\boldsymbol{z})))]Ez∼pz​(z)​[log(1−D(G(z)))]更接近于零，即整个式子的值会更小；因此有min⁡G\min _{G}minG​。