GAN の原理：敵対的学習とナッシュ均衡

全体像：2つのネットワークを競わせる

GAN（Generative Adversarial Networks, 敵対的生成ネットワーク）は、データを直接モデル化するのではなく、2つのニューラルネットを競争させることで生成を学習します。役割の異なる2者を対戦させ、その均衡点で本物そっくりの分布が手に入る、という設計です。

たとえるなら、**偽札を作る贋作者（G）と、それを見破る鑑定士（D）**のいたちごっこです。G は D をだまそうと精巧になり、D はだまされまいと鋭くなる。この競争が進むほど G の出力は本物に近づきます。土台となるネットワークの仕組みは ニューラルネットワーク を前提とします。

ミニマックス目的：何を最適化しているのか

GAN の学習は、1つの目的関数 V(D, G) を D は最大化・G は最小化する、というミニマックス（minimax, 最小最大）問題として定義されます。

min_G max_D V(D, G)
  = E[ log D(x) ]        ( x ~ 実データ分布 p_data )
  + E[ log(1 - D(G(z))) ]  ( z ~ 事前分布 p_z, 例: N(0, I) )

各項の意味は明快です。

• 第1項 log D(x)：本物 x に対し D は D(x) を 1 に近づけたい。D が大きくしたい項。
• 第2項 log(1 - D(G(z)))：偽物 G(z) に対し D は D(G(z)) を 0 に近づけたい（= 1 - D(G(z)) を 1 に）。D が大きくしたい項。

D はこの両方を大きくしようとし（見破る）、G は第2項を小さくしようとします（だます）。両者の目的が真っ向から対立するゼロサム的な構造が「敵対的（adversarial）」の核心です。

最適識別器：目的関数の正体は JSダイバージェンス

GAN が「何を最小化しているのか」は、G を固定して D だけを最適化すると明らかになります。生成分布を p_g、実分布を p_data と書くと、目的関数 V を最大にする最適識別器 D* は各点 x で次の形に解析的に求まります。

D*(x) = p_data(x) / ( p_data(x) + p_g(x) )

これは「その点で本物が出る相対的な割合」そのものです。この D* を V に代入して整理すると、G が最小化している量が Jensen–Shannon ダイバージェンス（JSダイバージェンス, JSD） になることが示せます。

V(D*, G) = -log 4 + 2 · JSD( p_data ‖ p_g )

JSダイバージェンスは2つの確率分布の「隔たり」を測る量で、KLダイバージェンスを対称化したものです。常に 0 以上で、2分布が完全に一致するときだけ 0。つまり GAN の学習とは、突き詰めれば p_g を p_data に近づけ JSD を 0 にする操作に他なりません。

ナッシュ均衡：競争が釣り合う点

p_g = p_data が達成されると JSD が 0 になり、最適識別器の式に代入すれば次が成り立ちます。

D*(x) = p_data / (p_data + p_data) = 1/2   ( すべての x で )

D の出力がどこでも 0.5、つまり本物と偽物をコイン投げ以上に見分けられない状態です。このとき G も D も自分だけ戦略を変えても利得を改善できません。これがゲーム理論でいう**ナッシュ均衡（Nash equilibrium）**であり、GAN の理論上のゴールです。

ここが GAN の美しさです。ミニマックス問題の均衡点が、ちょうど「生成分布＝実分布」という望ましい状態と一致するよう目的関数が設計されている。競争のバランスが取れた瞬間に、最良の生成器が手に入ります。

なぜ学習が不安定なのか

理論はきれいですが、実際の GAN は学習が非常に不安定で扱いが難しいことで知られます。原因は大きく2つあります。

勾配消失：D が強すぎると G が学べない

学習初期は G が下手なので、D は容易に偽物を見破り D(G(z)) ≈ 0 となります。このとき元の目的 log(1 - D(G(z))) は G に対する勾配がほぼ消える（飽和する）ため、G が改善方向を受け取れません。理論上の最適化対象が JSD であることもこれに効いてきます。p_g と p_data の台（サポート）がほとんど重ならないと JSD は一定値 log 2 に張り付き、勾配を生まないのです。

実務では、G の目的を log(1 - D(G(z))) の最小化ではなく log D(G(z)) の最大化に置き換える「非飽和（non-saturating）損失」を使うのが定番です。これは初期に強い勾配を与え、学習を立ち上げます。

# D は本物=1, 偽物=0 を当てる2値分類（最大化 → 損失は符号反転）
loss_D = -( log(D(x_real)) + log(1 - D(G(z))) )

# G は元の min log(1 - D(G(z))) ではなく
# 非飽和版 max log D(G(z)) を使い、初期の勾配消失を避ける
loss_G = -log(D(G(z)))

モード崩壊：多様性が潰れる

もう一つの代表的な失敗が **モード崩壊（mode collapse）**です。G が実分布の一部のモード（例: 手書き数字のうち「1」ばかり）だけを生成し、多様性を失う現象を指します。

なぜ起きるか。G の目的は「D をだます」ことだけで、生成の多様性を要求する項がないからです。もし D をだませる出力を1つ見つければ、G はそこに全確率を集中させても損をしません。D が「今だまされている領域」を学習して塞ぐと、G は別の1点へ飛び移る——これが繰り返され、出力が振動したり数モードに固着したりします。ミニマックスの内外を交互に更新する近似最適化が、真の均衡に収束する保証を持たないことも背景にあります。

安定化の方向性：JSD から Wasserstein へ

不安定さの根が「JSDが重なりのない分布で勾配を出さない」点にあるなら、距離尺度そのものを取り替えるのが筋の良い解決です。代表が **WGAN（Wasserstein GAN）**で、JSダイバージェンスの代わりに **Wasserstein 距離（Earth Mover's 距離）**を最小化します。

Wasserstein 距離は分布が重ならなくても連続で意味のある勾配を与えるため、勾配消失が起きにくく、損失値が生成品質の目安として使いやすくなります。GAN 研究の多くは、この「目的関数・正則化・アーキテクチャ」のいずれかを改良して安定性と多様性を確保する方向に進みました。最適化アルゴリズム自体は 勾配降下法 の枠組み（多くは Adam）のままです。

まとめ：競争が定義する生成

GAN の原理は次の鎖に集約されます。

GAN は「データの確率を直接書き下す」のではなく、競争の均衡として暗黙に分布を学ぶという発想の転換でした。同じ生成AIでも、過程を解析的に固定して逆をたどる 拡散モデル（数理は 拡散モデルの数理）とは対照的なアプローチです。両者を比べると、生成モデルが「分布の近さをどう測り、どう詰めるか」という共通の問いに、異なる答えを出していることが見えてきます。