分類器フリーガイダンスと条件付き拡散生成

条件付き生成のスコアを分解する

条件付き拡散モデルの目的は、条件 c（テキスト、クラスラベルなど）を与えたときのデータ分布 p(x|c) からサンプリングすることです。スコアベース生成モデル で見たとおり、拡散モデルのサンプリングは各時刻のスコア ∇_x log p_t(x) を辿る操作に帰着します。条件付きでは、辿るべきは条件付きスコア ∇_x log p_t(x|c) です。

ここで Bayes の定理を対数微分すると、条件付きスコアが2つの項に綺麗に分解されます。

log p(x|c) = log p(x) + log p(c|x) − log p(c)

∇_x log p(x|c) = ∇_x log p(x) + ∇_x log p(c|x)

最後の ∇_x log p(c) は x を含まないので勾配が消えます。残るのは無条件スコア ∇_x log p(x) と、分類器の勾配 ∇_x log p(c|x) です。この分解こそ、ガイダンス手法すべての出発点です。

分類器ガイダンス：別モデルの勾配を借りる

素朴な実装が 分類器ガイダンス（classifier guidance） です。上の分解をそのまま使い、ノイズ付き画像 x_t を入力に条件 c を当てる分類器 p_φ(c|x_t) を別途学習し、その勾配をサンプリングに足し込みます。忠実度を強めたいときは勾配にスケール w を掛けます。

∇_x log p_t(x|c) ≈ ∇_x log p_t(x) + w · ∇_x log p_φ(c|x_t)

w を1より大きくすると、条件 c を強く満たす方向へサンプルが押され、クラス忠実度（条件への一致度）が上がります。これは実質的に条件付き分布を p(x)·p(c|x)^w の形へ鋭くする操作に相当します。

分類器フリーガイダンス：分類器を消す

分類器フリーガイダンス（classifier-free guidance, CFG） の発想は、邪魔な ∇_x log p(c|x) を別モデルではなく拡散モデル自身で表現することです。分解の式を ∇_x log p(c|x) について解き直します。

∇_x log p(c|x) = ∇_x log p(x|c) − ∇_x log p(x)

右辺は、条件付きスコアと無条件スコアの差です。両方とも拡散モデルが直接予測できる量なので、外部の分類器は要りません。これを最初の分類器ガイダンスの式に代入すると、CFG の中核となる外挿式が得られます。

∇_x log p̃(x|c) = ∇_x log p(x) + w · [ ∇_x log p(x|c) − ∇_x log p(x) ]
              = (1 − w) · ∇_x log p(x) + w · ∇_x log p(x|c)

実装ではスコアの代わりにノイズ予測 ε_θ で書くのが普通です（両者は単なるスケール変換で、詳しくは 拡散モデル を参照）。

ε̃(x_t, c) = ε_θ(x_t, ∅) + w · [ ε_θ(x_t, c) − ε_θ(x_t, ∅) ]

ここで ∅ は「条件なし（空条件）」を表す特別なトークンです。1回のサンプリングステップで条件付き予測 ε_θ(x_t, c) と無条件予測 ε_θ(x_t, ∅) の2回フォワードを走らせ、その差をスケール w で外挿します。

ガイダンススケール w：品質と多様性のつまみ

w はサンプリング時に自由に変えられるハイパーパラメータで、生成の性格を直接決めます。慣習として CFG の実装では s = w を「ガイダンススケール」と呼び、s = 1 がガイダンスなし、s を上げるほど条件を強めます（論文の表記により w と 1+w の定義差があるため、実装の規約を必ず確認してください）。

この挙動の理由は明快です。外挿は条件付き分布を p(x|c) ∝ p(x)·p(c|x)^w の形へ鋭くします。指数 w が大きいほど分布は条件を満たす高確率モードへ集中し、サンプルは「いかにも条件 c らしい」典型例に寄ります。その代償として、条件を満たすが珍しいサンプルが切り捨てられ、多様性が落ちます。これは生成モデルの評価で使う精度（precision）と再現率（recall）のトレードオフに対応し、忠実度（precision 寄り）と網羅性（recall 寄り）を w で連続的に動かしていると解釈できます。

学習時の条件ドロップ：1つのネットワークに2役を持たせる

CFG が成立する前提は、同一のネットワークが条件付き予測と無条件予測の両方を出せることです。これを達成するのが学習時の 条件ドロップアウト（condition dropout） です。

各学習ステップで、確率 p_uncond（典型的には10〜20%程度）で条件 c を空条件 ∅ に置き換えてから損失を計算します。残りのステップは通常どおり条件 c を与えます。これだけで、1つのモデルが「条件あり」と「条件なし（マージナル分布）」の両方のデノイジングを同時に学習します。

# 学習ループ内（擬似コード）
def training_step(x0, c, model, p_uncond=0.1):
    t = sample_timestep()
    eps = sample_noise_like(x0)
    x_t = add_noise(x0, eps, t)          # 前向き拡散

    # 確率 p_uncond で条件を空条件に落とす
    if random() < p_uncond:
        c_in = NULL_TOKEN                # ∅（無条件）
    else:
        c_in = c                         # 条件あり

    eps_pred = model(x_t, t, c_in)
    return mse(eps_pred, eps)            # ノイズ予測回帰

# サンプリング時の CFG 合成
def cfg_eps(model, x_t, t, c, scale):
    eps_uncond = model(x_t, t, NULL_TOKEN)
    eps_cond   = model(x_t, t, c)
    return eps_uncond + scale * (eps_cond - eps_uncond)

この設計の効用は大きく3つあります。第一に、ノイズ頑健な分類器を別途学習する必要が消えます（学習も推論も拡散モデル1つで完結）。第二に、テキストのような任意の条件埋め込みをそのまま扱えます（分類器ガイダンスのように離散クラスに縛られません）。第三に、空条件 ∅ を共有することで無条件側の学習データが条件付きデータと同一になり、両者のスコアが整合した同じ多様体上で定義されます。

まとめ：分類器を畳み込んだ一つのモデル

CFG の本質は、Bayes 分解で現れる分類器項 ∇_x log p(c|x) を、条件付きスコアと無条件スコアの差として拡散モデル内部に畳み込んだことにあります。これにより別モデルが消え、外挿スケール w という1本のつまみで忠実度と多様性を連続的に制御できるようになりました。w は単なる強度ではなく、条件付き分布を p(c|x)^w で鋭くする指数であり、上げすぎれば過飽和とモード崩壊を招きます。背景となるスコアの考え方は スコアベース生成モデル、拡散の前向き・逆向き過程の全体像は 拡散モデル、生成手法全体の中での位置づけは 生成モデルの系統図 を合わせて読むと、現代の条件付き生成の骨格が一本につながります。