Interactive

ROC・PR曲線とAUC可視化

分類評価指標を「曲線」として実際に計算します。ROC・PR曲線とAUCタブでは、ROC-AUCを台形積分・ペア列挙・ランク和法という3つの独立した方法で計算して一致を確認し、 不均衡データでROC-AUCPR-AUCが 乖離する様子を観測できます。閾値を選ぶタブでは 混同行列を動かしながらF1・Fβ・最適閾値の関係を確認できます。

データセット

記事の核心。陽性5件・陰性495件で分離度は中程度。ROC-AUCは高いままなのに、PR-AUCは有病率(≒0.01)に近い低い値まで落ちる。

陽性 5 件 / 陰性 495 件 (陽性割合 0.0100

ROC曲線

000.50.511FPRTPR

PR曲線

000.50.511RecallPrecision

ROC-AUCを3つの独立した方法で計算する

① 台形積分

ROC曲線下の幾何的な面積

0.959798

② ペア列挙

陽性>陰性の割合(同点0.5)

0.959798

③ ランク和法

Mann-Whitney U統計量

0.959798

3つとも幾何・確率・統計というまったく別の定義から出発しているのに、小数点以下6桁まで一致します—— 「曲線下の面積」と「順位確率」が同じ量であることの直接の証拠です。

ROC-AUC と PR-AUC の乖離

ROC-AUC

0.960

PR-AUC(Average Precision)

0.224

PR曲線の橙の破線はベースライン(陽性割合 0.0100)です。ROCの対角線(灰)は常に0.5である一方、 PRのベースラインはデータの不均衡度そのものに動きます。 このデータは陽性が1.0%しかないため、ROC-AUCが高くてもPR-AUCは大きく下がりやすい状況です。

スコアはガウス分布に近い決定的な擬似データです。分離度(陽性・陰性の平均差)を変えたプリセットで、 AUCと不均衡度の関係を比較できます。

ここが分かる

  • 「曲線下の面積」と「順位確率」が同じ量であることを直接確認できる——幾何的な台形積分、陽性・陰性ペアの数え上げ、統計学のランク和法(Mann-Whitney U)という3つのまったく異なる定義から出発したAUCが、小数点以下6桁まで一致する。
  • 不均衡データを選ぶとROC-AUCとPR-AUCが乖離する——同じ「分離のしやすさ」でも、陽性が1%のデータではROC-AUCが高いままPR-AUCだけが有病率近くまで落ちる。ROCの分母(陰性総数)とPRの分母(陽性予測数)の違いが数値として現れる。
  • 閾値を動かしてもAUCは変わらない——AUCは順位だけを見る指標なので、混同行列やF1が閾値スライダーで変化する一方、ROC-AUC/PR-AUCの表示はぴくりとも動かない。「モデル比較はAUCで、運用点は閾値で」という記事の二段階構成が体感できる。
  • βを動かすとF1最大化の閾値が動く——見逃しを嫌うか誤検出を嫌うかで最適な閾値が変わることを、Fβスライダーとワンクリックの最適化ボタンで確認できる。