ベクトル量子化と圧縮（PQ・スカラー量子化）

索引構造と表現圧縮は別問題

HNSW と IVF-PQ は「どのベクトルを見るか」を絞る 索引構造 の話でした。本稿はその一段手前、「1本のベクトルを何バイトで表すか」という 表現の圧縮 に絞ります。索引構造を変えなくても、ベクトル自体を圧縮すればメモリは減ります。逆に索引構造（IVFなど）と量子化（PQなど）は独立な軸で、自由に組み合わせられます。

埋め込みは通常 float32（4バイト/次元）で生成されます。1536次元なら1本6144バイト。1億本を素朴に持てば600GB超で、RAMに載せるには非現実的です。ここで効くのが 量子化（quantization）、すなわち連続値を少ないビット数の離散値へ写して近似する技術です。圧縮率を上げるほどメモリと転送帯域は減りますが、元の値との差である 量子化誤差 が積み重なり、距離計算の精度、ひいては検索の recall が落ちます。この誤差とメモリのトレードオフをどう制御するかが本稿の主題です。

スカラー量子化：次元ごとに独立に丸める

スカラー量子化（SQ: Scalar Quantization） は、各次元の値域を線形にマッピングして低ビット整数へ丸める、最も単純な量子化です。int8 量子化を例にすると手順はこうです。

1. 次元ごと（あるいはベクトル全体で1つ）に最小値 min・最大値 max を統計から求める。
2. スケール scale = (max - min) / 255 を計算する。
3. 各値 x を code = round((x - min) / scale) で 0〜255 の整数に変換する。
4. 検索時は逆変換 x' = min + code * scale で近似的に復元してから距離計算する（あるいは整数のまま近似距離を計算する）。

スカラー量子化（int8, 次元ごと）
  入力: x = 0.734 （min=-1.0, max=1.0 と仮定）
  scale = 2.0 / 255 ≈ 0.00784
  code  = round((0.734 - (-1.0)) / scale) = round(221.2) = 221
  復元:  x' = -1.0 + 221 * 0.00784 ≈ 0.732   （誤差 ≈ 0.002）

float32（32ビット）から int8（8ビット）へは 4倍圧縮。誤差は各次元で独立かつ一様分布に近く、外れ値さえ適切にクリッピングすれば実務上の recall 劣化は小さく抑えられます。次元間の相関を利用しない代わりに、コードブック学習が不要で実装・運用が単純という利点があります。バイナリ量子化ほど極端でなく、PQほど複雑でもない、いわばバランス型の第一選択です。int4（16段階）まで攻めると8倍圧縮になりますが、段階が粗くなるぶん誤差が増え、recall 劣化が無視できなくなる領域に入ります。

PQとの対比：どこで複雑さを払うか

PQ（直積量子化）はHNSWとIVF-PQの記事で扱った通り、ベクトルをサブベクトルに分割し、サブ空間ごとに k-means で学習したコードブックの代表点番号（1バイト程度）へ置き換える手法です。スカラー量子化との本質的な違いは、次元間の統計的構造を利用するかどうかにあります。

圧縮率で勝るPQは、コードブックというデータ依存の前処理を背負います。学習データの分布から外れたベクトル（分布ドリフト）が増えると量子化誤差が偏り、コードブックの再学習が要ります。スカラー量子化は次元ごとの min/max さえ更新すれば追従しやすく、圧縮率よりも運用の単純さと予測可能な誤差を優先する場面に向きます。

二値量子化：符号1ビットへの極限圧縮

二値量子化（binary quantization） は各次元の値を符号（正か負か）だけの1ビットに落とす、最も過激な量子化です。float32（32ビット）から1ビットへの 32倍圧縮 になります。

二値量子化
  入力ベクトル: [0.12, -0.05, 0.88, -1.3, 0.0]
  符号ビット :  [1,     0,     1,    0,    1]   （0以上なら1、負なら0）

距離の近似には ハミング距離（ビットが異なる箇所の数）を使います。ハミング距離はXORとポップカウント（立っているビット数を数える命令）だけで計算でき、浮動小数点の積和より桁違いに高速です。ビット演算はCPU・GPUの専用命令と相性がよく、1億件規模でもメモリに載り切ってミリ秒台のスクリーニングが可能になります。

代償は情報量の損失です。各次元の大きさ（マグニチュード）情報が捨てられ符号しか残らないため、単体では検索精度が大きく落ちます。そのため二値量子化は単独では使わず、次の**二段構成（two-stage retrieval）**が前提になります。

1. 二値コードでハミング距離を計算し、候補を大量（例: 上位1000件）に高速絞り込みする。
2. 絞り込んだ候補だけ、元のfloat32ベクトル（あるいはSQ/PQで圧縮したベクトル）で正確な距離を計算し、上位k件に**再ランキング（re-ranking）**する。

誤差はどこから来て、どう制御するか

3方式に共通するのは、量子化誤差が内積・コサイン類似度の順序を乱すことです。順序が乱れると上位k件の入れ替わりが起き、recallが下がります。誤差の主な発生源は次の2つに整理できます。

• 表現力の不足: 割り当てるビット数が値の分布に対して粗すぎる。段階数を増やす（int8→int4をやめる、PQのnbitsを増やす）ことで緩和できるが、メモリ増と引き換え。
• 分布の未学習・ドリフト: min/maxやコードブックが実データの分布とずれている。定期的な再キャリブレーション・再学習で緩和する。

まとめ