SIMDとベクトル演算の原理（SSE/AVX/NEON/SVE）

データレベル並列という考え方

通常のスカラ命令は add 1回で1組の足し算を行います。しかし画像のピクセル処理や行列演算では、同じ操作を大量の要素へ繰り返すだけのことが多い。ここで効くのが SIMD（Single Instruction, Multiple Data） です。幅の広いベクトルレジスタに複数の要素を詰め込み、1つの命令を全要素へ一斉に適用します。

スカラ: add r0, r1, r2            ← 1要素ぶんの加算
SIMD  : vaddps ymm0, ymm1, ymm2  ← 256bitに詰めた8個のfloatを同時に加算
        ymm1: [a0 a1 a2 a3 a4 a5 a6 a7]
        ymm2: [b0 b1 b2 b3 b4 b5 b6 b7]
        ymm0: [a0+b0 ... a7+b7]   ← 1命令で8要素

これは命令を並べ替えて並列度を稼ぐアウトオブオーダ実行（命令レベル並列）とは別の軸で、データレベル並列（DLP） と呼びます。命令フェッチ・デコードは1回で済むため、同じ電力でより多くの演算をこなせるのが本質的な利点です。1命令あたりの制御コストを要素数で割り勘にする、という発想はGPUのSIMTとも共通します。

レジスタ幅と要素数

SIMD の性能はベクトルレジスタの幅で決まります。幅が広いほど1命令で扱える要素が増えます。要素数は単純な割り算です。

1命令あたりの要素数 = レジスタ幅(bit) / 要素のビット幅
例: 256bit幅でfloat(32bit) → 8要素 / double(64bit) → 4要素

同じレジスタを、要素のサイズを変えて「8bit×多数」「32bit×中数」のように見立てられるのもポイントです。x86 系の拡張は、この幅を世代ごとに倍々に広げてきました。

幅が倍になれば理論スループットも倍ですが、後述するように整列やメモリ帯域が伴わなければ実効値は伸びません。

固定長（AVX）とスケーラブル（SVE）

ここが上級者の分かれ目です。SSE/AVX/NEON はいずれも固定長方式で、レジスタ幅が ISA に焼き込まれています。vaddps ymm という命令は「256bit を処理する」と決め打ちで、幅が変われば別の命令（別のバイナリ）が必要です。512bit を使いたければ AVX-512 向けに再コンパイルし直すことになります。

ARM の SVE（Scalable Vector Extension） はこの前提を覆します。命令はレジスタ幅を規定しません。プログラムは「ベクトル長は実行時に決まる未知の値」として書かれ、実際の幅はハードウェア実装が 128〜2048bit の範囲で選びます。同じ実行バイナリが、幅の異なる実装でそのまま動くのが最大の特徴です。

これを支えるのが2つの仕組みです。

• ベクトル長アグノスティック（VLA）：コードは幅を定数で持たず、実行時に問い合わせる。ループは「処理済み要素を毎回ベクトル長ぶん進める」形で書く。
• 述語（predicate）レジスタ：どのレーンを有効にするかをビットマスクで持ち、端数や条件付き処理を分岐なしに扱う。

SVEのループ骨格（概念）
i = 0
while (i < N):
    pred = whilelt(i, N)   # i+レーン番号 < N の要素だけ有効化
    v = load(a + i, pred)  # 有効レーンのみロード
    store(b + i, v*2, pred)
    i += vector_length()   # 幅は実行時に決まる

自動ベクトル化と整列制約

SIMD 命令を手で書く（イントリンシック）こともできますが、実務の多くは自動ベクトル化、すなわちコンパイラがスカラのループをSIMD命令へ変換する機能に頼ります。コンパイラは反復間に依存がないこと（i番目の結果がi-1番目に依存しない）を確認し、ループを「複数反復を1命令で束ねる」形に書き換えます。これを阻む典型要因が次です。

もう1つの鍵が整列（アライメント） です。多くのSIMDロード/ストアは、メモリ上で要素列がレジスタ幅の境界に揃っていると最も効率よく動きます。256bit アクセスなら 32 バイト境界です。非整列アクセスはキャッシュラインをまたいで2回に分割されることがあり、これが実効帯域を削ります。本質的には固定幅のキャッシュライン／バースト単位でメモリが動くためで、境界をまたぐと余計な転送が生じます。

端数・分岐・水平演算という弱点

SIMD はまっすぐな大量データに強い一方、いくつかの構造的弱点があります。第一に端数（テール）処理。要素数がベクトル幅で割り切れないと、最後の余りをスカラで後始末する必要があり、固定長方式ではこのコードが必ず付きまといます。SVE の述語は、まさにこの端数を分岐なしで畳むためにあります。

第二に分岐。レーンごとに条件が割れると1命令で両方を実行できないため、両経路を計算してマスクで選ぶ（述語実行）形になり、無駄な計算が増えます。第三に水平演算。総和のようにレーン間をまたぐ集約（horizontal add）はレーン独立というSIMDの前提に反し、専用命令や段階的な縮約が要って割高です。

まとめ

• SIMD は幅広いベクトルレジスタに詰めた複数要素へ1命令を一斉適用するデータレベル並列で、制御コストを要素数で割り勘にしてスループットを稼ぐ。
• 1命令あたりの要素数はレジスタ幅÷要素ビット幅で決まり、SSE(128)→AVX(256)→AVX-512(512)と幅を広げてきた。
• 固定長（SSE/AVX/NEON）は幅をISAに焼き込むため再コンパイルが要る。SVEは幅を抽象化し、述語とベクトル長アグノスティックな書き方で同一バイナリが幅違いの実装で動く。
• 実効性能は自動ベクトル化の成否と整列・連続アクセスに依存し、反復間依存・分岐・端数・水平演算が並列化を阻む。

SIMD はISAの設計思想の上に積み上がる拡張です。CPU内のデータ並列を引き出す鍵は、突き詰めれば「依存を断ち、揃えて連続に並べ、端数を述語で畳む」の3点に集約されます。