HBMはなぜ速いのか――クロック周波数より「道幅」で考える

帯域幅は「1本の速さ × 本数」で決まる

メモリーの帯域幅は、単純化すれば「1本のI/Oが1秒に運ぶビット数」と「同時に使えるI/Oの本数」の積である。Joo-Hyung Chaeによる2024年の査読論文も、メモリー帯域を増やす基本手段を、ピン当たりのデータレートを上げることと、I/Oピン数を増やすことに整理している。前者は車の速度を上げる方法、後者は道路の車線を増やす方法に近い。

HBMは後者、つまり「広くする」側へ大きく振った設計である。AMDのHBMコントローラー資料では、一つのHBMスタックが1024ビット幅を持ち、8個の独立チャネル、さらに64ビットの疑似チャネルへ分割される構成が示されている。細いバスを高い周波数で駆動するだけでなく、広いバスを多数のチャネルとして並列に動かすことが、HBMの名前どおりの広帯域を作る。

同じ帯域を得る場合でも、少数の配線を極端に高速化する方法と、多数の配線を穏やかな速度で動かす方法では設計課題が違う。高速化は信号品質やクロック回路の負担を増やし、広幅化は接続点と配線面積を増やす。HBMは後者を選び、近接実装でその代償を抑える。したがって「何Gbpsか」だけをGDDRなどと比べると、HBMの設計思想を見落とす。

「積層」は道幅を近距離に収める手段である

では、なぜDRAMダイを縦に積むのか。目的は容量を増やすだけではない。ダイを積み、TSV（Through-Silicon Via）で上下を貫通して接続すると、多数の信号を小さな実装面積の中で引き出せる。SK hynixの技術史も、複数のDRAMダイをTSVでつなぐことをHBMの基本構造として説明している。HBM2Eの例では1024本のI/Oを使い、ピン当たり3.6Gbpsで460GB/sを実現したとされる。

ここで因果関係を取り違えてはいけない。積層そのものが帯域幅を生むのではなく、積層とTSVが、広いI/Oを現実的な面積と配線長で外へ出す土台になる。積層は「速さの原因」というより、「多数の並列経路を短くまとめる実装技術」と捉える方が正確である。

インターポーザーが広い道をプロセッサへつなぐ

HBMスタックからGPUやアクセラレーターまで1024ビット級の接続を延ばすには、通常の基板上で長い配線を引き回すのは難しい。そこで2.5D実装では、シリコンインターポーザー上にプロセッサとHBMを近接配置し、微細で短い配線を多数並べる。Synopsysは、HBMの広いバスと短い信号経路が、高帯域とI/O当たりの低い消費電力を両立させる核だと説明している。

短い配線は、信号の減衰や反射を抑えやすくし、1本当たりを無理に高速化しなくても合計帯域を増やせる。ただし、インターポーザーには面積、配線密度、電源供給、検査、歩留まり、パッケージコストという別の難しさがある。「広い道」は無料ではなく、パッケージ全体を協調設計することで成立する。

広帯域と低レイテンシは同じ意味ではない

帯域幅は一定時間に運べる総量であり、レイテンシは一つの要求を出してから応答が返るまでの時間である。車線が増えれば一度に多くの車を通せるが、最初の1台が目的地へ着く時間まで必ず短くなるわけではない。HBMを「どんな処理でも遅延が小さいメモリー」と説明するのは正確ではない。

HBMが効きやすいのは、多数の演算器が大きな行列、テンソル、画像、科学技術データへ同時にアクセスし、継続的に大量のデータを必要とする処理である。一方で、アクセスが小さく散発的で、依存関係のために次の要求を待つ処理では、理論上の広い道を埋め切れない。用途を見るときは、「メモリーが速いか」ではなく「この処理は同時にどれだけのデータを流せるか」を問うべきである。

ピーク帯域は、使える帯域とは限らない

仕様表のピーク帯域は、全I/Oが規定のデータレートで連続動作する理想値である。実効帯域は、アクセスの並び方、読み書きの切り替え、チャネル競合、データ配置、コントローラーのスケジューリングによって下がる。HBMが複数の独立チャネルや疑似チャネルに分かれるのは、異なる要求を並列に扱いやすくするためであるが、ソフトウェア側のアクセスが一部へ偏れば、その並列性は使い切れない。

したがってHBMの採用効果は、最大GB/sだけで判断できない。必要な帯域、容量、アクセス粒度、再利用率、消費電力、実装コストを一つの系として見る必要がある。演算器を増やしてもデータ供給が追いつかなければ待ち時間が増え、逆に帯域を用意しても計算側が使わなければ投資は眠る。HBMは単体部品ではなく、計算とメモリーを釣り合わせるためのシステム技術である。

数字を読む順序を変える

HBMの世代比較では、まずスタック当たりのI/O幅、ピン当たりのデータレート、チャネル構成を分けて確認し、その積としてピーク帯域を見る。次にスタック数と容量、パッケージ内の配置、熱設計を確認し、最後に対象処理がその帯域をどこまで並列利用できるかを考える。この順序なら、「新世代だから速い」という言葉を、どの要素が増えたのかへ分解できる。

HBMの本質は、一本の極端に速い道ではない。短い距離に多数の道を敷き、それらをチャネルとして同時に使うことで、演算器へ大量のデータを供給する点にある。クロックだけでなく道幅を見ることが、HBMを誤解しない最短の読み方である。

この見方は、製品名や世代番号が変わっても使える。データレートが上がったのか、I/O幅が変わったのか、スタック数や容量が増えたのかを分解すれば、帯域向上の源泉と実装上の代償を切り分けられる。AI向けという看板だけでなく、どのデータ経路がボトルネックを解くのかまで確認して初めて、HBMの必要性を判断できる。