【PR】本記事はアフィリエイト広告を利用しています。
はじめに：春に買ったGPUがまさかの大高騰！
春先に購入したGPU「RTX 5060 Ti 16GB」が、現在とんでもなく高騰しています。
 | 価格:148800円 |
MSIのGPUを何時もの秋葉で買ってきました。
私が購入した当時は税込9万円前後でしたが、今や約15万円にまで跳ね上がっています。この高騰の理由は、お気づきの通り**「AI（人工知能）特需」**です。このグラフィックボードを2枚挿しにしてVRAMを32GBに増やし、ローカル環境でAIの推論を回す用途として非常に重宝されているからです。
私も漏れなく研究（ローカルLLMの検証）のために購入し、日々動かしています。ただし、ガッツリとした開発用途ではなく、あくまで研究・検証用です。
というのも、ローカルLLMを動かすには「コンテキストウィンドウ（文脈を保持する容量）」をある程度確保する必要があるのですが、これがすぐに溢れて（アウト・オブ・メモリーに）なってしまうからです。
データが溢れるとパソコンのメインメモリ（RAM）を使おうとするのですが、「なぜRAMではダメで、GPU（VRAM）でなければいけないのか」。そこには明確な理由があります。
1. なぜAI処理はメインメモリ（RAM）だと遅いのか？
図で説明すると分かりやすいのですが、CPUとGPU、そしてRAMの間には、データをやり取りするための「通信用の配線（バス）」が存在します。マザーボードのプリント基板をじっくり見ると走っている、あの無数の線のことです。
一般的なPCの場合、RAMはCPUのすぐ近くにありますが、GPUは少し離れたスロットに挿さっています。
生成AIの処理をざっくり言うと、**「GPUの中だけで大量の行列計算を行い、その結果だけをCPUやRAMに返す」**という動きをしています。この時にグラフィックボードとマザーボードを繋いでいるのが「PCI Express（PCIバス）」という配線です。
もしGPUを使わず、CPUとRAMだけでAIの推論をさせようとすると、膨大なデータがCPUとRAMの間を何度も何度も往復することになります。これが、処理が劇的に遅くなる原因です（いわゆるフォン・ノイマン型のボトルネックです）。
対してGPUを使えば、データバス（PCIバス）を何度も通ることなく、GPUの内部だけで一気に行列計算を終わらせ、最終結果だけをRAMに格納できます。これが、GPUが「超高速計算機」としてAIに必須とされる最大のメリットです。
2. じゃあ、Mac（Appleシリコン）はなぜGPUなしでも速いの？
ここで「じゃあMacはどうなの？」という疑問が湧きます。Macはグラフィックボードを2枚挿ししたりできませんよね。
結論から言うと、Mac（Appleシリコン）は**「SoC（システム・オン・チップ）」**と呼ばれる構造を採用しており、CPUとRAMの物理的な距離を極限まで縮めてワンチップに統合しているからです。
「MacにはGPUがないの？」と思われるかもしれませんが、入っているのは「GPUコア（計算機）」であって「独立したビデオメモリ（VRAM）」ではありません。メモリを全員でシェアする「ユニファイドメモリ・アーキテクチャ」という仕組みです。
すべてのパーツが最初から最短経路で結ばれているため、PCIバスのような長い配線を通る必要がありません。だから、従来のGPUのようなゴリ押しをしなくても「構造の力」で圧倒的に速く、しかも発熱が少ないのです。
裏を返せば、Windowsや一般のサーバー規格は、どうしてもパーツ間を長い配線（PCIバスなど）で繋がざるを得ないため、その分の遅延（レイテンシ）が発生します。また、長い配線に高い周波数の信号を流すため電気抵抗が大きくなり、比例して発熱も多くなって熱処理が不利になるという弱点があります。
3. 「全部SoCにすれば最強」とはいかないシビアな現実
消費電力が低く、小型化できて、しかも速い。これだけ聞くと「じゃあ世界のパソコンを全部SoCにすればいいじゃん！」と思いますよね。しかし、そうしない（できない）のには、ちゃんとした大人の事情があります。
①「歩留まり（ぶどまり）」が悪く、価格が高くなる
半導体を製造する際、1つの大きなチップ（SoC）にすべての機能を詰め込むと、どこか1箇所でも回路に欠陥があった時点で、そのチップ丸ごと不良品になってしまいます。面積が大きいSoCはそれだけ不良が出る確率が高いため、大量生産には不向きです。結果として、製造コストが価格に転嫁されやすくなり、製品が高額になります。
② 拡張性と修理性が「ゼロ」になる
ワンチップにすべてが入っているため、後から「メモリを増やしたい」「最新のGPUに交換したい」と思っても一切不可能です。さらに致命的なのが故障時です。メモリの一部が壊れただけで、CPUもGPUも巻き込んで「基板丸ごと全とっかえ」になるため、修理費用が跳ね上がります。モジュール（部品）ごとにサクッと交換できる方が、ビジネスやサーバーの現場では圧倒的に都合が良いのです。
決定的な違いを「車」に例えるなら……
この2つのアーキテクチャの違いは、車に例えると非常にスッキリ納得できます。
- SoC（Macなど）＝カリカリにチューニングされた「F1マシン」
- 速くて効率も最高ですが、パーツの使い回しは効かず、1箇所壊れたら即リタイア（全損）。
- モジュール型（Windows/一般サーバー）＝頑健な「大衆車・トラック」
- パーツが汎用的なので多少重くて燃費は劣りますが、どこが壊れてもその部品だけを交換して、何年でもタフに使い続けられる。
それぞれに一長一短のロマンがあるわけですね。 ……と、気づけばRTX 5060 Tiの高騰から、だいぶ技術的に脱線した記事になってしまいました（笑）