この記事で分かること
- GPUとCPU、グラフィックスカードの違い
- GPUが画像処理やAIの計算を得意とする理由
- GPUを設計・製造し、製品として届ける企業の役割
- NVIDIA、AMD、Intelなどの取り組み
- 推論の拡大によって変わる性能評価と産業構造
1. 3分で分かる概要
GPUは、大量の計算を並行して実行することを得意とするプロセッサーである。もともとは画像を描画するために発展したが、現在はAIの学習・推論、科学技術計算、設計・解析などにも利用されている。
CPUが処理全体の制御や幅広い仕事を担い、GPUが並列化に適した計算を受け持つ。GPUがCPUを全面的に置き換えるわけではなく、それぞれの得意分野を組み合わせて使う。
GPUは、設計企業だけで完成させられる製品ではない。製造受託企業がウエハー上に回路を作り、後工程で接続・保護・検査を行う。さらにメモリー、基板、電源、冷却部品などを組み合わせ、パソコンやサーバーに搭載する。
AI向けでは、計算能力だけでなく、大量のデータを運ぶメモリーと通信、GPUを使いこなすソフトウェアが重要になる。競争の単位も、チップからサーバー、ラック、データセンター全体へ広がっている。
2. そもそも何なのか
GPUは、多くのデータに対する計算を並行して進める
GPUはGraphics Processing Unitの略で、日本語では画像処理装置などと呼ばれる。
画像の描画では、多数の画素や図形に対して似た計算を行う。GPUは、このような処理を多数の演算器に分担させる構造を持つ。この能力を画像以外の計算にも利用する考え方が、GPGPUである。AWSのGPU解説
ただし、どのような処理でもGPUの方が速いわけではない。計算の分け方、データ量、メモリーへのアクセス方法などによって効果は変わる。
CPUとGPUは、得意な仕事が異なる
| 区分 | 主な特徴 | 得意な仕事の例 |
|---|---|---|
| CPU | 複雑な分岐や制御を含む幅広い処理に対応する | OSの動作、アプリの制御、データベース処理 |
| GPU | 多くのデータに対する計算を並列に進める | 描画、行列計算、シミュレーション |
| AI専用アクセラレーター | AIの特定の計算やデータ処理に重点を置く | ニューラルネットワークの学習・推論 |
CPUにも並列処理能力がある。「CPUは一つずつ、GPUは同時に処理する」という説明だけでは、両者の違いを十分に表せない。
また、GPUはAI半導体の一種として使われるが、AI半導体のすべてがGPUというわけではない。AI向けの専用回路を持つASICやNPUなども利用される。
GPUとグラフィックスカードは同じものではない
GPUは演算を行う半導体である。一方、グラフィックスカードは、GPUにメモリー、電源回路、冷却装置、外部接続端子などを組み合わせた製品を指す。
CPUなどと同じチップやパッケージに組み込まれた内蔵GPUもある。スマートフォンでは、CPUや通信機能などをまとめたSoCの一部としてGPUが搭載される。 データセンター向けGPUは、画像表示用の端子を持たないモジュールなどの形でも利用される。
3. どこで使われるのか
| 用途 | GPUが担う仕事 | 特に重要な性能 |
|---|---|---|
| ゲーム・映像表示 | 立体画像、光や影、画面を描画する | 描画速度、画質、応答性 |
| 動画制作・設計 | 映像加工、3Dモデルの描画、設計データの可視化 | 対応ソフト、メモリー容量、処理速度 |
| AIの学習 | データからモデルの内部パラメーターを調整する | 演算能力、メモリー、複数GPU間の通信 |
| AIの推論 | 学習済みモデルで回答や予測を生成する | 応答時間、処理量、費用、電力効率 |
| 科学技術計算 | 流体、気象、分子などを計算する | 必要な数値精度、演算能力、通信 |
| ロボット・車載・産業機器 | 画像認識や周囲の理解などを行う | 遅延、消費電力、信頼性 |
GPUを使うには、ソフトウェア側の対応が必要になる。同じ装置でも、GPUに適した計算方法へ変更することで効果が変わる。AWSのGPU計算用途の説明
また、すべての用途が最高性能のGPUを必要とするわけではない。小規模なAI処理などでは、CPUやNPUの方が費用・消費電力の面で適する場合もある。
4. 仕組み
多数の演算器に仕事を分ける
GPUには、多数の演算器と、それらへ命令やデータを供給する仕組みがある。
例えば、画像を構成する多数の点の計算や、大きな行列の掛け算を細かく分け、並行して実行する。AIでは、こうした行列計算が繰り返されるため、GPUの構造を活用しやすい。
ただし、前の計算結果が出ないと次へ進めない処理や、処理ごとに分岐が大きく異なる仕事では、並列化の効果が小さくなる。
演算器だけでなく、メモリーと通信が必要になる
GPUの仕事は、おおむね次の流れで進む。
データを用意する → メモリーから読み出す → 演算する → 結果を保存・転送する
演算器が高速でも、データの供給が遅ければ待ち時間が生じる。このため、メモリーには二つの重要な尺度がある。
| 尺度 | 意味 | 不足した場合 |
|---|---|---|
| 容量 | 保存できるデータの量 | AIモデルや作業データを収められない |
| 帯域 | 一定時間に読み書きできるデータの量 | 演算器へのデータ供給が追いつかない |
GPU用メモリーにはGDDRやHBMなどが使われる。HBMは複数のメモリーチップを積層し、多数の接続を通じて広い帯域を確保する技術である。すべてのGPUがHBMを使うわけではなく、用途と費用に応じて構成が異なる。
大規模な計算では、複数のGPUに仕事を分担させる。この場合は、GPU間やサーバー間のデータ交換も性能を左右する。
ソフトウェアがGPUの能力を引き出す
GPUを使うには、命令を実行する仕組み、計算ライブラリー、開発ツールなどが必要になる。代表例がNVIDIAのCUDAとAMDのROCmである。
利用者にとっては、対応するアプリケーションやAIモデルの多さ、開発のしやすさ、既存システムからの移行にかかる作業も重要となる。NVIDIA「CUDA」、AMD「ROCm」
GPUは、設計・前工程・後工程を経て作られる
| 段階 | 主な作業 | 関わる企業・技術の例 |
|---|---|---|
| 設計・検証 | 演算器、メモリー接続、通信回路などを設計し、動作を確認する | NVIDIA、AMD、Intel／EDA |
| 前工程 | ウエハーにトランジスタと配線を形成する | TSMCなど／露光、成膜、エッチング |
| ウエハー検査 | 個々のチップの電気特性や良否を調べる | テスター、プローバー |
| 後工程 | チップを分離し、基板や他のチップと接続する | パッケージ、インターポーザー、接合技術 |
| 組み立て・検査 | メモリー、電源、冷却装置などを組み合わせ、動作を確認する | ボード・サーバーメーカーなど |
企業と工程の分担は製品によって異なる。GPU用の演算チップとHBMは別々に製造され、後工程で組み合わせられる構成もある。
一枚のウエハーには多数のチップの回路を形成するため、通常、ウエハー一枚がそのまま一個のGPUになるわけではない。
また、データセンター向けBlackwell B200のように、複数の大型ダイを接続して一つのGPUとして動かす製品もある。ダイは、切り出した個々の半導体チップ本体を指す。NVIDIAのBlackwell発表
6. 主要企業
GPUに関わる企業は、製品を設計する企業、製造する企業、部品やソフトウェアを供給する企業に分けて見ると理解しやすい。
| 領域 | 主な企業・製品の例 | 主な役割 |
|---|---|---|
| PC・業務・データセンター向けGPU | NVIDIA／GeForce、業務用・データセンター向けGPU | GPUとソフトウェア、計算システムを提供する |
| PC・データセンター向けGPU | AMD／Radeon、Instinct | GPU、CPU、ROCmなどを組み合わせて提供する |
| PC向け・推論向けGPU | Intel／内蔵GPU、Arc、Crescent Island | PCの描画やAI計算向けのGPUを開発する |
| PC・モバイル向け内蔵GPU | Apple、Qualcommなど | SoCにGPU機能を組み込む |
| 半導体製造受託 | TSMCなど | 顧客が設計したチップを製造する |
| メモリー | SK hynix、Samsung、Micron | HBMやGDDRなどを供給する |
| サーバー・システム | Dell、HPE、Lenovo、Supermicroなど | GPUを組み込んだシステムを提供する |
| 設計ソフトウェア | Synopsys、Cadence、Siemens EDA | 回路設計、検証、解析を支援する |
| クラウドサービス | AWS、Microsoft、Googleなど | GPUなどの計算資源をサービスとして提供する |
この表は役割を示す代表例であり、市場順位を示すものではない。
NVIDIAは、用途に応じて複数のGPU製品群を展開している。GeForceは主にデスクトップPCやノートPC向けで、ゲーム、映像制作、AI処理などに使われる。一方、データセンター向けGPUは、大規模なAI学習・推論や科学技術計算などを想定し、メモリーや接続方式、電力・冷却などの構成が異なる。
AMDにも描画向けのRadeonと計算向けのInstinctがある。メーカー名が同じでも、対象市場を分けて見る必要がある。NVIDIAのGeForce製品情報
また、GoogleのTPUやAWSのTrainium、IntelのGaudiなどはAIアクセラレーターであり、GPUと同じ分類としてメーカーランキングに混ぜると、比較の対象が不明確になる。
7. 市場規模・シェア
「GPU市場」は集計対象によって大きさが変わる
| 市場の区分 | 主に集計するもの |
|---|---|
| PC向けGPU全体 | CPU内蔵GPUと独立GPUなどの出荷 |
| デスクトップ用グラフィックスカード | 拡張ボードとして販売される製品 |
| データセンター向けGPU | AI・科学技術計算などに使うGPU |
| AIアクセラレーター | GPUに加え、AI専用半導体など |
| GPUサーバー・ラック | GPU以外のCPU、通信、電源なども含むシステム |
Jon Peddie Researchは、2026年第2四半期の世界のPC向けGPU出荷数を7,550万個と推計している。内蔵GPUなどを含むPC向けの統計であり、データセンター向けGPUの市場規模を示す数字ではない。JPRの2026年9月3日発表
台数シェアと売上高シェアも異なる。PC向けと高価格なデータセンター向けでは、一製品当たりの価格が大きく違うためである。
GPU企業のデータセンター部門の売上にも、ネットワークやシステム関連製品などが含まれる場合がある。部門売上をそのままGPU単体の市場規模とみなすことはできない。
本稿では、定義の異なる数字をまとめた「GPU市場全体」の金額や順位は示さない。
8. 最近の動き
NVIDIAは、GPUから計算基盤全体へ提供範囲を広げる
日経エレクトロニクス2026年9月号は、NVIDIAがCPU、メモリー、通信、ソフトウェアまで含めて戦略を広げていると報じた。AIエージェントでは、モデルの計算以外にも、ツールの実行やデータの取得、処理全体の制御が必要になる。〔資料4・5〕
同社は2026年8月26日の決算説明会で、Vera Rubinの量産出荷を同月に開始したと説明した。以前の資料にある「2026年秋の出荷予定」から進んだ情報である。ただし、製品の出荷開始と、顧客のデータセンターでの本格稼働は別の段階となる。NVIDIA決算説明会資料
光電融合についても、どこに使う技術かを確認する必要がある。添付記事で取り上げられたCPOは、主にネットワークスイッチと光通信の接続に関するもので、GPU内部の演算を光で行うという意味ではない。〔資料5〕
AMDはHeliosでラック全体の競争力を訴求する
AMDは2026年7月23日、AIラック「Helios」が量産段階に入ったと発表した。GPU、CPU、通信、ソフトウェアを組み合わせて提供する構成である。
同社は競合に対し、費用当たりの推論トークン数が最大30％多いとする。ただし、これは同社が示す条件に基づく比較であり、「どのAI処理でも30％速い」という意味ではない。使用モデル、応答条件、ソフトウェア、費用の算定範囲を確認する必要がある。〔資料2〕AMD公式発表
Intelも推論用途に向けたGPUを開発する
Intelは、AI推論向けのデータセンターGPU「Crescent Island」を開発している。2026年8月の公式説明では、大容量メモリーや電力効率、既存の空冷データセンターへの導入を意識した設計を紹介した。
製品の技術発表、顧客へのサンプル提供、量産出荷は区別して確認する必要がある。IntelのHot Chips 2026説明
半導体を設計する計算にも、GPU・AI・CPUを使う
NVIDIAはEDA企業との連携を進めている。EDAは電子設計自動化のことで、回路設計や検証などを支えるソフトウェアを指す。〔資料3〕
GPUやAIで高速化できる処理がある一方、論理シミュレーションや検証などにはCPU性能が重要な仕事も残る。同社はVera CPUを使った特定の検証・シミュレーション処理で、初期テストにおいて最大1.5倍の性能を得たと説明している。NVIDIAの2026年7月26日発表
これは、GPUだけで半導体設計を行うという話ではなく、処理に適した計算資源を組み合わせる取り組みである。
9. なぜ今注目されているのか
学習に加え、継続的に使われる推論が広がる
学習は、データを使ってAIモデルの内部パラメーターを調整する処理である。推論は、学習済みモデルを使って回答や予測を生成する処理を指す。
推論は利用者の要求に応じて繰り返し発生する。そのため、大量に処理できるかだけでなく、待ち時間や一回当たりの費用も重要になる。
LLMでは、入力をまとめて処理する段階と、出力を順次生成する段階で計算の特徴が異なる。ただし、出力を順次生成する処理もGPUで実行できる。「推論になるとGPUが不要になる」とは言えない。〔資料4・5〕
制約は、演算能力だけではない
AIモデルや利用規模が大きくなると、メモリー容量、データ転送、給電、冷却、製造能力なども制約となる。
GPUを増やしても、メモリーや通信が追いつかなければ期待した効果は得られない。チップを確保できても、電力や冷却設備が整わなければ稼働できない。
ISRIの分析として、GPU産業の競争を見る際には、チップの理論性能に加え、利用者が必要な処理を安定して実行できる条件がそろっているかに注目すべきである。
10. 今後の注目ポイント
| 確認点 | 見るべき内容 |
|---|---|
| 実際の処理性能 | 同じモデル、数値精度、品質条件で比較しているか |
| 推論の応答性 | 最初の出力までの時間や、出力中の待ち時間がどうか |
| 費用 | 機器代だけでなく、電力、冷却、保守、ソフトウェアを含むか |
| メモリー | モデルを収められる容量と、必要な帯域を確保できるか |
| ソフトウェア | 必要なモデルやアプリが動くか。移行・運用の負担はどうか |
| 製造・供給 | 前工程、HBM、先端パッケージ、基板の供給がそろうか |
| 稼働環境 | 電力、冷却、通信、設置場所を確保できるか |
| 製品の実用化 | 発表や試作が、出荷と顧客の本格稼働につながっているか |
FLOPSは、一定時間に実行できる浮動小数点演算の回数を示す。ただし、FP64、FP32、FP8などの数値形式や、計算条件が異なる数字をそのまま比較することはできない。
トークンは、生成AIが文章などを扱う際の処理単位である。「トークン数」も、モデル、入力・出力の長さ、同時利用数、回答品質などをそろえて比べる必要がある。
まとめ図解
関連記事
- GPUとCPU、NPU、AI専用半導体の違い
- HBMとは――GPUにデータを届ける積層メモリー
- CUDAとROCmとは――GPUを使うソフトウェアの役割
- AIの学習と推論の違い
- GPUサーバーとAIラックの違い
- NVIDIAとAMDの競争――チップからシステム全体へ
- AIデータセンターの電力と液冷
- GPUの性能指標――FLOPSとトークン処理をどう読むか
参考文献
本文の「資料1～5」は、以下に対応する。
- 日経コンピュータ「主役はエヌビディア GPU供給網を分析」2026年7月23日号、15～17ページ。
- 日経クロステック「AMD、AIラック『Helios』量産 NVIDIAより処理トークン3割多く」2026年8月5日。
- 日経クロステック「NVIDIA、AIやMPUで半導体設計を効率化 EDAベンダーと連携」2026年8月21日。
- 日経エレクトロニクス「特集1 推論シフトに備えよ AI半導体の地殻変動：〔第1部：総論〕 AI半導体、推論シフトで一変 NVIDIA1強から群雄割拠へ」2026年9月号、26～30ページ。
- 日経エレクトロニクス「特集1 推論シフトに備えよ AI半導体の地殻変動：〔第2部：NVIDIAの戦略〕 NVIDIA、AI半導体で全方位戦略 次世代メモリーや光電融合も」2026年9月号、31～34ページ。
主な公式資料・統計：
- AWS「What is a GPU?」「Performance acceleration with GPU instances」。
- NVIDIA「GeForce グラフィックス カード」「NVIDIA のテクノロジとGPUアーキテクチャ」「CUDA」。
- NVIDIA「NVIDIA Blackwell Platform Arrives to Power a New Era of Computing」2024年3月18日。
- NVIDIA「NVIDIA Harnesses Vera CPU to Speed Up Design of Next-Generation CPUs and GPUs」2026年7月26日。
- NVIDIA「Q2 2027 Earnings Call」2026年8月26日。会計年度の表記であり、開催日は2026年。
- AMD「AAI 2026: AMD Delivers Full-Stack Compute for the Agentic AI Era」2026年7月23日。
- AMD「ROCm Software」。
- Intel「Intel Outlines Architectures for Agentic AI at Hot Chips 2026」。
- Jon Peddie Research「PC GPU shipments increased 10.4% Q-Q, up 1.1% Y-Y」2026年9月3日。
参考とした基礎解説資料：
- NTTドコモビジネス「基礎からわかるGPU 性能・特徴や選び方のポイント」。
- KDDI「GPUとは何かわかりやすく解説｜CPUとの違いや活用事例について紹介」。
- AWS「GPUとは何ですか？―グラフィックプロセッシングユニットの説明」。
- トゥモロー・ネット「GPUメーカーランキング｜データセンターインフラ市場について」2025年5月7日公開、2026年6月22日更新。
基礎解説資料のランキングや性能倍率は、そのまま転用せず、製品区分と公式資料を照合した。ウェブ資料は2026年10月4日確認。
※本文中の図解は、公開されている参考文献、企業公式資料、報道資料などをもとに内容を独自に整理し、生成AIを用いて作成している。図解は理解を助けるための概念整理を目的としており、各社・各機関の公式図表をそのまま転載したものではない。
