この記事には広告を含む場合があります。
記事内で紹介する商品を購入することで、当サイトに売り上げの一部が還元されることがあります。
PC・タブレット・スマホ向けプロセッサ向けのNPUのAIおよび機械学習（ML）演算性能の比較表です（DSPがNPUとして使われる場合も含む）。主要製品のものを掲載しています。
掲載の数値は、CPUやGPUから分離されたNPU単体の理論性能となっている点に注意してください。他のユニットも含めた合計AI性能は表記の性能よりも高くなる可能性がありますし、理論上の最大性能なので、実際のパフォーマンスとは異なる可能性があります。
また、スマートフォン向けのSoCのNPUの性能は具体的な数値が示されないものも多くなっているので、前世代や他モデルとの差からの推測値となっている場合も多いので、あくまで参考程度にご覧ください。
標準ベンチマーク（メーカーごとの差が小さい）が定まってきたら、そちらへ置き換えることを検討しています。まだ発展途上の分野であり、どのように扱ったら良いか思案中なので、こうしたら良いなどの案があればコメント等で教えて頂けると幸いです。
※追記：一部SoC（主に古いもの）について、NPU単体ではなくCPUとGPUとの合算値となってしまっていたのを修正しました。
注意
- 掲載の性能「TOPS（主にINT8）」は1秒あたりの何兆回の演算を行えるかの理論上の最大性能です（推測値を含む）。また、掲載しているのはCPUやGPUから分離されたNPU単体におけるAI・機械学習（ML）のパフォーマンス（理論上の最大値）です。CPUやGPUでもAI処理を行える場合がある他、そちらに別のAIエンジンが搭載されている場合もあり、プロセッサー全体（CPU+GPU+NPU）のAIパフォーマンスは大きく異なる可能性があります。
- TOPSの数値は公表されないことが非常に多くなってきたため推測値を置いているケースも多い他、使用する学習モデルやAPIなどによっても性能が前後する可能性があるため、参考程度に見てください。
NPUの性能比較表（理論性能）
CPUやGPUから分離されたNPU単体の理論性能をまとめています。一部の仕様が公表されていないNPUに関しては、前世代との向上率（メーカーの公表を基に）やベンチマークスコアからの推定値を載せている場合があります（末尾に？を付けています）。
*：AppleのM3/A16以前のチップではFP16の性能が公称値として示されていましたが、ここでは一律で比較するために8bitと仮定して2倍の数値を載せています。
絞り込み
主な対象デバイス
| プロセッサ | NPU性能 （TOPS） | CPU | TDP （PL1） | GPU | |
|---|---|---|---|---|---|
| コア | スレッド | ||||
| Snapdragon 8 Elite Gen 5 | 100.0~ | 8 | 8 | Mali G1-Ultra MP12 | |
| Dimensity 9500 | 100.0 | 8 | 8 | Mali G1-Ultra MP12 | |
| Snapdragon 8 Elite（Gen 4） | 80.0 | 8 | 8 | Adreno 830 | |
| Apple M2 Ultra | 63.2* | 24 | 24 | 80W | M2 Ultra GPU（60/76コア） |
| Ryzen AI 9 HX 475 | 60.0 | 28W | Radeon 890M | ||
| Ryzen AI 9 HX 470 | 55.0 | 28W | Radeon 890M | ||
| Core Ultra 7/9 356H～388H | 50.0 | 8 | 8 | 25W | |
| Dimensity 9400 / 9400+ | 50.0 | 8 | 8 | Immortalis-G925 MP12 | |
| Snapdragon 8s Gen 4 | 50.0? | 8 | 8 | Adreno 825 | |
| Ryzen AI 400シリーズ (～465) | 50.0 | ||||
| Ryzen AI 9 300シリーズ | 50.0 | 28W | Radeon 890M | ||
| Ryzen AI 7 300シリーズ | 50.0 | 28W | Radeon 880M | ||
| Core Ultra 7 355/365 | 49.0 | 8 | 8 | 25W | Intel Graphics（Xe3 / 4コア） |
| Core Ultra 9 288V | 48.0 | 8 | 8 | 30W | Arc 140V |
| Core Ultra 7 266V/268V | 48.0 | 8 | 8 | 17W | Arc 140V |
| Apple M5シリーズ | 47.5 | M5 GPU（9コア～） | |||
| Core Ultra 5 325/335～338H | 47.0 | 25W | |||
| Core Ultra 7 256V/258V | 47.0 | 8 | 8 | 17W | Arc 140V |
| Core Ultra 5 332/322 | 46.0 | 6 | 6 | 25W | Intel Graphics（Xe3 / 2コア） |
| Snapdragon X Elite | 45.0 | 12 | 12 | 23W | Adreno X1 |
| Snapdragon X Plus | 45.0 | 10 | 10 | 23W | Adreno X1 |
| Snapdragon 8 Gen 3（通常版） | 45.0 | 8 | 8 | Adreno 750 | |
| Exynos 2400 | 44.0 | 10 | 10 | 23W | Xclipse 940 |
| Apple M1 Ultra | 44.0* | 20 | 20 | 60W | M1 Ultra GPU（48/64コア） |
| Dimensity 9300 | 40.0? | 8 | 8 | Immortalis-G720 MP12 | |
| Core Ultra 5 226V～238V | 40.0 | 8 | 8 | 17W | Arc 130V |
| Apple M4シリーズ | 38.0 | M4 GPU | |||
| Apple M3シリーズ | 36.0* | M3 GPU（8コア～） | |||
| Apple A17 Pro | 35.0 | 6 | 6 | A17 Pro GPU | |
| Dimensity 8400 | 35.0? | 8 | 8 | Immortalis-G720 MP7 | |
| Apple A16 Bionic | 34.0* | 6 | 6 | A16 GPU | |
| Dimensity 8300/8350 | 32.0? | 8 | 8 | Mali-G615 MP6 | |
| Apple M2シリーズ（Ultra除く） | 31.6* | M2 GPU（8コア～） | |||
| Apple A15 Bionic | 31.6* | A15 GPU（4/5コア） | |||
| Snapdragon 7+ Gen 3 | 30.0 | 8 | 8 | Adreno 732 | |
| Snapdragon 8s Gen 3 | 29.0? | 8 | 8 | Adreno 735 | |
| Snapdragon 8 Gen 2 | 26.0 | 8 | 8 | Adreno 740 | |
| Snapdragon 8/8+ Gen 1 | 26.0 | 8 | 8 | Adreno 730 | |
| Snapdragon 8 888 | 26.0 | 8 | 8 | Adreno 660 | |
| Snapdragon 7s Gen 4 | 25.0? | 8 | 8 | Adreno 810 | |
| Snapdragon 7s Gen 3 | 25.0? | 8 | 8 | Adreno 810 | |
| Dimensity 7400 | 23.0? | 8 | 8 | Mali-G615 MP2 | |
| Google Tensor G5 | 22.5? | 8 | 8 | PowerVR DXT-48-1536 | |
| Apple M1シリーズ（Ultra除く） | 22.0* | M1 GPU（7コア～） | |||
| Apple A14 Bionic | 22.0* | 6 | 6 | A14 GPU | |
| Snapdragon 8 Gen 3（廉価版） | 20.0 | Adreno 750 | |||
| Google Tensor G2（特化タスク） | 17.5? | 8 | 8 | Mali-G710 MP7 | |
| Snapdragon 7 Gen 3 | 17.0? | 8 | 8 | Adreno 720 | |
| Snapdragon 6 Gen 4 | 17.0? | 8 | 8 | Adreno 810 | |
| Ryzen 7 8700G | 16.0 | 8 | 16 | 65W | Radeon 780M |
| Ryzen 5 8600G | 16.0 | 6 | 12 | 65W | Radeon 760M |
| Ryzen 7 8840U | 16.0 | 8 | 16 | 28W | Radeon 780M |
| Ryzen 5 8640U | 16.0 | 6 | 12 | 28W | Radeon 760M |
| Ryzen 7/9 8045(H/HS)シリーズ | 16.0 | 8 | 16 | 45W | Radeon 780M |
| Ryzen 7/9 8040(H/HS)シリーズ | 16.0 | 8 | 16 | 45W | Radeon 780M |
| Ryzen 5 8045(H/HS)シリーズ | 16.0 | 6 | 12 | 45W | Radeon 760M |
| Ryzen 5 8040(H/HS)シリーズ | 16.0 | 6 | 12 | 45W | Radeon 760M |
| Google Tensor G4 | 15.5? | 8 | 8 | Mali-G715 MP7 | |
| Exynos 1580 | 14.7 | 8 | 8 | Xclipse 540 | |
| Google Tensor G3 | 13.0? | 9 | 9 | Mali-G715 MP7 | |
| Core Ultra 200S（デスクトップ） | 13.0 | Intel Graphics（Xe-LPG） | |||
| Google Tensor（初代/特化タスク） | 13.0? | 8 | 8 | Mali-G78 MP20 | |
| Dimensity 7300 (Pro/Ultra) | 13.0? | 8 | 8 | Mali-G615 MP2 | |
| MT8775 | 13.0? | 8 | 8 | Mali-G615 MP2 | |
| Dimensity 7060 | 13.0? | 8 | 8 | Mali-G68 MP4 | |
| Apple A13 Bionic | 12.0* | 6 | 6 | A13 GPU | |
| Snapdragon 780G/778G | 12.0 | 8 | 8 | Adreno 642/642L | |
| Snapdragon 7s Gen 2 | 11.0? | 8 | 8 | Adreno 710 | |
| Snapdragon 6 Gen 3 | 11.0? | 8 | 8 | Adreno 710 | |
| Dimensity 7200 (Pro/Ultra) | 11.0? | 8 | 8 | Mali-G610 MP4 | |
| Core Ulrta 100シリーズ | 11.0 | ||||
| Ryzen 7 7840U | 10.0 | 8 | 16 | 28W | Radeon 780M |
| Ryzen 5 7640U | 10.0 | 6 | 12 | 28W | Radeon 760M |
| Ryzen 7/9 7040(H/HS)シリーズ | 10.0 | 8 | 16 | 45W | Radeon 780M |
| Ryzen 5 7040(H/HS)シリーズ | 10.0 | 6 | 12 | 45W | Radeon 760M |
| Apple A12 | 10.0* | 6 | 6 | A12 GPU（4コア） | |
| Apple A12X/A12Z | 10.0* | 8 | 8 | A12 GPU（7/8コア） | |
| Dimensity 7050 | 10.0? | 8 | 8 | Mali-G68 MP4 | |
| Dimensity 7030 | 8.0? | 8 | 8 | Mali-G610 MP3 | |
| Snapdragon 870 | 7.5 | 8 | 8 | Adreno 650 | |
| Snapdragon 865/865+ | 7.5 | 8 | 8 | Adreno 650 | |
| Dimensity 7020/7025 | 7.5? | 8 | 8 | IMG BXM-8-256 | |
| Google Tensor G2（汎用タスク） | 6.5? | 8 | 8 | Mali-G710 MP7 | |
| Dimensity 6400 | 5.0? | 8 | 8 | Mali-G57 MP2 | |
| Dimensity 6300 | 5.0? | 8 | 8 | Mali-G57 MP2 | |
| Exynos 1380 | 4.9 | 8 | 8 | Mali-G68 MP5 | |
| Dimensity 1000シリーズ | 4.5 | 8 | 8 | ||
| Snapdragon 860 | 3.5 | 8 | 8 | Adreno 640 | |
| Snapdragon 855/855 Plus | 3.5 | 8 | 8 | Adreno 640 | |
| Google Tensor（初代/汎用タスク） | 3.0? | 8 | 8 | Mali-G78 MP20 | |
| Snapdragon 768G | 3.0 | 8 | 8 | Adreno 620 | |
| Snapdragon 765G/765 | 3.0 | 8 | 8 | Adreno 620 | |
| Snapdragon 695 | 3.0 | 8 | 8 | Adreno 619 | |
| Snapdragon 690 | 3.0 | 8 | 8 | Adreno 619L | |
| Snapdragon 480/480+ | 2.5 | 8 | 8 | Adreno 619 | |
| Snapdragon 720G | 2.5 | 8 | 8 | Adreno 618 | |
| Snapdragon 7c/7c Gen 2 | 2.5 | 8 | 8 | Adreno 618 | |
| Snapdragon 750G | 2.0 | 8 | 8 | Adreno 619 | |
| Snapdragon 732G/730G | 1.8 | 8 | 8 | Adreno 618 | |
よくありそうな質問
- 高いNPU性能（AI性能）って必要なの？
- ※AIの普及に伴い、以前から回答を変更しました
AI処理や生成AIはオンラインで利用できるもの（たとえばChatGPTのような）があります。それで十分という場合には、必要という訳ではありません。
ただし、AIの普及が予想よりも遥かに早く、どんどんで便利で非常に省電力なNPUで行える機能が追加されているので、必須ではないですが割と近い未来での将来性はありますし、筆者としても2026年時点で重視すべき項目の一つだと思っています。
