MicroArchitectures
H.Ueda
Programmer
ブログ
Blackwell世代のJetsonに小型モデルが登場。T2000とT3000が拓くエッジAIの現実解
今回は、CNXSoftで報じられた NVIDIA launches smaller, mainstream Jetson T2000 and T3000 modules for Edge AI and robotics applications という記事を参考に、新しく発表されたJetsonモジュールの詳細と、それがエッジコンピューティングの現場にどのような影響を与えるのかについて整理してみます。
あぁ、欲しい。😅
NVIDIAから、昨年発表されたハイエンドなJetson T4000/T5000シリーズに続き、より「メインストリーム」向けとされるJetson T2000およびT3000が発表されました。これまで強力な性能を誇っていたThorアーキテクチャのラインナップに、サイズとコストのバランスを重視した選択肢が加わった形になります。
Blackwellアーキテクチャをよりコンパクトに
今回の発表で注目したいのは、最新のBlackwellアーキテクチャを採用しながらも、モジュールのサイズが上位モデル(T4000/T5000)の約半分に抑えられている点です。
エッジAIやロボティクスにおいて、処理能力はもちろん重要ですが、それと同じくらい「物理的なサイズ」や「消費電力」が制約になるケースは多いかと思います。これまでのThorベースのモジュールは非常に高いパフォーマンスを持っていましたが、小型のドローンや自律走行搬送ロボット(AMR)に組み込むには、少し持て余す部分があったかもしれません。
今回のT2000/T3000は、そうした「もう少し手軽にBlackwellの恩恵を受けたい」というニーズに対する、NVIDIAからの回答のようにも見えます。
Jetson Thorシリーズのスペック比較
新しく追加されたモデルを含め、現時点での暫定的なスペックを比較してみます。特にAI演算性能(FP4)の差に注目してみると、各モデルの立ち位置が見えてきそうです。
| 項目 | Jetson T2000 | Jetson T3000 | Jetson T4000 | Jetson T5000 |
|---|---|---|---|---|
| AIパフォーマンス (FP4) | 400 TFLOPS | 865 TFLOPS | 1,200 TFLOPS | 2,070 TFLOPS |
| GPUコア数 (Blackwell) | 1,024コア | 1,536コア | 1,536コア | 2,560コア |
| CPUコア数 (Neoverse Arm) | 8コア | 8コア | 12コア | 16コア |
| メモリ (LPDDR5X) | 16GB | 32GB | 48GB | 64GB |
| メモリ帯域幅 | 137 GB/s | 273 GB/s | 546 GB/s | 800 GB/s以上 |
| ネットワーク | 10 GbE | 25 GbE | 25 GbE | 100 GbE |
| モジュールサイズ | 小型 | 小型 | 標準 | 標準 |
※FP4(スパース)使用時の数値
上位のT5000と比較すると、T2000のAI性能は5分の1程度に抑えられていますが、それでも400 TFLOPSという数値は、一世代前のエッジデバイスと比較すれば十分に高い水準と言えるでしょう。
システム構成のイメージ
これらのモジュールがどのようにシステムに組み込まれるのか、データの流れを簡単に図解してみます。
flowchart TD
subgraph "Jetson Thor Module (T2000/T3000)"
CPU["Arm Neoverse CPU<br>(8-core)"]
GPU["Blackwell GPU<br>(Tensor Cores)"]
RAM["LPDDR5X Memory"]
NOC["High-speed Interconnect"]
CPU <--> NOC
GPU <--> NOC
NOC <--> RAM
end
subgraph "External Interfaces"
Sensors["LiDAR / Cameras"]
Network["Ethernet<br>(10/25 GbE)"]
Actuators["Robot Control"]
end
Sensors --> GPU
GPU --> CPU
CPU --> Actuators
NOC <--> Network
モジュール内では、BlackwellアーキテクチャのGPUとArm CPUが高速なインターコネクトで結ばれており、センサーからの入力をGPUで処理し、その結果を元にCPUがロボットの制御命令を出す、といった一連の流れがスムーズに行えるよう設計されているかと思います。
機能安全への対応:IGX Thor T3000
また、今回の発表には「IGX Thor T3000」という産業用バージョンも含まれています。こちらは機能安全(Functional Safety)の要件が追加されており、工場内での協働ロボットや医療機器など、より高い信頼性が求められる現場での活用が想定されています。
エッジAIを単なる「実験」から「実運用のインフラ」へと引き上げるためには、こうした安全性への配慮は避けて通れない道ですので、産業向けラインナップが拡充されるのは心強いことですね。
導入への期待
今回のT2000/T3000の登場により、Blackwell世代の技術を導入するハードルが少し下がったのではないかと感じています。
たとえば、 - これまではOrin NanoやOrin NXを使っていたけれど、もう少し推論速度を上げたい - T5000を使いたいが、筐体サイズや予算の都合で難しい - 10GbE以上の高速なネットワーク接続が標準で欲しい
といったケースにおいて、これらの新しいモジュールはちょうど良い選択肢になりそうです。実際に製品が手元に届くのは少し先になるかもしれませんが、エッジAIの「メインストリーム」がどの程度の水準になるのか、今から楽しみなところです。
以上、NVIDIAの新モジュールに関するまとめでした。
参照記事
- NVIDIA launches smaller, mainstream Jetson T2000 and T3000 modules for Edge AI and robotics applications
- Linux Just Added the Feature macOS Users Have Been Begging For
- The Man Who Invented AI Just Admitted What Tech CEOs Won’t Say!
- Programming Is Dead: A Letter to Junior and Mid‑Level Engineers
- NVIDIAもAMDもなし。CPUだけで2.19EFLOPS達成した中国スパコンが首位
- 熱を出さない「1原子メモリ」誕生へ。東大が電流ゼロでデータを読み書きする新原理を実証