Jetson AGX OrinとOrin Nano比較　パート1：特長と仕様

NVIDIAのエッジAI用の開発ボードのフラグシップモデルとエントリーモデルの２製品を比較

私は以前、オリジナルのJetson Nanoについての記事(「ベーシックモデルのハンズオン」「人追跡ショッピングカートの開発」)と、Jetson AGX Orinというパワーハウス(「Jetson AGX Orinのご紹介」と「基本的なセットアップ」)を投稿しました。

今回は、フラグシップモデル「Jetson AGX Orin用の発者キット」と、小型・安価なエントリーモデル 「Jetson Orin Nanoの開発キット」の比較について2回のシリーズ記事としてまとめててみます。パート1では、それぞれの特徴と仕様について調査し、パート2ではいくつかのサンプルを実行し、2つのプラットフォームの相対的なパフォーマンスを比較します。

後ほど示す通り、Jetson Orin Nanoは、Jetson AGX Orinほど強力ではありませんが、２０１９年に発売されたオリジナル版のJetson Nanoよりも性能が大幅に向上しています。業務にあわせた適切なモデルの選択が非常に重要で、単純に予算だけで決めるべきものではありません。

比較

本稿執筆時点では、最上位の Jetson AGX Orin 64GB Developer Kit  (253-9662) は 2,200ポンド弱（約４０万円弱）、Jetson Orin Nano Developer Kit (264-7384) は 550 ポンド弱（約１０万円弱）です。デベロッパー・キットの違いについては後述するが、これらはほとんどJetsonシステム・オン・モジュール（SoM）用の「ブレイクアウト・ボード」に過ぎず、肝心のSoMの違いについては以下の比較表で確認できるだろう。

SoM 機能比較

Jetson AGX OrinとJetson Orin Nano の両方のSoMには、さまざまなレベルの処理電力とRAMなど、さまざまなバリエーションがあります。AGX Orinの場合、64 GB及び32 GB RAMを備えた2つの開発キットオプションもありますが、他にも違いがあります。詳細については、「NVIDIA Jetson AGX Orinの紹介」をご覧ください。Orin Nano では、開発キットは1つしかありませんが、生産設計には2つの SoM オプションがあります。

上記の表は、NVIDIAウェブサイトのJetson Orinモジュール及び開発キットセクションからのものです。このセクションには、Orin NXの詳細も含まれていますが、ここでは、表の読みやすさを向上させるためにこれらを省略しました。また、AGX Orin及びOrin Nanoに焦点を当てています。

比較表から、AIの性能は、Orin Nano 4 GBの20 TOPSから、AGX Orin 64 GBの275 TOPSまでの範囲であることがわかります。Jetson Orin Nano開発キットには、8 GB RAM SoMが装備されていますが、これは40 TOPSで指定されています。これは、アンペアアーキテクチャ + テンサコアを備えたGPUで、Orin Nano 4GBではそれぞれ512+16から、AGX Orin 64GBでは2048+64までスケールされています。GPUクロック速度も大幅に倍増しています。

同様に、Orin Nanoシリーズには、6コアCortex A-78AE CPUが搭載されており、AGX Orin 32 GBでは8コア、AGX Orin Industrialと64 GBのタイプでは12コアになっています。AGX Orin SoMには、2つのディープラーニングアクセラレータとビジョンアクセラレータが付属しています。

すべてのOrin SoMは外部ストレージとしてNVMeに対応しており、開発キットはこれとのインターフェイスが実装されています。さらに、Orin Nano開発キットにはMicro SDカードスロットがあり、AGX Orinは64 GBのはんだ付けされたeMMCストレージが搭載されています。

ビデオエンコード及びデコード機能には大きな違いがあり、さらにAGX Orin SoMは、Orin Nanoの8倍のレーンとは異なり、カメラを接続するためのMIPI CSI-2の16倍のレーンを提供します。その他の特徴的な違いは、AGX Orin モジュールがより多くの PCIe 接続を提供することです。

もう1つの主要な違いは、32 GB及び64 GBのAGX Orinバリエーションには、10 G及び1 Gイーサネットポートが搭載されていますが、AGX Orin Industrial及びすべてのOrin Nanoモジュールは、1 Gインターフェイスのみを備えています。

Jetson AGX Orin及びOrin Nanoモジュール

AGX Orin SoMは100 x 87 mmで、699ピンのMolex Mezzコネクタを採用し、全体の厚さを増やす一体型熱転送プレート(TTP)が付属しています。一方、Orin Nanoは、69.6 x 45 mmでサイズの半分に近い、小型の260ピンSO-DIMMコネクタを使用し、TTPにパッケージされていません。消費電力の点では、AGX Orin SoMは75 Wでピークに達しますが、より強力なOrin Nano SoMは15 Wでピークに達します。

NVIDIA Jetson AGX Orin、サーマルトランスフェースプレート付き

Jetson Orinファミリの最も強力なSoMは、エントリレベルのSoMよりもかなり大きく、より多くの電力を消費します。しかしながら、100 x 87 mmの比較的小さなフットプリントには、コンピューティングパフォーマンスが圧縮されており、ピーク時の最大消費電力はわずか75 Wです。

今回の比較では、ミッドレンジのOrin NXの詳細については考慮しませんが、同じフォームファクターとコネクターを採用し、ピーク消費電力がわずか25W増加しただけで、AI性能は2倍以上となり、その他多くのアップグレードが施されていることから、Orin Nanoでスタートした設計に便利なアップグレードパスを提供していることに留意すべき点でしょう。

しかし、Jetson Orin NanoまたはJetson Orin NXからJetson AGX Orinに移行するには、少なくとも使用されている異なるコネクタについて、デザインをアップデートする必要があります。したがって、将来の潜在的な要件について慎重に検討する必要があります。

前述したように、AIのパフォーマンスだけでなく、CPU、メモリ、接続性においてもかなりの違いがあります。したがって、AIパフォーマンスが低いモジュールで十分な場合がありますが、全体的なアプリケーションには、より多くのCPU又はRAMが必要な場合もあります。また、周辺機器の接続性が向上する場合もあります。

Developer Kits

AGX Orinと同様に、Orin Nano開発キットはパッケージとなっており、Micro SDカードを除いて起動して動作するために必要なすべてのものが付属しています。

同様に、Orin Nanoキットには、SoMと冷却を装備したリファレンスキャリアボード、及びデスクトップDC電源が含まれています。予想されるように、NanoキャリアボードプラスSoMアセンブリは小型で、同様のフットプリントを備えていますが、高さは約半分で、PSUも小型です。また、キャリアボードはシンプルなプラスチックスレッドに取り付けられ、フルサイズのPCIeスロットに磁気カバーが付いたかなりファンショナルなアルミエンクロージャに取り付けられる代わりに、パッケージはより基本的です。

AGX OrinとOrin Nano開発キットの両方には、USBポートが4つがありますが、Orinデバイスキットでは、片側に2つ、反対側に2つ、Nanoキャリアボードでは、片側にすべてがあります。AGX Orinは最大10 Gのイーサネットをサポートしていますが、Nanoは最大1 Gのみをサポートしています。

大型のAGX Orinキャリアボードと同様に、片側にGPIOヘッダがあります。

反対側には、組み込みカメラを接続するためのMIPI CSIヘッダが付いています。

メインポートの反対側のJetson SoMの下には、ステータスLEDとボタン用のピンとUARTを備えた「ボタンヘッダ」があります。側面には、オプションのCANバスヘッダが取り付けられます。

最後に、Orin Nanoデバイスキットの下面を見ると、M.2スロットがあることがわかります。 すでにWiFi / Bluetoothアダプタが搭載されているスロット(Key-E、タイプ2230)は、基板アンテナのペアに配線されています。M.2 Key-M 2280 (PCIe 3.0 x4)及び2230 (PCIe 3.0 x2)スロットもあり、前者はNVMeストレージとの併用に適しています。

最後に

ここでは、エントリレベルのOrin NanoモジュールからトップエンドのAGX Orin SoMまで、Jetson Orinファミリにわたって幅広いAI/CUDA処理性能が用意されていることを確認しました。一方、Orin NanoプラットフォームとAGX Orinプラットフォームの違いは、後者がより強力なCPUコンプレックス、より大きなビデオ機能、より高い性能のイーサネットを統合し、MIPI CSI及びPCIe接続が向上しています。しかし、これは明らかにサイズや重量(それほど大きくはありません)、パワー、コストを増加させます。

このため、Jetson Orin Nano又はJetson AGX Orinを使用するかどうかを判断する際には、AIパフォーマンスだけでなく、全体的なシステム要件を考慮する必要があります。

このシリーズのパート2では、AGX Orin及びOrin Nano開発キットで代表的なAIワークロードを実行し、リアルワールドの比較を提供します。

  — Andrew Back