AI-Papers
- NVIDIAが新型の小型生成AIスーパーコンピューター「Jetson Orin Nano Super」を発表、価格は249ドル
- 生成AI推論能力が1.7倍、性能は70%向上
- LLMチャットボットやAIロボットに最適
※ AIによる要約
NVIDIAは、新型の小型生成AIスーパーコンピューター「Jetson Orin Nano Super」を発表。この製品は、商用AI開発者からホビイスト、学生まで幅広いユーザーを想定しており、価格を従来の499ドルから249ドルへと引き下げたとのこと。
性能面では、生成AI推論能力が1.7倍に向上し、全体的な性能も70%増の67 INT8 TOPSを達成。また、メモリ帯域幅も前モデル比で50%増加し、102GB/sに達しています。
Looking for an affordable platform to run popular #genAI models at the edge?
Introducing the NVIDIA Jetson Orin Nano Super Developer Kit, offering up to 67 TOPS of AI performance for $249. Existing users can upgrade their JetPack SDK for a "super" boost. https://t.co/BiTCBke58P pic.twitter.com/0depc65bqK— NVIDIA Robotics (@NVIDIARobotics) December 17, 2024
このデバイスは、LLMチャットボットの開発やビジュアルAIエージェントの構築、AIベースのロボット展開といった多様な用途に対応できる設計となっています。既存のJetson Orin Nanoユーザーも、ソフトウェアアップデートを適用することで、生成AI性能の向上が可能。
Jetson Orin Nano Superは、Jetson Orin Nano 8GBシステムオンモジュール（SoM）とリファレンスキャリアボードで構成されており、エッジAIアプリケーションのプロトタイプ作成に最適な開発者キットです。
このSoMには、NVIDIA Ampereアーキテクチャに基づくTensorコアGPUと6基のArm CPUが搭載され、複数のAIアプリケーションを同時に処理し、高い推論性能を発揮。さらに、最大4台のカメラに対応し、高解像度と高フレームレートで動作可能。
また、NVIDIAはオープンソースコミュニティ向けに最新の生成AIモデルやチュートリアルを提供する「Jetson AIラボ」を展開。これにより、開発者は幅広いコミュニティから支援を受けたり、他のプロジェクトからインスピレーションを得たりすることができます。
さらに、NVIDIA IsaacやMetropolis、Holoscanといったソフトウェア群や、合成データ生成ツールのOmniverse Replicator、モデル調整用のTAOツールキットも活用でき、開発効率を大幅に向上させることが可能。
日本では、この開発者キットが12月18日から販売開始予定で、詳細はNVIDIA公式ウェブサイトに記載されています。
