YUANがエッジAIのメモリ使用量を約20%削減しJetson Orin NX 8GBで映像分析を実現

YUANは軽量な視覚モデルを採用し、スマート住宅コミュニティ向けのカメラ横断分析を16 GBからJetson Orin NX 8GBへ移行
住宅コミュニティの各所に設置されたカメラは、ロビー、共用スペース、多目的室、エレベーターでの様子を記録します。発生した事象を確認する際、担当者は複数のカメラ映像を切り替えながら、何が起きたかを手作業でたどることがあります。カメラ横断分析を使うと、異なる視点の情報を関連付けられます。複数の映像ストリームを処理するには、エッジ側の演算能力とメモリがさらに必要になります。
YUANのカメラ横断分析ソリューションは、NVIDIA Jetson Orin NX 8GBとNVIDIA JetPack 6.2を使用し、1台のデバイスで4本の1080p映像ストリームを同時に処理できます。
YUANは、軽量なAIモデル、NVIDIA TensorRTによるFP16推論、システムサービスの整理を組み合わせ、AIモデルのメモリ使用量を4.4 GBから3.5 GBへと20.5%削減しました。Rank-1精度は95.2%から94.6%となり、低下幅は0.6ポイントでした。
メモリ容量に制約のあるエッジデバイスでの複数カメラ分析
カメラ横断分析では、対象物の検出、外観特徴の抽出、カメラ間での移動軌跡の関連付けを継続的に行います。これらの処理は、映像のデコード、ストリームのバッファー、OS、バックグラウンドサービスとメモリを共有します。
8 GBのエッジデバイスでは、照合精度と導入要件を両立するため、モデルとシステムのメモリ負荷を抑えることが重要です。YUANは両方を最適化し、メモリ容量の小さいプラットフォームでも住宅コミュニティ向けの複数カメラ分析を実行できるようにしました。
カメラ映像を関連付けて事象確認を効率化
YUANのソリューションは、異なるエリアのカメラから得た情報を3段階で処理します。
1. 対象物の検出と単一カメラ内での追跡 各カメラの映像から対象物を検出し、その画角内での移動軌跡を求めます。
2. カメラ間の関連付け 外観特徴、タイムスタンプ、カメラ間の位置関係をもとに、異なる視点の軌跡を照合します。
3. 移動履歴の統合 関連付けた軌跡を一つの履歴にまとめ、担当者が事象を確認する際に検索できるようにします。 たとえば、ロビー、共用スペース、エレベーターにまたがる事象を調べる場合、担当者は履歴から関連する場所や対象が最後に映ったカメラ映像を探せます。これにより、手作業で確認する映像の範囲を絞れます。関連付けの精度は、照明、遮蔽、撮影角度、カメラの設置位置に左右されます。 YUANはカメラ横断分析に加え、フィジカルAIプラットフォームとデータに基づく運用ソリューションを提供するEverMira AI Tech(永元智能)と協業し、スマート住宅コミュニティでの自律巡回を進めています。
YUANのエッジAIコンピューティングおよびマシンビジョン技術と、EverMiraの身体性AIを活用したロボット技術を組み合わせることで、ロボットは既設カメラやIoTシステムと連携し、事象の検知をきっかけに現場を確認できます。
モデルとシステムソフトウェアの最適化
軽量モデルとTensorRTによるFP16推論
YUANは軽量なAIモデルにNVIDIA TensorRTとFP16(半精度)推論を組み合わせ、モデルの実行時に必要なメモリを抑えました。最適化前後のRank-1精度を比較することで、人物の外観特徴の照合に対する影響を数値で把握できます。
BSP、Jetson Agent Skills、システムサービスの見直し
YUANは軽量なAIモデルにNVIDIA TensorRTとFP16(半精度)推論を組み合わせ、モデルの実行時に必要なメモリを抑えました。最適化前後のRank-1精度を比較することで、人物の外観特徴の照合に対する影響を数値で把握できます。
• アプリケーションが使用しないグラフィカルインターフェースのサービスを無効化。
• 運用に不要なバックグラウンドサービスを無効化。 これらの変更により、システムが常時使用するメモリを減らし、映像処理やAI分析に割り当てられる容量を増やせます。無効にするサービスは、デバイスの機能や保守要件に応じて決まります。
メモリ削減量と照合精度の測定
最適化後は、1台のNVIDIA Jetson Orin NX 8GBデバイスで4本の1080p映像ストリームを同時に処理できます。以下はAIモデルの測定結果です。

図1 最適化前後のAIモデルのメモリ使用量とRank-1精度。

測定結果の読み方
Rank-1精度は、人物の外観特徴を検索した際に、最上位の候補が正解だった割合です。各現場におけるカメラ横断追跡全体の成功率は、別途評価する必要があります。
メモリの数値はAIモデルが使用した量を示しています。NVIDIA Jetson Orin NX 16GBから8GBへの移行は、ハードウェアのメモリ容量の変更です。20.5%はモデルのメモリ使用量の削減率であり、システム全体の使用量は別途測定する必要があります。
処理フレームレート、遅延、システムのピークメモリ使用量は、入力映像のフレームレート、画面内の人数、設置環境に応じて検証する必要があります。ハードウェアコストや消費電力の削減効果も、最終的な導入構成によって変わります。
エッジAIの他分野への応用
YUANは、軽量モデル、TensorRT推論、システムサービスの構成変更を組み合わせ、最適化前に近いRank-1精度を維持しながら、メモリ要件を抑えました。
この手法は、多くの機器を必要とする小売、製造、交通分野の複数カメラ分析にも応用できます。開発チームや導入企業は、照合精度とデバイスのリソースのバランスを取りながら構成を選び、ハードウェアコストの削減につなげられます。