L2/L2+ 先進運転支援システム (ADAS) のバード アイ ビュー (BEV) 

TI の AI アクセラレーション プロセッサ上の BEV ネットワークを活用した、車両全体を対象とする高性能な認識能力

ユーザー ガイドをご覧ください
L2/L2+ 先進運転支援システム (ADAS) のバード アイ ビュー (BEV) 

アプリケーションの概要

バード アイ ビュー (BEV) は、自動運転アプリケーションにおける L2/L2+ センサ フュージョン システムの基本的な構成要素の 1 つです。最新の先進運転支援システム (ADAS) および自動運転車には、車両周囲の環境を総合的に理解する能力が求められています。従来のアプローチでは、各カメラに対して別々の認識処理パイプラインを実行し、推論後に結果を統合します。この処理により、レイテンシが増大し、メモリ使用量が増加するほか、カメラ間の境界で不整合が発生する可能性もあります。BEV のアプローチでは、物体検出の前に複数のカメラ入力を単一の統合された空間表現に融合することで、1 回のニューラル ネットワーク推論で処理でき、システム全体のコストを低減できます。  

リアルタイム BEV は、マルチカメラ入力の取り扱い、幾何学的変換の実行、物体検出のためのニューラル ネットワーク推論の実行、低レイテンシの維持を実現するための高い処理能力を必要とします。TDA プロセッサは、この種のマルチカメラ ワークロードに特化して設計されており、BEV を高パフォーマンスで実装するために必要なインターフェイスと C7™ NPU を搭載しています。

プロセッサ SDK には FastBEV デモが付属しています。カスタム ソリューションを開発する前の評価段階で、このデモをすぐに実行することができます。このデモを使用すると、6 台のカメラから取得した画像を融合し、物体を同時に検出することで、統合された "バード アイ ビュー" を実現できます。重要なのは、ここでの BEV 認識は純粋にビジョンベースであるという点です。LiDAR 点群データは、認識パイプラインへのライブ入力としてではなく、検出された物体を検証するためのグランド トゥルース リファレンスとしてのみ使用されます。 

評価を開始する

データ収集

L2/L2+ アプリケーション向けのセンサ フュージョン BEV システムには、車両の周囲を完全にカバーするキャリブレーション済みのマルチカメラ セットアップが必要です。 

データ収集は、さまざまな照明条件 (昼間、夜間、影)、天候条件、道路の種類、交通密度、ならびに自動運転に関係するさまざまな車両、歩行者、障害物を含む、多様な走行シナリオをカバーする必要があります。

LiDAR 点群データは、開発および評価中に BEV リプレゼンテーション内で検出された物体を検証するためのグランド トゥルースとして機能し、運用環境の認識パイプラインへの必須入力ではありません。LiDAR のグランド トゥルースを使用する場合、正確な検証のためには、カメラ フレームと LiDAR スキャンを同期キャプチャすることが不可欠です。 

同時物体検出に対応した AI 強化型 BEV システムでは、ラベル付き学習データにより、車両、歩行者、自転車利用者、車線標示、道路境界など、自動運転機能に関連する重要な特徴を識別する必要があります。

データ品質の評価

透視視点から BEV 視点への変換では、カメラ キャリブレーションの精度が重要な要素となります。これは、次の 2 つのカテゴリのパラメータに依存します。

内部パラメータ:各カメラ センサおよびレンズが持つ内部的な光学特性を表します。例として、焦点距離、主点位置、歪み係数などが挙げられます。これらのパラメータは、実世界の 3D 座標点が 1 台のカメラ内の 2D 画像平面にどのように投影されるかを決定します。
外部パラメータ:共有 BEV 座標系に対する各カメラの位置と向きを表します。 

どちらも、2D 画像フレームから深度と空間位置を正確にマッピングする上で不可欠です。いずれかに誤差があると、BEV リプレゼンテーションで検出された物体の空間精度に直接影響します。

モデルを構築してトレーニング

TI Model Zoo では、評価や導入に対応した事前学習済み BEV モデルを利用できます。 

独自の BEV モデルを開発することもできます。その場合、mmdetection3d 上に構築されたさまざまな BEV 3D 検出モデルの開発、トレーニング、評価のための統一されたフレームワークである edgeai-mmdetection3d を利用できます。経験豊富な開発者の場合は、独自に構築したトレーニング環境を選択することも可能です。 

モデルをどのようにトレーニングするかにかかわらず、導入する前に、C7™ NPU 上で実行できるよう TIDL 向けにモデルをコンパイルする必要があります。ONNX や LiteRT 形式のモデルは、edgeai-tidl-tools でコンパイルすることで、TI のディープラーニング アクセラレータ向けにネットワークを最適化できます。

用途に適したモデルを検索

モデルを選択する際は、検出精度とレイテンシ制約とのバランスを取ることが重要です。TI Model Zoo とベンチマークツールを利用することで、対象ハードウェアに適したモデルを選定するための性能データを確認できます。

TI の FastBEV デモで使用したモデルは、ResNet–18 バックボーン + FPN アーキテクチャを使用し、車載チップ上でより高速な BEV 認識を実行できるように特別に設計された、オープン ソースの Fast-BEV モデルをベースにしています。このモデルは、nuScenes データセットを使用してトレーニングおよび検証されています。

モデルの展開

FastBEV デモでは、TDA プロセッサ向け SDK に含まれる Vision Apps フレームワークを使用した、BEV モデルの一般的な導入方法を紹介しています。 

コアの認識パイプライン:OpenVX ベースのパイプラインには、6 台のカメラからの入力キャプチャ、MSC ハードウェア スケーリング、A72 による前処理、C7™ NPU による TIDL 推論、A72 による後処理が統合されています。

LiDAR グランド トゥルースの統合:コア パイプラインに加えて、LiDAR 点群データも並行して取り込まれ、空間基準として BEV 出力にオーバーレイされます。この結果、開発者は評価中に検出された物体をグランド トゥルースと視覚的に比較できます。

追加のパイプライン機能:また、このデモは、リアルタイム性能の監視機能とデュアルビュー表示機能も搭載しており、個別のカメラ画像と上面 BEV の両方の視点から検出対象物をレンダリングすることができます。 

お客様に最適なデバイスの選択

L2/L2+ バード アイ ビュー (BEV) システムのデバイス選択では、カメラの台数、解像度、必要なフレーム レート、同時実行する AI 処理の要件を考慮する必要があります。これらのアプリケーションには、高いメモリ帯域幅、専用ビジョン アクセラレータ (VPAC)、AI 処理を高速化する複数の C7™ NPU コア、最適な性能を得るためにネットワークをコア間で分割する機能を備えた TDA4x ファミリの車載グレード プロセッサが適しています。

製品番号
プロセッシング コア
NPU の性能
バード アイ ビューのベンチマーク
fastbev_plus_nms_r18_f1 (256x704) のパフォーマンス
TDA4VH-Q1
8x Arm® Cortex®-A72 + 4x C7™ NPU
32 TOPS

51.9ms 

19.3 FPS

TDA4VPE-Q1 4x Arm® Cortex®-A72 + 2x C7™ NPU 16 TOPS

61.8ms

16.2 FPS

TDA4VL-Q1 2x Arm® Cortex®-A72 + 1x C7™ NPU 8 TOPS

93.1ms

10.7 FPS

FPS (フレーム / 秒)

 

開始に必要なすべてのハードウェア、ソフトウェア、およびリソース

ハードウェア

TDA4VH-Q1
TDA4VH は、高性能で機能安全規格に準拠したシステム オン チップ (SoC) であり、高度な ADAS、自動運転車、ロボット向けに設計されています。この製品は、32TOPS の AI 性能、クワッド C7x DSP、8 個の Arm Cortex A72 コア、専用のビジョン アクセラレータ、高速ネットワーク機能を搭載しています。

J784S4XEVM
J784S4 評価基板 (EVM) は、車載および産業市場向けのビジョン分析とネットワークの各アプリケーションで TDA4VH-Q1 SoC を評価するためのプラットフォームです。これらのプロセッサは、マルチカメラ、センサ フュージョン、ADAS (先進運転支援システム) ドメイン制御の各アプリケーションで、特に優れた性能を発揮します。

ソフトウェアおよび開発ツール

コマンドライン ツール
トレーニング用の edgeai-modelmaker やカスタムモデル用の edgeai-tidl-tools などのコマンドライン ツールは、TI GitHub の MPU 開発者向けツールのメイン ページから入手できます。

PROCESSOR-SDK-J784S4
プロセッサ SDK RTOS とプロセッサ SDK Linux は組み合わせて使用でき、ロボット、ビジョン、車載の先進運転支援システム (ADAS) でさまざまな使用事例を実装できます。

CCStudio™ Edge AI Studio
このツールには、TI のエッジ AI プロセッサ向けにモデルの学習、コンパイル、デプロイを行うためのツールが含まれています。一般的なモデルの事前生成されたベンチマークを確認できるモデル選択ツールが用意されています。

サポート リソース

プロセッサ SDK に含まれる Vision Apps フレームワークでは、FastBEV デモをリファレンス実装として利用できます。このユーザー ガイドでは、FastBEV デモを実行するための概要と手順を簡単に説明します。

TI デバイス向けバード アイ ビュー 3D 検出モデルの開発、トレーニング、最適化。

mmdetection3d 上に構築されたさまざまな BEV 3D 検出モデルの開発、トレーニング、評価のための統一されたフレームワーク。

産業用 | ビジョン

AI アクセラレーション対応プロセッサと業界標準ソフトウェアを用いて、高フレーム レートでリアルタイムに特定の物体や人物を検出し、位置特定します

産業用 | ビジョン

C7™ NPU 搭載プロセッサを使用し、画像から微細な障害物や経路をリアルタイムで検出