L2/L2+ ADAS(첨단 운전 보조 시스템)의 BEV(조감도) 

TI AI 가속 프로세서의 BEV 네트워크를 통한 고성능 전차량 인식

사용 설명서 읽기
L2/L2+ ADAS(첨단 운전 보조 시스템)의 BEV(조감도) 

애플리케이션 개요

BEV(조감도)는 자율 주행 애플리케이션의 L2/L2+ 센서 퓨전 시스템의 기본 구성 요소 중 하나입니다. 최신 ADAS(첨단 운전 보조 시스템)와 자율 주행 차량은 차량 주변 환경에 대한 종합적인 이해가 필요합니다. 기존의 접근 방식은 각 카메라마다 별도의 인식 파이프라인을 실행하여 추론한 뒤 결과를 병합하는 것이었습니다. 이 프로세스는 지연 시간을 늘리고 오버헤드를 증가시키며 카메라 경계에서 불일치를 유발할 수도 있습니다. BEV 접근 방식은 물체 감지 전에 여러 카메라 입력을 단일 통합 공간 표현으로 융합하여 전체 시스템 비용이 더 낮은 단일 신경망 추론을 가능하게 합니다.  

실시간 BEV는 다중 카메라 입력을 처리하고, 기하학적 변환을 수행하고, 물체 감지를 위한 신경망 추론을 실행하고, 지연을 낮게 유지하기 위해 상당한 처리 성능이 필요합니다. TDA 프로세서는 이러한 유형의 멀티카메라 처리를 위해 특별히 설계되었으며 C7™ NPU와 고성능 BEV 구현에 필요한 인터페이스를 갖추고 있습니다.

프로세서 SDK에는 사용자 지정 솔루션을 개발하기 전에 평가 중 초기 단계로 바로 실행할 수 있는 FastBEV 데모가 포함되어 있습니다. 이 데모를 통해 6대의 카메라에서 이미지 피드를 융합하고 동시 물체 감지를 수행하여 통합 "조감도"를 만듭니다. 중요한 것은 이러한 BEV 인식이 순수하게 시각 정보에 기반한다는 것입니다. 라이다 포인트 클라우드 데이터는 인식 파이프라인에 대한 라이브 입력이 아닌 감지된 물체를 검증하기 위한 실측 자료 레퍼런스로만 사용됩니다. 

평가 시작하기

데이터 수집

L2/L2+ 애플리케이션을 위한 센서 퓨전 BEV 시스템에는 차량 주변의 전체 범위를 지원하는 보정된 멀티 카메라 설정이 필요합니다. 

데이터 수집은 다양한 조명 조건(주간, 야간, 그림자), 기상 조건, 도로 유형, 교통 밀도와 자율 주행 시 여러 차량, 보행자 및 장애물의 존재 여부 등 다양한 주행 시나리오를 포괄해야 합니다.

라이다 포인트 클라우드 데이터는 개발 및 평가 중 BEV 표현에서 감지된 물체를 검증하기 위한 실측 자료 역할을 하며, 배치된 인식 파이프라인에 필수적인 입력이 아닙니다. 라이다 실측 자료를 사용하는 경우, 정확한 검증을 위해서는 카메라 프레임과 라이다 스캔의 동기화된 캡처가 필수적입니다. 

동시 객체 감지를 지원하는 AI 강화 BEV 시스템의 경우, 라벨링된 학습 데이터는 차량, 보행자, 자전거 운전자, 차선 표시, 도로 경계 및 자율 주행 기능에 중요한 기타 관련 기능을 식별해야 합니다.

데이터 품질 평가

카메라 보정 정확도는 원근-BEV 시점 변환에 있어 매우 중요합니다. 이는 두 가지 범주의 매개 변수에 좌우됩니다.

내부 매개 변수: 각 카메라 센서 및 렌즈의 내부 광학 속성을 설명합니다. 여기에는 초점 거리, 주점 및 왜곡 계수 등이 포함됩니다. 이러한 매개 변수는 단일 카메라 내에서 실제 환경의 3D 점이 2D 이미지 평면에 투영되는 방식을 제어합니다.
외부 매개 변수: 공유 BEV 좌표계를 기준으로 각 카메라의 위치와 방향을 나타냅니다. 

두 매개 변수 모두 2D 이미지 프레임의 깊이와 공간 위치를 정확하게 매핑하는 데 있어 필수적입니다. 둘 중 하나라도 오차가 있으면 BEV 표현 내 감지된 객체의 공간 정확도에 직접 영향을 미칩니다.

모델 구축 및 학습

사전 학습된 BEV 모델이 평가 및 배포 가능한 상태로 TI Model Zoo에서 제공됩니다. 

개발자가 자체 BEV 모델을 준비하고 싶을 수도 있습니다. 그런 경우 mmdetection3d를 기반으로 구축되었으며 다양한 BEV 3D 감지 모델의 개발, 교육 및 평가를 위한 통합 프레임워크인 edgeai-mmdetection3d를 활용할 수 있습니다. 또는 숙련된 개발자는 자체 맞춤형 학습 환경을 사용할 수도 있습니다. 

모델이 어떻게 학습되었는지와 관계없이, C7™ NPU에서 실행하기 위해서는 배포 전에 TIDL용으로 컴파일돼야 합니다. ONNX 또는 LiteRT 형식의 모델은 TI의 딥 러닝 가속기에 맞게 네트워크를 최적화하는 edgeai-tidl-tools를 사용하여 컴파일할 수 있습니다.

요구 사항에 맞는 모델 찾기

모델 선택 시에는 감지 정확도와 지연 시간 제약 사이의 균형을 고려해야 합니다. TI Model Zoo 및 벤치마크 툴은 대상 하드웨어에 기반한 선택으로 안내할 수 있는 성능 데이터를 제공합니다.

TI의 FastBEV 데모에서 사용된 모델은 ResNet-18 백본 + FPN 아키텍처를 사용하며, 차량 내 칩에서 더 빠른 BEV 인식을 수행할 수 있도록 특별히 설계된 오픈 소스 Fast-BEV 모델을 기반으로 합니다. 이 모델은 nuScenes 데이터 세트로 학습되고 검증되었습니다.

모델 배포

FastBEV 데모는 TDA 프로세서용 SDK의 일부로 포함된 Vision Apps 프레임워크를 사용하여 BEV 모델의 일반적인 배포를 보여줍니다. 

핵심 인식 파이프라인: OpenVX 기반 파이프라인은 6카메라 캡처, MSC 하드웨어 스케일링, A72 전처리, C7™ NPU에서의 TIDL 추론 및 A72 후처리를 통합합니다.

라이다 실측 자료 통합: 핵심 파이프라인 외에도, 라이다 포인트 클라우드 데이터가 병렬로 수집되어 BEV 출력에 공간 레퍼런스로 오버레이됩니다. 이를 통해 개발자는 평가 중 감지된 객체를 실측 자료와 시각적으로 비교할 수 있습니다.

추가 파이프라인 기능: 이 데모에는 실시간 성능 모니터링과 개별 카메라 이미지 및 상단 뷰 BEV 시점 모두에서 감지된 객체를 렌더링하는 듀얼 뷰 디스플레이도 포함됩니다. 

적합한 장치 선택

L2/L2+ BEV(조감도) 시스템을 위한 장치 선택은 카메라 수, 해상도, 프레임 속도 요구 사항 및 동시 AI 처리 요구 사항에 따라 달라집니다. 이러한 애플리케이션은 높은 메모리 대역폭, 전용 비전 가속기(VPAC), AI 가속을 위한 다중 C7™ NPU 코어, 최적의 성능을 위해 코어 전체에서 네트워크를 분할하는 기능을 갖춘 TDA4x 제품군의 차량용 등급 프로세서의 이점을 누릴 수 있습니다.

제품 번호
프로세싱 코어
NPU 성능
조감도 벤치마크
fastbev_plus_nms_r18_f1(256x704) 성능
TDA4VH-Q1
8x Arm®  Cortex®-A72 + 4x C7™ NPU
32 TOPS

51.9ms

19.3 FPS

TDA4VPE-Q1 4x Arm® Cortex®-A72 + 2x C7™ NPU 16 TOPS

61.8ms

16.2 FPS

TDA4VL-Q1 2x Arm® Cortex®-A72 + 1x C7™ NPU 8 TOPS

93.1ms

10.7 FPS

FPS(초당 프레임 수)

 

시작하는 데 필요한 모든 하드웨어, 소프트웨어 및 리소스

하드웨어

TDA4VH-Q1
TDA4VH는 고급 ADAS, 자율 주행 차량 및 로봇을 위해 설계된 고성능, 기능 안전 준수 SoC(시스템 온 칩)입니다. 32 TOPS의 AI 성능, 쿼드 C7x DSP, Arm Cortex A72 코어 8개, 전용 비전 가속기 및 고속 네트워킹 기능을 갖추고 있습니다.

J784S4XEVM
J784S4 평가 모듈(EVM)은 차량용 및 산업용 시장의 비전 분석과 네트워킹 애플리케이션에서 TDA4VH-Q1 SoC를 평가하기 위한 플랫폼입니다. 이러한 프로세서는 다중 카메라, 센서 퓨전 및 첨단 운전자 지원 시스템(ADAS) 도메인 제어 애플리케이션에서 특히 잘 작동합니다.

소프트웨어 및 개발 툴

명령줄 툴
TI GitHub의 주 MPU 개발자 툴 페이지에서 학습을 위한 edgeai-modelmaker 및 사용자 지정 모델을 위한 edgeai-tidl-tools와 같은 명령줄 툴을 찾을 수 있습니다.

PROCESSOR-SDK-J784S4
프로세서 SDK RTOS와 프로세서 SDK Linux를 함께 사용하여 로봇, 비전 및 차량용 ADAS(첨단 운전자 지원 시스템)의 다양한 사용 사례를 구현할 수 있습니다.

CCStudio™ Edge AI Studio
이 툴은 TI 에지 AI 프로세서에서 모델을 학습, 컴파일 및 배포하기 위한 기능을 제공합니다. 사전 생성된 인기 모델의 벤치마크를 확인할 수 있는 모델 선택 툴도 제공합니다.

지원 리소스

프로세서 SDK에 포함된 Vision Apps 프레임워크는 FastBEV 데모를 레퍼런스 구현으로 제공합니다. 이 사용자 가이드는 FastBEV 데모를 실행하기 위한 간단한 개요와 지침을 제공합니다.

TI 장치용 조감도 3D 감지 모델의 개발, 학습 및 최적화.

mmdetection3d를 기반으로 구축된, 다양한 BEV 3D 감지 모델의 개발, 교육 및 평가를 위한 통합 프레임워크입니다.

산업용 | 비전

AI 가속 프로세서와 업계 표준 소프트웨어를 사용하여 높은 프레임 속도로 특정 물체와 사람을 실시간으로 탐지하고 위치를 파악합니다.

산업용 | 비전

C7™ NPU 장착 프로세서를 사용해 실시간으로 이미지에서 미세한 장애물과 경로 감지