25배 짧은 지연 시간으로 비전 시스템에서 물체 감지
AI 가속 프로세서와 업계 표준 소프트웨어를 사용하여 높은 프레임 속도로 특정 물체와 사람을 실시간으로 탐지하고 위치를 파악합니다.
애플리케이션 개요
많은 비전 기반 시스템은 차량, 사람, 얼굴, 결함 부품 및 스캔 가능한 코드와 같이 카메라의 시야 내 물체를 감지해야 합니다. 물체의 개수와 위치를 파악하는 것은 공장 자동화, 가정 및 건물 보안, 자동차 안전, 로보틱스 등 다양한 애플리케이션에서 중요합니다.
복잡한 물체에는 안정적으로 정확한 감지를 위해 딥러닝 AI 솔루션이 필요합니다. 감지할 물체의 예시 이미지를 사용하면 전문가 수준의 지식을 대체할 수 있어 개발 과정이 단순화됩니다. 또한 AI 기반 물체 감지는 조명, 예기치 않은 물체, 센서 잡음과 같은 장면 변화에도 더 강한 내성을 갖습니다.
에지에 AI를 통합하면 시스템의 개인정보 보호와 보안을 강화할 수 있으며, 네트워크 속도나 안정성에 제한되지 않는 빠른 응답을 제공합니다. TDA4x 및 AM62A 장치의 C7™ NPU와 같은 하드웨어 가속과 ONNX Runtime과 같은 업계 표준 툴을 활용하면 오픈 소스 AI 모델을 온칩에서 실시간으로 실행할 수 있습니다.
평가 시작하기
데이터 수집
물체 감지 학습 데이터는 이미지와 주석으로 구성되며, 주석은 이미지 내 어떤 물체가 어디에 존재하는지를 설명합니다. TI 툴링은 데이터 세트 형식으로 MS COCO를 사용합니다.
물체 감지용 이미지는 최종 시스템이 동작할 환경과 일치해야 합니다. 유사한 조명 조건, 카메라 렌즈, 환경 변화 조건에서 데이터를 수집하면 학습된 모델의 정확도가 높아집니다.
데이터 품질 평가
학습 결과의 높은 정확도를 위해서는 이미지 품질이 중요하며, 데이터에는 어느 정도의 변동성이 포함되어야 합니다. 감지하려는 물체는 회전, 카메라와의 거리 변화, 일부 가림 등 다양한 방식으로 표현되어야 합니다. 학습 데이터에 이러한 변동성이 많을수록 실제 환경에서 발생하는 변화에 모델이 잘 대응할 수 있습니다.
물체 유형당 수십 장의 이미지만으로도 비교적 정확한 모델을 구축할 수 있습니다.
모델 구축 및 학습
TI는 CCStudio™ Edge AI Studio 또는 TI 공식 GitHub의 명령줄 툴을 통해 사용자 지정 데이터 세트에 대해 미세 조정할 수 있도록 최적화된 모델 세트를 제공합니다. 사용자는 데이터 세트를 제공하고 에폭 수, 학습률 등의 몇 가지 학습 매개 변수를 설정합니다.
학습이 완료되면 대상 하드웨어에 맞게 컴파일하여 배포 준비를 합니다. 이 컴파일 단계는 명령줄 툴과 그래픽 툴 모두에서 자동으로 처리됩니다.
요구 사항에 맞는 모델 찾기
지원되는 장치마다 여러 모델이 제공됩니다. 정확도와 속도 사이에는 균형이 있으며, 모델이 클수록 정확도는 높지만 실행 속도는 느립니다. 요구 사항에 맞는 모델을 선택하십시오.
모델 배포
모델 배포를 위해서는 대상 하드웨어에 맞게 모델을 미리 컴파일하여 최적화해야 합니다. Edge AI Studio와 같은 툴을 사용하면 컴파일이 자동으로 이루어집니다. 그렇지 않은 경우 모델을 컴파일하려면 TI GitHub의 edgeai-tidl-tools와 같은 소프트웨어 패키지를 통해 별도의 컴파일 단계가 필요합니다.
모델 아티팩트는 ONNX Runtime, tensorflow-lite, TVM과 같은 런타임을 통해 배포되며, 하드웨어 가속을 위한 백엔드로 TIDL(TI 딥러닝)을 사용합니다. TI 툴링으로 학습된 모델은 PyTorch에서 학습되고 ONNX 모델로 내보내 ONNX Runtime에서 사용할 수 있습니다.
edgeai-gst-apps를 사용하면 엔드 투 엔드 비전 애플리케이션에 모델을 배포할 수 있습니다. 이 툴은 AI 모델 자체의 가속은 물론, 이미지 전처리 및 후처리를 위한 여러 단계의 하드웨어 가속으로 파이프라인을 구성합니다.
적합한 장치 선택
TI 프로세서는 다양한 모델에 대해 벤치마킹했으며, 해당 데이터는 Edge AI Studio에서 확인할 수 있습니다. 여러 물체 감지 모델이 제공되며 NPU 유무와 관계없이 실행할 수 있지만, 성능 차이를 보면 실시간 처리는 NPU 사용 시 큰 이점을 얻을 수 있습니다.
시작하는 데 필요한 모든 하드웨어, 소프트웨어 및 리소스
하드웨어
SK-AM62A-LP
AM62A는 AM6xA 제품군에서 가장 저렴한 AI 가속 장치로, 평가에 가장 적합합니다. 일반 USB 카메라 또는 웹캠을 사용하여 라이브 데이터 기반 이미지 캡처 및 모델 평가를 할 수 있습니다.
소프트웨어 및 개발 툴
PROCESSOR-SDK-LINUX-AM62A
에지 AI 프로세서 SDK는 Linux 기반이며, 하드웨어 가속으로 컴파일된 모델을 실행하는 데 필요한 소프트웨어 구성 요소를 포함합니다. AM62A 대신 다른 에지 AI 가속 프로세서를 사용할 수도 있습니다.
CCStudio™ Edge AI Studio
이 툴은 TI 에지 AI 프로세서에서 모델을 학습, 컴파일 및 배포하기 위한 기능을 제공합니다. 사전 생성된 인기 모델의 벤치마크를 확인할 수 있는 모델 선택 툴도 제공합니다.
명령줄 툴
Linux 및 TIDL을 지원하는 마이크로프로세서 장치용 툴입니다. TI의 에지 AI 솔루션은 다양한 툴과 최적화된 라이브러리를 제공하여 DNN 개발 및 배포의 전체 제품 수명 주기를 간소화합니다.
TIDL 툴
기본적인 TI 딥러닝 예제를 제공하며 사용자 지정 모델 아키텍처를 컴파일할 수 있습니다.
Edgeai-gst-apps
간단한 YAML 구성 파일을 사용하여 gstreamer 기반의 에지 AI 가속 MPU에서 엔드 투 엔드 애플리케이션을 생성합니다.