NESY049A january   2022  – march 2023 TDA4VM , TDA4VM-Q1

 

  1.   摘要
  2.   Authors
  3.   簡介
  4.   定義邊緣 AI
  5.   什麼是高效邊緣 AI 系統?
    1.     選擇 SoC 架構
    2.     可編程核心類型與加速器
  6.   以 TI 視覺處理器設計邊緣 AI 系統
    1.     深度學習加速器
    2.     成像和電腦視覺硬體加速器
    3.     智慧型內部匯流排與記憶體架構
    4.     系統 BOM 最佳化
    5.     使用簡單的軟體開發環境
  7.   結論

定義邊緣 AI

邊緣 AI 以本機裝置處理 AI 演算法取代雲端處理,改變以深度神經網路 (DNN) 為主要演算法元件的工業和汽車應用。邊緣 AI 應用需要高速與低功耗處理,以及應用及其工作特有的進階整合,才能在尺寸受限、功率和散熱受限且成本受限的環境中有效運作。圖 1 說明運用邊緣 AI 處理來提升性能和效率的部分應用。例如使用視覺輸入的邊緣 AI 系統可在生產線上以單一攝影機進行品質控制,或以多部攝影機支援汽車或行動機器人的功能安全。

GUID-3613AB79-2039-43A4-A5A6-355A83E67DDA-low.jpg圖 1 邊緣智慧存在許多各種應用中

邊緣 AI 系統可協助改善倉庫與工廠效率,讓城市、建築與農業更安全、更有效率,並讓居家與零售環境更加智慧化。讓我們來看看幾個需要高效邊緣 AI 處理的系統:

  1. 先進駕駛輔助系統 (ADAS)。ADAS 技術可讓您深入瞭解車輛周圍環境,讓駕駛體驗更方便、更輕鬆且更安全。多數 ADAS 功能都是視覺型系統,從多部攝影機感測器取得高解析度輸入,並使用深度學習與電腦視覺演算法來解讀 ADAS 技術,以提供車輛周圍環境的資訊洞見,讓駕駛體驗更方便、更輕鬆且更安全。多數 ADAS 功能都是視覺型系統,從多部攝影機感測器取得高解析度輸入,並使用深度學習與電腦視覺演算法來解讀 ADAS 技術。
  2. 自主行動機器人和無人機。就市售可用機器人來說,晶片系統 (SoC) 必須以高速與低功耗處理複雜的感知與導航堆疊,並需具備最佳系統成本。SoC 也必須為影像消除彎曲、立體聲深度評估、調整、影像金字塔生成與深度學習等運算密集工作進行卸載,以實現最大系統效率。
  3. 智慧型購物車。智慧型購物車可計算購物車內物品的訂單總計、建議購物清單品項,並讓消費者能對購物車中的雜貨進行結帳,讓客戶享有更客製化的購物體驗,並可跳過結帳時的排隊人龍。大多數智慧型購物車都有多個視覺感測器以攝影機自動偵測物品,電腦視覺智慧型購物車則可計算放入購物車品項的訂單總計、建議購物清單項目,並讓消費者能對購物車中的雜貨進行結帳,讓客戶享有更客製化的購物體驗,並可跳過結帳時的排隊人龍。
  4. 邊緣 AI 運算盒。邊緣 AI 運算盒是運用在零售自動化、工廠監控和建築監控系統的攝影機系統智慧延伸。儘管有尺寸限制、功率和散熱方面的挑戰,高傳輸速率 AI 仍可讓運算盒為更多攝影機執行智慧處理。
  5. 機械視覺攝影機。適用光學字元辨識、物件識別、瑕疵偵測和機械手臂導引的機械視覺攝影機運用嵌入式 AI 技術,進一步簡化產品開發並提升系統準確度。

表 1 列出各種應用程序的系統要求。

表 1 邊緣 AI 系統的主要處理和元件需求。
ADAS 機器人 智慧型零售 機械
視覺
邊緣 AI 運算盒
深度學習加速器 x x x x x
多攝影機影像訊號處理 (ISP) x x x x x
視覺加速器 x x x x x
深度與運動加速器 x x x x x
乙太網路開關 x x x
快捷外設互聯標準 (PCIe) 交換器 x x
功能安全 x x