JADA221A June   2026  – October 2026 MSPM0G5187

 

  1.   1
  2.   概要
  3.   商標
  4. 1 概要
  5. 2 TinyEngine NPU を搭載した MSPM0G5187
  6. 3 エッジ AI ツールチェーン
    1. 3.1 TI Edge AI Studio
    2. 3.2 TI Tiny ML Tensorlab
    3. 3.3 TI ニューラル ネットワーク コンパイラ
  7. 4 TI Edge AI Studio による迅速なプロトタイピング
    1. 4.1 プロジェクトの設定
    2. 4.2 データ キャプチャ
      1. 4.2.1 ハードウェア設定
      2. 4.2.2 機能の概要
    3. 4.3 データのインポート
      1. 4.3.1 分類タスク
      2. 4.3.2 回帰タスク
      3. 4.3.3 予測タスク
      4. 4.3.4 アノテーション リスト
    4. 4.4 データ アノテーション
    5. 4.5 モデルのトレーニング
      1. 4.5.1 トレーニング パラメータ
      2. 4.5.2 ツールチェーンの依存関係
    6. 4.6 パフォーマンス レポート
    7. 4.7 モデルのエクスポート
  8. 5 TI Tiny ML Tensorlab による高度な開発
    1. 5.1 環境設定
    2. 5.2 データ収集
      1. 5.2.1 データの取得
      2. 5.2.2 データの検証
    3. 5.3 モデル アーキテクチャの反復リファクタリング
      1. 5.3.1 ベースライン実装
      2. 5.3.2 PyTorch 組み込みモジュールによるリファクタリング
      3. 5.3.3 データ パイプラインの最適化
      4. 5.3.4 CNN アーキテクチャへの移行
    4. 5.4 モデルのエクスポート
    5. 5.5 量子化対応トレーニング
    6. 5.6 モデルのコンパイル
  9. 6 エッジ AI アプリケーション：数字認識
    1. 6.1 LeNet–5 バリアント CNN モデル
    2. 6.2 NPU/CPU の性能比較
  10. 7 エッジ AI アプリケーション：波形分類
    1. 7.1 特徴抽出
    2. 7.2 時系列分類モデル
    3. 7.3 モデル メモリに関する検討事項
    4. 7.4 NPU/CPU の性能比較
  11. 8 まとめ
  12. 9 参考資料
  13. 10改訂履歴

7.3 モデル メモリに関する検討事項

リソースに制約のある組込みプラットフォーム上でエッジ AI 設計を開発するには、アルゴリズムの性能 (精度、レイテンシ)、不揮発性ストレージ (フラッシュ / ROM)、ランタイム メモリ (SRAM) という 3 つの要素を厳密にトレードオフしながら最適化する必要があります。

  • アルゴリズムのパフォーマンス：推論の精度とレイテンシの両方が含まれます。これらは主に、ネットワークの深さ、レイヤ幅、演算子の複雑さなどのモデル アーキテクチャによって形成されます。
  • 静的ストレージ メモリ (フラッシュ/ROM)：これは主にモデルのパラメータの合計数 (重みとバイアス) によって決まります。完全に量子化された INT8 パイプラインでは、各パラメータはちょうど 1 バイトのフラッシュ ストレージに直接マップされます。そのため、チャネル幅が拡張されたより深いネットワークでは、静的バイナリ サイズが線形的に増加します。場合によっては、入力となる特徴の次元の変化が、この静的メモリ使用量に影響を与えることがあります (たとえば、完全に接続されたレイヤー)。
  • 動的ランタイム メモリ (SRAM/RAM)：これは、入力した特徴のサイズと、中間層をまたぐ活性化テンソル (特徴マップ) によって制御されます。時系列スライスがネットワークを介して伝播するとき、処理コアはレイヤの入力と出力を格納するために一時的なワークスペースを割り当てる必要があります。入力時間ウィンドウが長いか、特徴の次元が大きいと、このピーク ランタイム RAM 要件が指数関数的に増大します。

このようにハードウェアの現実的な制約があるため、エッジ環境への展開では従来の精度重視の考え方から脱却する必要があります。展開を成功させるには、静的フラッシュおよびピーク時の動的 SRAM という厳しい物理的な制約と、未加工モデルのパフォーマンスとの間で、きめ細かくバランスを取る必要があります。

この関係を説明するために、表 7-5 では、さまざまなモデル サイズと入力した特徴の構成に対して波形分類のメモリ フットプリントとリソース使用率を定量化しています (Edge AI Studio 1.6.1 クラウド バージョンでテスト)。

表 7-5 モデル メモリ解析
モデル バリアント (パラメータ)フラッシュ (ROM) のサイズRAM サイズ、入力 = 64RAM サイズ、入力 = 128RAM サイズ、入力 = 256
TimeSeries_Generic_1K約 5.6 KB約 2.7 KB約 5.3 KB約 10.4 KB
TimeSeries_Generic_4K約 9.9 KB約 1.2 KB約 1.7 KB約 2.7 KB
TimeSeries_Generic_13K約 21.4 KB約 2.3 KB約 3.3 KB約 5.3 KB

すべての入力次元において、最小モデル (TimeSeries_Generic_1K) は、大規模モデル (TimeSeries_Generic_4K および TimeSeries_Generic_13K) の 2 倍から 4 倍のランタイム RAM を消費します。一見直感に反するこの挙動は、パラメータ数とランタイム メモリが根本的に異なるアーキテクチャ設計に基づいているという事実に起因します。1K モデルは、初期にダウン サンプリングしない浅いトポロジを使用しているため、高分解能の大きな特徴マップが中間レイヤー全体のメモリに保持されます。これとは対照的に、4K と 13K のモデルは、ネットワークのフロントエンドにストライド付き畳み込みを用いた深いアーキテクチャを採用しているため、時間次元が直ちに縮減され、中間のランタイム テンソルのサイズが大幅に小さくなります。