概要

TIDL は、TDA4x と AM6xA シリーズのプロセッサ上で動作する TI の AI 推論フレームワークであり、内蔵の C7xMMA AI アクセラレータを活用して効率的な AI モデル推論を実現します。C7xMMA は、専用の AI 推論アクセラレータであり、複雑なアーキテクチャを採用しています。TIDL 推論フレームワークは、リソース割り当てを広範に最適化して使用効率を最大化していますが、モデルの推論中もメモリ帯域幅の消費を引き続き大きく発生させることができます。推論リソースをさらに活用し、メモリ使用量を削減するには、TIDL で動作するモデルに追加の最適化が必要です。このドキュメントは、DDR の帯域幅消費を低減するためのモデル最適化方法について詳しく説明しています。