機械学習(ML)モデルの実行は、強力な計算リソースが必要になるため、PCやクラウドサーバなど大規模なリソースを有する環境で行われていた。しかし近年では、組み込みシステムにおけるAIやMLアプリケーションも急速に進化している。特に、モノのインターネット(loT)や組み込みシステムの分野での活用が広がりを見せている。
この背景には、コンピュータアーキクチャの発展とソフトウェアツールの進歩がある。ビデオや画像データでディープラーニングMLモデルを利用するアプリケーションでは、高い性能と大容量のメモリが求められるが、これに対応するためには、組み込みシステム向けのNPU(Neural network Processing Unit)で、プロセッサの処理能力を向上させる必要がある。また、低消費電力化と効率的なソフトウェア開発環境も求められる。
本資料では、エッジ領域で実行される組み込みシステム向けのAI/MLモデル構築において重視すべきポイントを解説する。理想的なAIソフトウェア開発環境の在り方についても言及しているので、ぜひ資料を確認していただきたい。