エネルギー効率向上に活かす深層学習モデル軽量化技術および応用とそのポイント <オンラインセミナー>

~ 軽量機械学習モデルの条件、深層学習モデル計算でのエネルギー消費と軽量化モデルの関係、エネルギー効率向上手法、SRAM型/不揮発型Computing in Memoryと機械学習モデルによる消費電力削減のポイント ~

・許容消費電力が少ない、モバイルシステムやエッジAIへの機械学習・深層学習の実装に活かすための講座!

・深層学習の軽量化モデルや、エネルギー効率向上技術を修得し、許容消費電力の少ないエッジ・モバイル・クラウドシステムにおける機械学習、AIの性能向上に活かそう!

オンラインセミナーの詳細はこちら:

・WEB会議システムの使い方がご不明の方は弊社でご説明いたしますのでお気軽にご相談ください。

講師の言葉

 深層学習は従来の機械学習モデルと比較して高次元の情報表現のための大量なモデルパラメータと行列計算を駆使して各段に高い予測精度を誇ります。しかし、各段に大きなモデルパラメータ数とMAC(乗算累積加算計算)計算量が原因で大容量の記憶メモリと並列計算を必要としています。クラウド計算システムにおいても許容消費電力に限界があるため性能向上の制限が発生しています。電池で動作する携帯システムやセンサーシステムにおいてさらに許容消費電力は数桁少ないために、さらに実装可能な機械学習モデルの規模には制限があります。

 つまり、AI Everywhere(どこでもAI)の社会には、クラウドからモバイルシステム、センサーシステムまですべての領域にAIを実現できる軽量化機械学習モデルがスケーラブルに実装されない限り、性能向上は頭打ちです。

 本セミナーでは、そのために欠かすことのできない深層学習の軽量化技術をわかりやすく解説します。その概要でも理解できれば、将来の「どこでもAI」に向けての課題とその解決手段につながると思います。

セミナー詳細

開催日時
  • 2024年09月04日(水) 10:30 ~ 17:30
開催場所 オンラインセミナー
カテゴリー オンラインセミナーソフト・データ・画像・デザイン
受講対象者 機械学習の消費電力削減に関心がある以下の方々
・どこでもAI(センサーからクラウドまでAIが存在する社会)に携わるエンジニアの方
・機械学習の深層学習モデルの軽量化手法、省電力化手法に携わるエンジニアの方
・機械学習の深層学習モデルハードウエア実装関連技術に関心のある技術者の方
予備知識 ・大学1~2年程度の数学知識
・初級レベルの 電気の知識(電流電圧、消費電力、エネルギー)
・初歩的な機械学習の知識(機械学習モデルを使って予測を行ったことがある、など)
修得知識 ・どこでもAI(センサーからクラウドまでAIが存在する社会)の実現に必要な機械学習モデルの条件
・機械学習の深層学習モデルのエネルギー消費課題とその問題を解決する手法
・機械学習の深層学習モデルの軽量化の目的とそのエネルギー効率の面とコストに関する効果
プログラム

1.AI Everywhere(どこでもAI)時代に求められる軽量機械学習モデルの条件

  (1).どこでもAI時代のITシステム構成概要

  (2).どこでもAIのITシステムのサービス可能性

  (3).クラウドシステムのAIの条件

  (4).ゲートウエイ、スマートフォンのAIの条件

  (5).センサーシステムのAIの条件

  (5).クラウドからセンサーシステムまでスケーラブルな機械学習モデル

 

2.クラウドからセンサーシステムまで桁違いの許容エネルギー消費バジェット

  (1).エネルギーと消費電力との違いと関係

  (2).機械学習計算とエネルギーの関係

  (3).エネルギー消費量からくる様々なシステム制限:

    a.クラウドにおける制限

    b.モバイルシステムにおける制限

    c.センサーシステムにおける制限

  (4).機械学習計算のエネルギー効率を高める手法 

 

3.深層学習モデル計算でのエネルギー消費と軽量化モデルの関係

  (1).深層学習モデルネットワークの概要説明

  (2).モデルパラメータの数と必要なメモリ容量

  (3).機械学習計算に必要なデータ移動と消費電力

  (4).深層学習モデルの計算でエネルギーの大半はどこで消費する

  (5).エネルギー消費を削減する手法

 

4.エネルギー効率を上げる様々な手法

  (1).モデルパラメータの表現精度量子化技術

  (2).ネットワークモデルパラメータの2値化表現

  (3).32ビット浮動小数点からの具体的な2値化手法

  (4).モデルネットワークのpruning(刈り取り)手法

  (5).モデルネットワークのチャネルattention(注視)手法

  (6).モデルネットワークの空間attention(注視)手法

  (7).空間とチャネル混合attention(注視)手法

 

5.メモリの中で主要な機械学習処理を実現するComputing in Memory

  (1).Computing in Memoryが求められる背景

  (2).原理(なぜ記憶機能と乗算累積加算機能が兼用できるのか

  (3).機械学習モデルの軽量化との関係

 

6.SRAM型Computing in Memoryと機械学習モデルによる消費電力削減

  (1).SRAM(Static Random Access Memory)とは

  (2).メモリ内で機械学習計算をするSRAMの基本動作

  (3).SRAMをComputing in Memoryとして利用するときの動作

 

7.不揮発型Computing in Memoryと機械学習モデルによる消費電力削減

  (1).不揮発メモリの種類:MRAM、PRAM、RRAM

  (2).メモリ内で機械学習計算をする不揮発メモリの基本動作

  (3).不揮発メモリをComputing in Memoryとして利用するときの動作

 

8.今後の展望

  (1).発表技術事例と実用化状況

  (2).技術と実用化課題

  (3).将来展望

キーワード AI Everywhere クラウド モバイルシステム センサーシステム 深層学習モデル モデルパラメータ メモリ容量 エネルギー消費 深層学習モデルネットワーク SRAM型Computing in Memory 不揮発型Computing in Memory
タグ AI・機械学習エネルギー省エネ
受講料 一般 (1名):49,500円(税込)
同時複数申込の場合(1名):44,000円(税込)
会場
オンラインセミナー
本セミナーは、Web会議システムを使用したオンラインセミナーとして開催します。
こちらのセミナーは現在募集を締め切っております。
次回開催のお知らせや、類似セミナーに関する情報を希望される方は、以下よりお問合せ下さい。
contact us contact us
各種お問い合わせは、お電話でも受け付けております。
03-5322-5888

営業時間 月~金:9:00~17:00 / 定休日:土日・祝日