Transformer(深層学習モデル)の基礎と自然言語処理への応用とそのポイント <オンラインセミナー>

~ RNNに基づくエンコーダ・デコーダモデル、Transformerの長所・短所と各コンポーネント、自然言語処理への応用ポイント ~

・高精度な自然言語処理を実現するためのTransformerモデルとその活用ポイントを習得し、各種製品・システムの開発に応用するための講座

・TransformerおよびBERTモデルを含めた最新の学習モデルまでを学び、付加価値の高い製品・サービスの開発に活かそう!

オンラインセミナーの詳細はこちら:

https://www.j-techno.co.jp/オンラインセミナーのご案内/

・WEB会議システムの使い方がご不明の方は弊社でご説明いたしますのでお気軽にご相談ください。

講師の言葉

 人工知能の各分野において近年注目を集めている深層学習モデル「Transformer」について解説します。Transformerモデルは、機械翻訳や自動要約、対話システムなど自然言語処理の様々なタスクで従来モデルの性能を凌駕し、今ではデファクトスタンダードなモデルになりつつあります。そのTransformerについて基礎から解説します。また、典型的なTransformerモデルの解析にとどまらず、自然言語処理の事前学習に応用したBERTモデルを含めた、最新の事前学習モデルや種々のタスクへの適用方法も概説します。

セミナー詳細

開催日時
  • 2022年08月04日(木) 10:30 ~ 17:30
開催場所 オンラインセミナー
カテゴリー オンラインセミナーソフト・データ・画像・デザイン
受講対象者 ・自然言語処理およびその処理技術についての関心や課題をお持ちの方
・Transformerに関心のある技術者の方
・システム、ソフト、データ処理関連の技術者の方
予備知識 ・ニューラルネットワークとは何か、順伝搬型ニューラルネットワーク、活性化関数、誤差逆伝搬の概要についての予備知識があると理解が深まります
修得知識 ・Transformerの仕組み、基礎知識を習得できます。また、Transformerをどのように自然言語処理に応用するのかを習得できます
プログラム

1.基礎知識

  (1).順伝搬型ニューラルネットワーク

  (2).活性化関数

 

2.RNNに基づくエンコーダ・デコーダモデル

  (1).RNN

  (2).エンコーダ・デコーダモデル

  (3).RNNに基づくエンコーダ・デコーダモデル

  (4).注意機構の導入

 

3.Transformer

  (1).Transformerの概要

  (2).Transformerの長所

  (3).Transformerの短所

  (4).Transformerの各コンポーネント

    a.位置エンコーディング

    b.注意機構

    c.順伝搬層

    d.残差接続と層正規化

 

4.Transformerの自然言語処理への応用

  (1).系列変換タスクへの応用

  (2).系列変換タスク以外への応用

  (3).事前学習モデル

    a.BERT

    b.BERTの拡張モデル

キーワード 自然言語処理 深層学習 RNN 誤差逆伝搬 エンコーダモデル デコーダモデル 事前学習モデルTransformer BERT
タグ AI・機械学習コンテンツソフト管理データ解析ITサービス
受講料 一般 (1名):49,500円(税込)
同時複数申込の場合(1名):44,000円(税込)
会場
オンラインセミナー
本セミナーは、Web会議システムを使用したオンラインセミナーとして開催します。
contact us contact us
各種お問い合わせは、お電話でも受け付けております。
03-5322-5888

営業時間 月~金:9:00~17:00 / 定休日:土日・祝日