～ ローカル言語モデルとRAGの組み合わせ、Transformerの構造理解、事前学習の具体的な方法、GPTを利用した独自データの文書識別、マルチモーダル (Vision & Language) の仕組みと利用 ～
・マルチモーダル化が進むＬＬＭの最新技術を先取りし、システム開発に応用するための講座
・ＤｉｆｙとＲＡＧを利用した質問応答システムの実装方法やＬｏＲＡ、ＢＥＲＴにおけるチューニング技術などを修得し、高機能なシステム開発に活かそう！
・ＷＥＢ会議システムの使い方がご不明の方は弊社でご説明いたしますのでお気軽にご相談ください。
近年、TransformerのDecoder部分で事前学習を適用したGPTおよびChatGPTが各言語で、自然な応答返したり、試験に解答したり、会話やプログラムを生成することが話題になり、自然言語処理研究者だけでなく、多くの実務に関係する人々の興味を集めています。本講義では、ChatGPTをはじめとしたAPIによる大規模言語モデルの利用例について説明した後、その中心的な機構の解説と実装について具体的に説明します。さらに、Downloadして利用可能なローカル言語モデルが多数公開されており、手持ちのデータを組織内のパソコンで大規模言語モデルに適用できるようになりました。大規模言語モデルに独自データを一時的に読み込ませて回答するRAGにより、組織内の文書に対して高いレベルの質問応答システムの構築が組織内で構築することも可能になってきました。
本講義ではビジュアルなツールであるDifyを利用してローカルな言語モデルを使ったRAGの構築例について説明します。また、ローカル言語を学習させる方法としてLoRAが開発されたことから、GPUのメモリが限られている状況でも手持ちのデータで大規模言語モデルをfine-tuneできるようになりました。本講義ではLoRAの実装例、およびどの程度のGPU環境が必要かなど明らかにしたいと思います。また、マルチモーダルが発展しており、最新の内容を解説する予定です。講義では、LinuxとPythonを利用したデモを行いますが、特に深い知識は必要ありません。この講義を通してGPTモデルの発展の理解を深めることで皆様がお持ちになる課題の解決の一助となることを願っています。
| 開催日時 |
|
|---|---|
| 開催場所 | オンラインセミナー |
| カテゴリー | オンラインセミナー、ソフト・データ・画像・デザイン |
| 受講対象者 |
・自然言語処理、GPTの応用に興味がある方 ・自然言語処理が必要になった技術者の方 ・言語処理まわりの課題を既にお持ちになっていて、処理手法の選択肢を広げたい方 ・RAGの実装例や質問応答をうまく作成するポイントを知りたい方 ・ローカルな言語モデルでDifyを利用してAPIによる費用が発生せずにRAGを構築したい方 ・GPTやBERTを利用して独自のデータを学習させたい方 ・画像になっている文書を大規模言語モデルに適用する手法を学びたい方 |
| 予備知識 |
・予備知識は特に仮定しませんが、深層学習に関連した具体的なプログラムをパソコン上で利用した経験があるとより具体的な部分が理解しやすいです |
| 修得知識 |
・自然言語処理においてGPTおよびChatGPTの機構および応用の範囲を俯瞰的に理解することができます ・ローカルな言語モデルとRAGを利用した質問応答システムの実装方法 ・GPTに対して学習するLoRAの実装やBERTにおけるfine-tuningなどを用いて文をベクトル化する手法について理解し、どのような拡張可能性があるかを理解することができます |
| プログラム |
１．大規模言語モデル (LLM) による言語処理を中心とした発展 ２．ローカルな生成系言語モデルの展開とRAG （DifyとOllamaを利用） ３．Transformerの構造の理解 ４．事前学習モデルの成立要因 （言葉理解の鍵となる要素とは） ５．GPTを利用した独自データの文書識別 （コード例を含む） ６．BERTを利用した独自データの文書識別 （コード例を含む） ７．マルチモーダル (Vision & Language) の仕組みと利用 ８．全体のまとめ ９．質疑応答 |
| キーワード | 大規模言語モデル クローズド言語モデル GPT プロンプト RAG ReACT マルチモーダル Dify Ollama Transformer トークン化 Byte Pair Encoding Attention機構 自己符号化 分布仮説 BERT LoRA Vision & Language V & L CLIP VILA |
| タグ | AI・機械学習、コンテンツ、ソフト管理、ソフト教育、データ解析、画像処理、ITサービス |
| 受講料 |
一般 (1名)：49,500円(税込)
同時複数申込の場合(1名)：44,000円(税込) |
| 会場 |
オンラインセミナー本セミナーは、Web会議システムを使用したオンラインセミナーとして開催します。 |
営業時間 月~金：9:00～17:00 / 定休日：土日・祝日
