【DeepLearning研修】Transformerの基礎と応用 -- 第2回 Transformerの言語での応用

Опубликовано: 17 Июль 2026
на канале: nnabla ディープラーニングチャンネル

2,240

本動画は「    • 【DeepLearning研修】Transformerの基礎と応用   」の第2回の動画です。Transformerの言語での応用について、大規模言語モデルの事前学習と事後学習を中心に説明しています。
資料はslideshareで公開しています（https://www.slideshare.net/slideshow/...

【参考文献】
・A Survey of Large Language Models
https://arxiv.org/abs/2303.18223
・GPT-4 Technical Report
https://arxiv.org/abs/2303.08774
・The Dawn of LMMs: Preliminary Explorations with GPT-4V(ision)
https://arxiv.org/abs/2309.17421
・awesome-japanese-llm
https://github.com/llm-jp/awesome-jap...
・IBIS2023チュートリアル「大規模言語モデル活用技術の最前線」
https://speakerdeck.com/1never/ibis20...
・2023年度統計関連学会連合大会チュートリアルセッション「大規模言語モデル」
https://speakerdeck.com/chokkan/llm
・2024年度人工知能学会全国大会チュートリアル「大規模言語モデルの開発」
https://speakerdeck.com/chokkan/jsai2...

ソニーが提供するオープンソースのディープラーニング（深層学習）フレームワークソフトウェアのNeural Network Libraries（ https://nnabla.org/, https://github.com/sony/nnabla/ ）に関連する情報を紹介する動画チャンネルを開設しました（    / nnabla   ）。Neural Network Librariesのチュートリアル・Tipsに加え、最先端のディープラーニングの技術情報（講義、最先端論文紹介）などを発信していきます。チャンネル登録と応援よろしくおねがいします！

同じくソニーが提供する直感的なGUIベースの深層学習開発環境のNeural Network Console（ https://dl.sony.com/ ）が発信する大人気のYouTubeチャンネル（    / @neuralnetworkconsole   ）でもディープラーニングの技術講座やツールのチュートリアルを多数公開しています。こちらもチャンネル登録と応援よろしくおねがいします。