【NEWS】EveryonesLLMを公開しました。

「東大AI研究会、Google Colabのみで大規模言語モデルを実装・学習できる教材『EveryonesLLM』

を公開」

学生団体「東大AI研究会」は、Google Colab上で大規模言語モデルのスクラッチ実装から学習まで

を行い、実際に会話可能な自然言語モデルを作成できる教材「EveryonesLLM」を公開しました。

EveryonesLLMは、大規模言語モデルの仕組みを実装を通して学ぶための実践的演習教材です。

600問以上の穴埋め形式の課題を通じて、DataLoader、Embedding、Attention、Transformer、

Trainer、Pretraining、Instruction Tuningなど、大規模言語モデルを構成する要素と学習プロセスを

段階的に学ぶことができます。

本教材の特徴は、Google Colab上で完結しながら、単なる小規模デモやTransformer実装に留まら

ず、最終的に会話可能なモデルの作成まで扱っている点です。これにより、学習者は大規模言語モ

デルの基本構造だけでなく、モデルを学習し、応答可能な形へ育てるまでの一連の流れを体験でき

ます。

各章にはGoogle Colabノートブックが用意されているため、環境構築の負担を抑えながら学習を進

めることができます。さらに、モデル全体の構造を俯瞰できる「Tensor Map」も提供しており、実装と

可視化の両面から理解を深められる構成となっています。

EveryonesLLMは、以下のGitHubリポジトリより公開しています。

EveryonesLLM GitHub Repository

<謝辞>

本プロジェクト「EveryonesLLM」は、株式会社NTTデータMSE様のご支援のもと、学生団体「東大AI

研究会」によるOSSプロジェクトとして完成しました。

本教材の作成にあたり、温かいご支援とご協力をいただいた株式会社NTTデータMSE様に、心より

感謝申し上げます。