llm-internals
記事や動画を通じてLLMの概念、トークン化、Attentionを段階的に解説し、言語モデルがテキストを処理する仕組みを学べる資料です。
Xで共有ライセンス: Apache-2.0
概要
LLM Internalsは、大規模言語モデルがテキストを処理し、応答を生成する仕組みを段階的に学ぶための資料です。LLMを使うだけでなく、その仕組みを理解できるよう、記事と動画へのリンクで解説します。LLMの基本概念から始まり、トークン化、BPE、停止トークン、Query・Key・Valueを使ったAttentionの数式まで扱います。説明を順に読み、関連動画も見ながら学べます。
主な特長
- LLMと、RAG、MCP、エージェント、ファインチューニング、量子化などの関連概念を紹介します。
- 文字単位・単語単位・サブワード単位のトークン化、BPE、トークンID、デコードを解説します。
- 停止トークンと、生成テキストやチャットのターンにおける役割を扱います。
- 数値例を使ってQuery、Key、ValueによるAttentionの計算を順に説明します。
こんな人・用途に
LLMがテキストを処理する仕組みを、概念ごとに理解したい人に役立ちます。LLMを使うだけでなく、記事や動画の解説を通じて学びたいときに向いています。
- アップストリーム
- amitshekhariitbhu/llm-internals
- GitHubのフォーク
- Guo-astro/llm-internals
- アップストリームのスター数
- 1.7k
- カテゴリ
- 学習・面接対策・厳選リスト
- ライセンス
- Apache-2.0
- フォーク日
- 2026-10-03
- 同期状態
- 同期済み最終同期 2026-10-11
同じカテゴリ: 学習・面接対策・厳選リスト
本やPDFなどを出典付きの学習ページに変換する、複数のエージェント環境で使える学習スキルです。教材の理解、メモ、学習内容の確認に役立ちます。
フォーク日 2026-10-10最終同期 2026-10-11ライセンス: MIT学習・面接対策・厳選リストGitHub
清華大学コンピュータ系の学生向けに、授業資料や参考書をまとめたコミュニティ運営の攻略ガイドです。学習資料や授業情報を探す際に利用できます。
フォーク日 2026-10-10最終同期 2026-10-11ライセンス: CC-BY-SA-4.0学習・面接対策・厳選リストGitHub
自分で学ぶためのJupyterノートブック本です。Pythonと実践を通じて学び方を整理します。
フォーク日 2026-10-08最終同期 2026-10-11ライセンス表記なし学習・面接対策・厳選リストGitHub
機械学習システムの理論・実装・制約を一つのカリキュラムで学び、AI開発の設計と評価を支える教材です。
フォーク日 2026-10-07最終同期 2026-10-11独自ライセンス(リポジトリを参照)学習・面接対策・厳選リストGitHub