MicroArchitectures
H.Ueda
Programmer
Mojo from Scratch (近日出版予定)
Python開発者のための実践入門と microgpt 読解
艶雨
【Python 開発者が Mojo でシステムプログラミングと機械学習スタックを学ぶ実践ガイド】
「Python に似ているのに何が違うのか」「LLM の内側をゼロから実装してみたい」──そんなあなたのための一冊です。
■ 本書で学べること ・Mojo の位置づけ・設計思想・Python との本質的な違い ・関数・変数・型・構造体・所有権・メタプログラミング・GPU 対応まで言語仕様を体系的に整理 ・autograd をスカラーレベルからゼロ実装し、GPT の学習ループを動かす ・その実装を Mojo・MAX・PyTorch・MLX の 7 バリエーションで書き直し、速度比較まで実施
■ 実行速度の実測（学習 1000 ステップ、Apple M2 Pro） Python スカラー版：99.5 秒 → Mojo 版：52.0 秒 → PyTorch MPS：12.4 秒 → MLX：3.0 秒 同じアルゴリズムを複数の実装で動かし、速度差の「なぜ」まで解説します。
■ 従来の入門書との違い ① 「動く実装」で理解する：mojo build + llvm-objdump で逆アセンブルを確認し、コンパイラの動作を体感 ② GPT の内側をゼロから作る：Karpathy 氏の microgpt を出発点に embedding・attention・autograd を自前実装 ③ 7 バリエーションで比較する：Python → Mojo → MAX → PyTorch → MLX と段階的に発展させて俯瞰
■ こんな方におすすめ ・Python は使えるが、もっと性能の出るコードを書きたい方 ・LLM の仕組みをフレームワーク任せにせず自分の手で理解したい方 ・静的型・所有権・ネイティブコンパイルを実践的に体験してみたい方
■ 必要な前提知識 Python の基礎（変数・関数・クラスが書けるレベル）。Mojo・MAX・MLX・MLIR は本書で学べます。 深層学習の数学的な前提知識は不要です。
サンプルコード: https://github.com/h3adeu/mojo-from-scratch
有償章を読むには
有償章の閲覧には書籍のご購入が必要です。
プレゼン資料
| タイトル | PPTX | |
|---|---|---|
| Part 1: Mojo とは何か・言語入門 | 📊 PPTX | |
| Part 2: 言語詳細・Python 相互運用 | 📊 PPTX | |
| Part 3: microgpt 実装読解 | 📊 PPTX |
目次
- 1 Mojo とは何か・位置づけ 無料
- 2 作者・誕生の背景・MLIR 無料
- 3 設計思想 — ownership・compile-time・interop 無料
- 4 Python との比較・入口 無料
- 5 最小サンプル main のアセンブリを読む 無料
- 6 言語基礎（1）— 概要・関数・変数 無料
- 7 言語基礎（1）— コンパイル結果のアセンブリを読む 無料
- 8 言語基礎（2）— 型・演算子・制御・エラー 無料
- 9 struct・参照型・パッケージ 無料
- 10 値・所有権・ライフサイクル 無料
- 11 メタプログラミング 無料
- 12 ポインタ・GPU・レイアウト 無料
- 13 Python 相互運用 無料
- 14 Pythonista 向けの読み替えとコード例 無料
- 15 相互運用の実例・導入判断・まとめ 無料
- 16 microgpt とは何か（出典と位置づけ） 無料
- 17 microgpt の仕様 無料
- 18 microgpt の構造 無料
- 19 microgpt の前処理 無料
- 20 microgpt の主要データ構造 無料
- 21 microgpt のユーティリティ関数 無料
- 22 microgpt のモデル本体（gpt） 無料
- 23 microgpt の学習ループ 無料
- 24 microgpt の推論ループ 無料
- 25 microgpt.py を Mojo で書き直す 無料
- 26 MAX を導入する意味 無料
- 27 MAX でコードを書く 無料
- 28 microgpt Mojo 版を MAX で高速化する 無料
- 29 microgpt を PyTorch で書き直す 無料
- 30 microgpt を MLX で書き直す 無料
- 31 まとめ：Mojo と機械学習スタックの全体像 無料