「ModuleLLM_MAniaX 」のサポートページです。
著者 aNo研
A5サイズ・156ページ (148mm×210mmx9mm)
M5StackのModule-LLM(LLMモジュール)は、AXERA社のAX630Cを搭載したコンパクトなモジュールです。このモジュールは大規模言語モデル(LLM)を実行できるだけでなく、CNN(畳み込みニューラルネットワーク)やTransformerなどのAIモデルを高性能NPU(ニューラルプロセッシングユニット)で処理することができます。
本書ではModule-LLMの基本的な使い方から、画像処理やモデル変換といった応用テクニックまで、幅広く解説しています。
EdgeAIとEdgeLLMの可能性を、当書籍とModule-LLMを通じて体験してみませんか?
・サポートページ: https://github.com/anoken/modulellm_maniax
・電子書籍:BOOTHで取り扱っています。https://anoken.booth.pm/items/6642202
・書籍:スイッチサイエンスで取り扱っています。https://www.switch-science.com/products/10307
・v1.3.0版発行: 2025年4月14日 本文161ページ、誤記訂正。
・v1.2.0版発行: 2025年4月13日 本文161ページ、誤記訂正、「Module-LLM Kit」に関する追記。
・v1.1.0版発行: 2025年4月08日 本文161ページ、誤記訂正。
・v1.0.0版発行: 2025年2月27日 本文155ページ
第1 章Module-LLM の紹介
1.1 M5Stack Module-LLM とは
1.2 M5Stack LLM630 Compute Kit とは
1.3 M5Stack とは
1.4 AXERA 社とは
1.5 AXERA AX630C とは
第2 章Module-LLM をつかってみよう
2.1 Module-LLM とデバッグボードを繋ぐ
2.1.1 Module-LLM とデバッグボードの接続方法
2.2 ADB ツールを使ってログインする
2.3 Module-LLM でL チカ
2.3.1 Module-LLM のLED の役割
2.3.2 L チカをしてみる
2.3.3 Python からLED を制御する
2.4 Module-LLM の起動音の消し方
2.5 Module-LLM へファイル転送
2.6 Samba で共有フォルダを作る
2.7 メモリが足りない場合の対処
2.8 ファームウェアの更新手順
2.9 WSL2 のインストール
第3 章StackFlow を使ってみよう
3.1 StackFlow とは?
3.2 StackFlow のdeb パッケージについて
3.3 StackFlow の起動と停止
3.4 StackFlow のインストール
3.5 StackFlow をPython から使ってみよう
3.6 StackFlow のllm-sys ユニットとは?
3.7 StackFlow からリセットをかける
3.8 StackFlow からLinux コマンド実行
3.9 StackFlow でLLM の推論をする
3.10 StackFlow でMeloTTS から発音を行う
3.11 StackFlow でWhisper から音声認識
3.12 StackFlow をビルドするには
第4 章Python でNPU 推論
4.1 PyAXEngine とは?
4.2 PyAXEngine のインストール
4.3 MobileNetV2 の推論
4.4 YOLO11 の推論
4.5 DepthAnything の推論
4.6 USB カメラからの動画取得
4.7 USB カメラからのDepthAnything 推論
第5 章C++ でNPU 推論
5.1 C++ 開発環境の準備
5.2 ライブラリのインストール
5.3 DepthAnything の推論プログラムの作成
5.4 USB カメラの画像をストリーミング配信する
5.5 USB カメラからのDepthAnything 推論
5.6 ax-samples のCV サンプルのビルド手順
5.7 OpenCV-Mobile のビルド手順
第6 章Pulsar2 でモデル変換
6.1 量子化とは?
6.2 Pulsar2 ToolChain の概要
6.3 Pulsar2 のインストール
6.4 ライブラリのインストール
6.5 サンプルデータのダウンロード
6.6 MobileNetV2 モデルの変換
6.7 YOLO11 モデルの変換
6.8 行列計算モデルの変換
6.9 Pulsar2 が対応しているONNX オペレータ
第7 章Pulsar2 でLLM モデルを変換
7.1 TinySwallow-1.5B とは?
7.2 huggingface_hub のインストール
7.3 TinySwallow-1.5B モデルのダウンロード
Copyright (c) 2025 aNoken