Skip to content

anoken/modulellm_maniax

Repository files navigation

ModuleLLM_MAniaX

「ModuleLLM_MAniaX 」のサポートページです。

image

訂正とお詫びのお知らせ

訂正とお詫びのお知らせ

紹介

著者 aNo研
A5サイズ・156ページ (148mm×210mmx9mm)

M5StackのModule-LLM(LLMモジュール)は、AXERA社のAX630Cを搭載したコンパクトなモジュールです。このモジュールは大規模言語モデル(LLM)を実行できるだけでなく、CNN(畳み込みニューラルネットワーク)やTransformerなどのAIモデルを高性能NPU(ニューラルプロセッシングユニット)で処理することができます。
本書ではModule-LLMの基本的な使い方から、画像処理やモデル変換といった応用テクニックまで、幅広く解説しています。

EdgeAIとEdgeLLMの可能性を、当書籍とModule-LLMを通じて体験してみませんか?

・サポートページ: https://github.com/anoken/modulellm_maniax

・電子書籍:BOOTHで取り扱っています。https://anoken.booth.pm/items/6642202
・書籍:スイッチサイエンスで取り扱っています。https://www.switch-science.com/products/10307

改定履歴

・v1.3.0版発行: 2025年4月14日 本文161ページ、誤記訂正。
・v1.2.0版発行: 2025年4月13日 本文161ページ、誤記訂正、「Module-LLM Kit」に関する追記。
・v1.1.0版発行: 2025年4月08日 本文161ページ、誤記訂正。
・v1.0.0版発行: 2025年2月27日 本文155ページ

目次

第1 章Module-LLM の紹介
1.1 M5Stack Module-LLM とは
1.2 M5Stack LLM630 Compute Kit とは
1.3 M5Stack とは
1.4 AXERA 社とは
1.5 AXERA AX630C とは

第2 章Module-LLM をつかってみよう
2.1 Module-LLM とデバッグボードを繋ぐ
2.1.1 Module-LLM とデバッグボードの接続方法
2.2 ADB ツールを使ってログインする
2.3 Module-LLM でL チカ
2.3.1 Module-LLM のLED の役割
2.3.2 L チカをしてみる
2.3.3 Python からLED を制御する
2.4 Module-LLM の起動音の消し方
2.5 Module-LLM へファイル転送
2.6 Samba で共有フォルダを作る
2.7 メモリが足りない場合の対処
2.8 ファームウェアの更新手順
2.9 WSL2 のインストール

第3 章StackFlow を使ってみよう
3.1 StackFlow とは?
3.2 StackFlow のdeb パッケージについて
3.3 StackFlow の起動と停止
3.4 StackFlow のインストール
3.5 StackFlow をPython から使ってみよう
3.6 StackFlow のllm-sys ユニットとは?
3.7 StackFlow からリセットをかける
3.8 StackFlow からLinux コマンド実行
3.9 StackFlow でLLM の推論をする
3.10 StackFlow でMeloTTS から発音を行う
3.11 StackFlow でWhisper から音声認識
3.12 StackFlow をビルドするには

第4 章Python でNPU 推論
4.1 PyAXEngine とは?
4.2 PyAXEngine のインストール
4.3 MobileNetV2 の推論
4.4 YOLO11 の推論
4.5 DepthAnything の推論
4.6 USB カメラからの動画取得
4.7 USB カメラからのDepthAnything 推論

第5 章C++ でNPU 推論
5.1 C++ 開発環境の準備
5.2 ライブラリのインストール
5.3 DepthAnything の推論プログラムの作成
5.4 USB カメラの画像をストリーミング配信する
5.5 USB カメラからのDepthAnything 推論
5.6 ax-samples のCV サンプルのビルド手順
5.7 OpenCV-Mobile のビルド手順

第6 章Pulsar2 でモデル変換
6.1 量子化とは?
6.2 Pulsar2 ToolChain の概要
6.3 Pulsar2 のインストール
6.4 ライブラリのインストール
6.5 サンプルデータのダウンロード
6.6 MobileNetV2 モデルの変換
6.7 YOLO11 モデルの変換
6.8 行列計算モデルの変換
6.9 Pulsar2 が対応しているONNX オペレータ

第7 章Pulsar2 でLLM モデルを変換
7.1 TinySwallow-1.5B とは?
7.2 huggingface_hub のインストール
7.3 TinySwallow-1.5B モデルのダウンロード

Copyright (c) 2025 aNoken

About

No description, website, or topics provided.

Resources

License

Stars

Watchers

Forks

Packages

No packages published