2026年8月14日
10年前のRaspberry Pi 3で生成AI ANGEWORKが低スペック向けAI技術を実証
配信元企業：株式会社ANGEWORK
note記事URL：ESP32でLLMが動くならラズパイでも？n年前の旧型でもこいつ、動くぞ？
https://note.com/angework/n/nfc3d712f9709
note記事URL：ラズパイ３はレベルアップした！会話を覚えた！賢さが１上がった！
https://note.com/angework/n/na4c019ec9c62
■発表の背景
PCやスマートフォンでLLMが動作する一方、今回ANGEWORKでは、より性能やメモリに制約のある環境でAIをどこまで動作させられるかを検証しました。使用したのはRaspberry Pi 3 Model Bです。RAMは1GBで、記事では約10年前の旧型機として紹介しています。
今回の目的は、古い機器を使うこと自体ではありません。限られたCPU・メモリ環境でも、モデル選定やソフトウェア側の最適化によってAIを成立させられるかを確認し、その過程を公開することです。
■公開した内容
1本目の記事「ESP32でLLMが動くならラズパイでも？n年前の旧型でもこいつ、動くぞ？」では、ESP32向けに公開されている超小型AI「esp32-ai / TinyStories」をRaspberry Pi 3へ移植し、動作と高速化を検証しました。
初期状態では31.22 tok/sだった生成速度に対し、4bit重みのint8事前展開、ARM NEONを使ったSIMD最適化、処理時間のプロファイルによるボトルネック分析などを行い、最終的に195.81 tok/sまで高速化しました。同一ハード・同一モデルで約6.3倍の性能向上を確認しています。
高性能な新しいハードウェアへ置き換えたのではなく、処理方法や実装を見直すことで性能を引き出した点が、この検証の特徴です。
2本目の記事「ラズパイ３はレベルアップした！会話を覚えた！賢さが１上がった！」では、物語生成だけでなく会話を目的として、複数の小型LLMをRaspberry Pi 3上で比較しました。
検証した主なモデルは、SmolLM2-135M-Instruct、SmolLM2-360M-Instruct、Qwen2.5-0.5B-Instruct、LFM2-350Mです。RAM 1GBという制約の中でも各モデルは動作し、モデルによっては日本語で会話として成立する回答も確認できました。
一方で、算数や厳密な指示への追従には限界があり、「動くこと」と「使えること」は別であることも確認しています。記事では生成速度、RAM使用量、日本語品質、指示追従などを比較し、モデルごとの違いを紹介しています。
■主な特徴
今回の検証では、単に「Raspberry PiでAIが動いた」という結果だけでなく、次の開発工程を公開しています。
・既存の推論コードを読み、別ハードウェアへ移植
・実測データから遅い処理を特定
・メモリ上のデータ形式を見直して高速化
・CPUの命令セットを利用して演算効率を改善
・複数の小型AIモデルを同一環境で比較
・速度だけでなく、日本語応答や指示への追従も評価
技術的には、int8 staging、ARM NEONによるSIMD最適化、プロファイリング、量子化モデルの比較などを行っています。
専門的な用語を使わずに表現すると、「限られた性能の機器でも、処理方法を分析して無駄を減らし、その機器に合ったAIと実装方法を選ぶ」技術検証です。
■企業にとっての活用イメージ
実際のAI導入では、利用できるCPU、メモリ、電力、ネットワークなどに制約がある場合があります。今回の検証は、こうした条件下でAI実装を検討する際の技術的な考え方を示すものです。
例えば、次のような相談を想定しています。
・既存機器にAI機能を追加できるか検討したい
・クラウドへ常時接続せず、端末側でAIを動かしたい
・GPUを搭載しにくい小型機器でAIを利用したい
・IoT機器や製造設備で小型AIを活用したい
・限られたCPUやメモリの範囲で、どのAIモデルが適するか調べたい
今回のRaspberry Pi 3は、そのための技術検証の一例です。
すべてのAI用途が低スペック機器で実用化できるわけではなく、必要な精度、応答速度、モデルサイズなどに応じた設計と評価が必要です。
■関連技術
ANGEWORKでは、Raspberry Piを使った今回の検証のほか、スマートフォンへのローカルAI組み込みにも取り組んでいます。
関連ページとして、iPhone向けローカルAI「LocaPhone」を公開しています。
LocaPhone：
https://angework.co.jp/products/LocaPhone/
小型機器やスマートフォンなど、利用条件に合わせたAI実装について、技術相談・PoC・受託開発に対応します。
■今後の展開
ANGEWORKでは今後も、用途や実行環境に応じてAIモデル、推論方式、処理構造を選定し、限られた計算資源でも実用性を高めるための技術検証を進めます。
「この機器でAIを動かせるか」
「クラウドを使わずにAIを導入したい」
「既存設備にAI機能を追加したい」
といった相談について、PoCや技術検証、受託開発に対応します。
■株式会社ANGEWORKについて
株式会社ANGEWORKは、AI、点群処理、AR、3DCG、医療・研究開発支援などの技術開発を行っています。
株式会社ANGEWORK
（読み方：エンジェワーク）
本社所在地：東京都千代田区神田練塀町73番地 プロミエ秋葉原703
URL：
https://angework.co.jp/
設立：2011年4月
