2026年7月21日
ANGEWORK、iPhone 16 Pro上でGemma 4 E2Bの完全オフライン動作に成功
配信元企業：株式会社ANGEWORK
今回の検証では、モデルを起動するだけではなく、SwiftUIによる会話画面の作成、モデルのアプリ内同梱、実機起動時のクラッシュ対応、日本語入力の調整、会話履歴のローカル保存まで実装しました。
開発した検証用アプリでは、モデルの推論処理がiPhone上で完結します。モデルをアプリへ同梱しているため、インストール後はネットワークへ接続しなくても、日本語による質問と回答を行うことができます。
【iPhone上で複数の日本語応答を確認】
実機検証では、以下のような複数の質問を連続して入力し、端末内だけで回答を生成できることを確認しました。
・短い日本語会話
・ビジネス文章の丁寧な言い換え
・旅行などの持ち物リスト作成
・文章の整理
・定型的な案内文の生成
高度な推論や長文生成、長時間にわたる自由会話には制約があるものの、用途を限定した短い日本語会話であれば、スマートフォン上でも利用できる可能性があります。
受付、施設案内、入力支援、FAQ応答、ゲーム内キャラクターとの会話など、短く範囲が明確な処理との相性が良いと考えています。
【検証環境】
今回の主な検証環境は以下のとおりです。
・実機：iPhone 16 Pro
・モデル：Gemma 4 E2B Instruct
・モデル形式：LiteRT-LM向けモデル
・ランタイム：LiteRT-LM
・ユーザーインターフェース：SwiftUI
・推論処理：端末内のみ
・会話履歴：端末内へ保存
・ネットワーク通信：推論時は不要
今回使用したモデルファイルのサイズは約2.58GBです。アプリの画面や会話履歴などの機能は、このモデルファイルの容量には含まれていません。
数GB規模の会話モデルをスマートフォンへ同梱し、外部のクラウドサーバーや生成AI APIへ接続せずに動作させられることは、今後のモバイルアプリ開発に新たな選択肢をもたらすと考えています。
【オンデバイスAIのメリット】
一般的なクラウド型生成AIは、入力した情報を外部サーバーへ送信し、サーバー上で推論処理を行います。
一方、オンデバイスAIでは、推論処理をスマートフォンなどの端末内で完結させることができます。
これにより、次のようなメリットが期待できます。
・インターネットに接続できない場所でも利用できる
・入力内容を外部のクラウドへ送信しない
・通信障害やネットワーク遅延の影響を受けにくい
・閉域ネットワークや通信制限のある環境でも利用を検討できる
・クラウドAPIの利用回数や通信量を抑えられる可能性がある
医療、製造、研究、設備保守、公共施設などでは、機密情報や業務情報を外部へ送信しにくい場面があります。
すべての処理をローカルLLMだけで代替できるわけではありませんが、短い案内や入力支援、定型的な文章生成など、処理範囲を限定することで、クラウドへ依存しないAI機能を既存アプリへ組み込める可能性があります。
【向いている用途と制約】
今回の検証から、スマートフォン上のローカルLLMは、次のような用途に適していると考えています。
・受付や施設案内
・定型的なFAQ応答
・入力文章の整理や言い換え
・短文の要約
・簡単なリスト作成
・ゲーム内キャラクターの会話
・通信環境が不安定な場所での操作支援
・機密情報を外部送信しない業務補助
一方、最新情報を取得するには外部データとの連携が必要です。そのため、最新ニュース、株価、周辺店舗の検索などは、端末内のモデルだけでは対応できません。
また、長い資料全体の精密な分析、高度な専門判断、長時間の会話履歴を保持した自由会話、長文を繰り返し生成する処理などにも、現時点では性能やメモリ面の制約があります。
実用化にあたっては、端末性能、モデル容量、生成速度、メモリ使用量、発熱、回答精度などを、用途ごとに検証する必要があります。
【閉域型RAGや既存アプリとの連携も検討】
ローカルLLMと、端末内または社内環境に保存した独自データを組み合わせることで、外部へ情報を送信しない閉域型RAGへの展開も考えられます。
例えば、施設案内、製品マニュアル、作業手順、社内規程、研究資料など、対象範囲を限定した情報を検索し、ローカルLLMが短く回答する仕組みです。
ただし、RAGを端末内で動作させる場合には、文書検索、埋め込み処理、データ容量、モデル形式、メモリ使用量なども含めた設計が必要です。
株式会社ANGEWORKでは、今回の実機検証を基に、次の技術開発を進めてまいります。
・生成速度の改善
・メモリ使用量の削減
・用途別プロンプトの設計
・初回導入手順の簡略化
・既存iOSアプリへのAI機能の組み込み
・アプリ内データとの連携
・閉域型RAGとの連携
・医療、製造、研究、設備保守分野への応用検討
本検証は完成したパッケージ製品の発売ではなく、スマートフォン上で動作するローカルLLMの組み込み技術と、業務利用の可能性を確認するための技術開発事例です。
株式会社ANGEWORKでは、端末内で動作するローカルLLM、外部へ情報を送信しない閉域型RAG、用途別のAI調整、既存アプリへのAI組み込みなどの受託開発に対応しています。
本検証の実装内容、モデル容量、生成速度、メモリ使用量、適した用途や制約などの詳細は、弊社note記事で紹介しています。
詳細記事：
https://note.com/angework/n/n6e8bc09e8741
実際の動作は、YouTube Shortsで公開しています。
動画URL：
https://www.youtube.com/shorts/wJBeGl4Lbq4
株式会社ANGEWORK
（読み方：エンジェワーク）
本社所在地：東京都千代田区神田練塀町73番地 プロミエ秋葉原703
URL：https://angework.co.jp/
設立：2011年4月
