この AI はサーバーではなく、あなたのブラウザの中で動いています。
WebLLMが WebGPU 経由で端末の GPU を直接使い、LLM の推論をブラウザ内だけで完結させます。API キー不要・通信ゼロ・入力はどこにも送信されません。デスクトップの Chrome / Edge / Safari 推奨。
モデル本体をブラウザにダウンロードして、あなたの端末の GPU で実行します。ダウンロードは初回のみで、2回目以降はブラウザのキャッシュから読み込まれます。
Wi-Fi 環境でのダウンロードをおすすめします
量子化済みのモデル本体(数百MB〜)を CDN からブラウザへ。初回のみで、以降は Cache Storage から即ロード。
WebLLM がモデルをあなたの端末の GPU 向けにコンパイル。ブラウザが推論エンジンそのものになる。
会話はすべて端末内で完結。入力テキストはどこにも送信されず、機内モードでも動作する。
確かめ方: モデルのロード完了後に DevTools の Network タブを開いたまま会話してみてください。生成中のリクエストは 1 本も飛びません。ロード済みなら機内モードにしても会話できます。