ホーム › AIとローカルLLM
AIとローカルLLM
ローカルLLM、AIエージェント、画像生成を自宅のハードウェアで。クラウド課金も情報系の学位も不要です。
私のAIエージェントにかかる実際のコスト:DeepSeekと他の大手APIの比較
3ヶ月間、常時稼働させていたAIエージェントスタックの費用は、6月が242ドル、7月が225ドル、8月が385ドルでした。各請求額の内訳、DeepSeekにおける8月16日の値上げが与えた影響、そして同じワークロードをGPT、Claude、Grok、Kimiで実行した場合のコストはそれぞれいくらになるかについても説明します。
StudioForge:LM Studioに代わって登場した、GPU専用のLLMサーバーです
私は自分が望んでいたモデルサーバーを作成しました。それはポート1234で動作する、OpenAI互換のllama.cppゲートウェイです。このサーバーはモデルを読み込む前にVRAMの使用量を計算し、CPUに負荷がかかりすぎる場合にはモデルの読み込みを拒否します。また、常に利用可能な状態にしておくためにモデルをメモリ上に保持し続けます。さらに、別のマシン上で動作するエージェントに対しては、このシステムを操作するための29種類のMCPツールも提供します。無料でダウンロード可能で、ソースコードはGitHubに公開されています。
MailForge:送信しないローカルLLMベースのメールアシスタント
自己ホスト型のメール選別アシスタント:IMAPリスナー、ローカルモデル、そして下書きキューから構成されます。メールを分類・ラベル付けし、返信文も作成しますが、それで処理は終了します。送信は常に人間がクリックして行います。無料で、MITライセンスです。下記からダウンロード可能。
DisPatch:ローカルで動作するAIエージェント用の自己ホスト型チャットアプリ
ローカルで動作するAIエージェント用の自己ホスト型チャットアプリで、ドラッグ&ドロップ対応のファイルサーバーやサーバー側で強制されるPINロック機能も備えています。私の環境では、30個のコンテナからなるRocket.Chatのインストールをこれに置き換えました。バージョン2.0がリリースされており、ダウンロードファイルは3MBのZIP形式です。
ThemeForge:AIエージェントがワンクリックでインストールできる、ドロップイン式のCSSテーマシステム
ThemeForgeは、`ui-theme/`という単一のフォルダーから構成されており、ウェブアプリ向けに10種類のカラーテーマ、カラーピッカー、デザイントークン、そして事前に作成済みのコンポーネントクラスが提供されます。また、AIコーディングエージェントが1行のPythonコマンドだけで簡単にインストールできるように作られています。純粋なCSSのみで、ビルド処理も依存関係も不要です。ライセンスはMIT。ソースコードおよびZIPファイルは下記からダウンロード可能です。
ChatForge:CopilotキーのためのローカルNPU AIアシスタント
私のノートパソコンには、これまで一度も連携したことのないAI用キーとAIチップが搭載されていました。ChatForgeを使えば、Copilotキーを押すだけで、42~51トークン/秒という速度でIntel NPU上で動作する15億パラメータ規模のQwenモデルが応答してくれます。アカウント登録も不要で、いかなるデータもPC外に送信されることはありません。StudioForgeやクラウド上のモデルもワンクリックで利用可能です。MITライセンス下で公開されており、ソースコードおよびZIPファイルは以下からダウンロードできます。
非営利団体の閉鎖手順:非営利組織を終了させる方法
何ヶ月もかけて、オープンウェイトAIモデル向けの非営利ライセンスフレームワークを構築しましたが、結局公開することなく中止しました。それがどのようなもので、何が作られたのか、そして中止するにあたって実際に何が必要だったのか――その全てがダウンロード用にアーカイブされています。
WordPress:AIを活用してカスタムブロックを作成する(無料のアコーディオン例)
WordPress用の無料なコピー&ペースト可能なアコーディオン機能——純粋なHTMLとCSSのみで、プラグインもJavaScriptも不要——さらに、それを作成した正確なAIプロンプトも付属しています。
チャットボットを公開用ウェブ上に配置する――自分のハードウェアで
公開されているウェブサイト上のチャットボットですが、その「脳」となるのは私の自宅のコンピューターで動作している小規模なモデルです。トークン単価は無料で、プライバシーも保たれます。安全に運用するための中継アーキテクチャ、修正しなければならなかったセキュリティ上の脆弱性、そして実際にどれほど遅いか、本番環境で使うためにまだ何が必要かについても正直に説明します。
LLMアシスタントの設定方法:Claude Code、Cowork、Reasonix、DeepSeek
このサイトの「自分で実装してみよう」という各セクションが指し示すハブガイドです。エージェント型LLMアシスタントとは何か、そして今日すぐにそれを動かすための4つの具体的な方法を紹介します。
Reasonix:DeepSeek上で動作する、Claude Codeスタイルのコーディングエージェント
Claude Codeと同様の機能を持つターミナル型コーディングエージェントです。サブエージェントやスキル、プロジェクトメモリなどの機能がありますが、サブスクリプション制ではなく、DeepSeekのトークン単位課金制APIを利用して動作します。セットアップ手順やモデルの種類、手間のかからない自動更新機能も備えています。
ピクセルアート・ウィジェット対決:3人のコーディングエージェント、1つの課題、2人の制作者
私は、dsh、Kimi K3、そしてMiniMax M3の三者に、ピクセルアート風のLaserLloydロゴウィジェットを作成するという同じ指示を出しました。dshとKimiは正常に動作するウィジェットを作成しました。一方、MiniMaxからは一つ作ったとの返信がありましたが、参照されているファイルは実際にはKimiが作成したものでした。
OpenClawが壊れてしまった? Claude Codeで直してみる
私の二段階修復戦略としましては、まずOpenClawエージェントが通常の作業を処理します。何か本当に問題が発生した際には、Claude Codeがその問題を修正し、次回からはOpenClawが同様の問題に対応できるよう指導するという流れです。
MiniMax M3:OpenClawコーディングエージェント対Kimi K3およびdsh
OpenClaw独自のエージェントループ上で動作するMiniMax M3は、5つの小規模なコーディング課題を159秒で完了させました。これに対しKimi K3は310秒を要しました(Kimiは最大思考設定下で、使用環境も異なります)。また、そのコストは定価の4分の1程度に抑えられています。当初私がその成果だと判断したウィジェットは、実際にはKimiによるものでした。
私のOpenClawのセットアップ:ウェブサイトを作成できる一台のマシン
LinuxベースのミニPC上でOpenClawエージェントが動作しており、このウェブサイトの執筆・ビルド・公開を行っています。サーバーへの配信処理はデプロイスクリプトによって行われますが、このスクリプトはデフォルトでドライラン状態となり、まずバックアップを作成した上で一切削除処理を行わず、私の承認を待つ仕組みになっています。
AMD(ROCm)上でのローカルAI画像生成:ComfyUI+Z-Image Turbo
私がどのようにしてAMD Strix Halo搭載のマシンを、ローカルで動作するAI画像生成機にしたか――ComfyUIとZ-Image Turboをsystemdサービスとして実行し、クラウドアカウントも不要で、1024ピクセルサイズの画像を生成するのに約27秒かかります。
一台のミニPC上で動作するAIエージェントの小規模なオフィス:私のOpenClawスタック
私の家にあるミニPCから6つのAIエージェントが動いています。定額制クラウドプランで動くリード役、重い処理を担うステートレスなワーカー、レビュアー、そしてGPUボックス上で動くローカルモデルです。ここに設定内容、実際のタスクの引き継ぎ手順、そして完了した作業が失われないようにするウォッチドッグが記載されています。
OpenClawにおけるKimi K3とdshの比較:5/5タスク達成、9倍遅く、コストは48倍
ムーンショット社のKimi K3が、5つの小規模なコーディングタスクでOpenClawのエージェントループを駆動させた結果、5/5で合格しました。ただし、DeepSeek V4-Flashのウォームパスと比較すると、処理速度は約9倍遅く、コストは48倍高くなっています(コールドパスと比べると22倍)。ピクセルアートウィジェットの課題には3回の試行を要しました。
InfoForge:私のローカルAIエージェント用のRAGソースとしてのオフライン版ウィキペディア
英語版ウィキペディア全体――1,919万件の記事、52.69GB分――インターネットなしでも、私のAIエージェントが照会できるローカル検索インデックスの背後に存在しています。すべての回答には参照された記事が明記されており、見つからない場合は推測せずにその旨を伝えます。
コードを書く代わりにAIエージェントを指示することで、どうやってOMLAを作ったか
一人きりで、バックエンドチームもなし:私はAIコーディングエージェントに指示して、非営利団体向けの本格的な著作権ライセンスプラットフォームを構築させました。監査機能やアクセス制限付きのデプロイも含まれています。これが実際の作業工程であり、宣伝用のハイライト映像ではありません。
どうすればLLMを使って、任意のプロジェクトを自分のシステムに適応させられるか
どんなオープンソースプロジェクトでも――GitHubのリポジトリやこのサイトからダウンロードしたZIPファイルでも――コーディングができなくても、AIアシスタントに頼んで自分のマシン上で実行させるための一般的な手順です。
ヘッドレス版ComfyUI:サービスとして実行し、どこからでも利用する方法
前回のAMD版ComfyUI構築の続きです。systemdサービスとしてヘッドレスモードで実行し、HTTP APIを通じてスクリプトから制御します。また、どのデバイスからでも安全にブラウザUIを利用できるようにします。なお、すべてのワークフローは引き続きそのマシンに保存されます。
AIを組み込んだ、家族向けの日本旅行プラン作成アプリを作りました
日本への家族旅行用の、PINコードで保護された個人用旅程管理ウェブアプリです。日ごとの計画案、リアルタイムの天気情報、オフライン機能、そして質問に答えたり細かな編集も行える内蔵AIアシスタントも備えています。ここでは、その開発の経緯や注意点などを紹介するとともに、ダウンロード可能なサンプルデータもご用意しました。

DeepSeekをローカルで動かす:経験ゼロでもできる4ステップガイド
Ollama、Docker、Open WebUIで、自分のPCの上でDeepSeekを動かす4ステップガイド。クラウドアカウントもサブスクも不要。必要なのはvRAM 8GBのグラボだけです。
DeepSeekハーネス(dsh):インストール、ヘッドレス実行、3モデルベンチマーク
DeepSeekのMITライセンスのコーディングエージェントを、リリースから5日後にインストールしました。npm install、スクリプト向けに作られたヘッドレスなワンショットモード、systemdユニット、単一のYAMLファイルでのモデル切り替え、そしてV4-Flash、V4-Pro、ローカルのGemmaでわずか数セントで15回中15回すべて合格しました。
DeepSeek Everywhere:Claude Codeとローカルエージェントスタック
2026年7月、DeepSeekは私のホーム用エージェントスタックとClaude Codeの両方を静かに支えてくれました。ここでは、APIキーをargvから完全に排除するsystemdの仕組みを含め、そのままコピー&ペーストできる3つの接続パターンを紹介します。
CHUWI AuBox Ai365:私のAIホームラボがひとつの箱に収まった形です
Strix Pointベースの小型PCで、2つの2.5GbEポート、USB4、そしてRyzen AI 9 365を搭載しています。このPCではBluefin Linuxがカーネル内蔵ドライバーを用いて動作し、私の6エージェントからなるAIスタックも稼働しています。チップ単体での消費電力は4.6ワットです。以前壊れてしまった128GB版のタブレットの代わりとして使用しています。
私のAIエージェントが、私のAIエージェント用のベンチマークツールを作りました
私のコーディングエージェントが「bench-llm」というプログラムを作成しました。これはPythonで1,660行からなり、LM Studio内のローカルモデルのベンチマークを行うものです。2週間ほどで私の使用している全モデルが5点満点を獲得したため、今度はCrucibleForgeに切り替えました。こちらは251件のテストケースがあり、そのうち158件が難易度の高いものです。現在、GitHub上で公開されています。
ASUS ROG Flow Z13:携帯性を保とうとしなかった私のポータブルホームラボ
128GBのゲーミングタブレットで、私のAIエージェントやウェブサイト、そして自宅全体のネットワークを動かしていました。しかし電源に不具合が生じ、電源を入れるたびに30秒後にスリープ状態に落ちてしまうようになりました。以下がその詳細な検証結果です。
Claude Codeを使ってWordPressサイトを静的サイトに移行:午後一つで再構築した例
このサイトは以前、WordPressで運用されていました。AIコーディングエージェントが午後のひとときで、Markdownファイルと183行からなるPythonジェネレーターに再構築しました。今でも同じワークフローでメンテナンスが行われています。

AIシェフ:週間食事計画用の無料システムプロンプト
このコピー&ペースト用のシステムプロンプトを使うと、チャット型AIがProChefに変身します。毎週の夕食メニュー案、実際に使えるレシピ、そして店舗の売り場別に整理済みの買い物リストも提供されます。私のローカルのOllama環境で動作しますが、通常のChatGPTでも問題なく利用できます。