KI & lokale LLMs
KI auf eigener Hardware betreiben — lokale LLMs, Agenten und Bildgenerierung. Keine Abos, keine Cloud, kein Informatikstudium nötig.
DisPatch: Eine selbstgehostete Chat-App für lokale KI-Agenten
Eine lokal gehostete LLM-Chat-App, Dateiserver und Terminal — auf jedem Gerät im Haus, jederzeit verfügbar. Die ~720-KB-App, die ich gebaut habe, um eine 30-Container-Rocket.Chat-Installation abzulösen.
Die CHUWI AuBox Ai365: mein KI-Home-Lab in einer Box
Ein unscheinbarer Strix-Point-Mini-PC mit doppeltem 2,5GbE, USB4 und einem Ryzen AI 9 365 — läuft mit Bluefin Linux, hostet acht KI-Agenten und zieht am Chip unter 5 W. Er hat ein totes 128-GB-Tablet ersetzt, und dieser Beitrag wird aktualisiert, sobald sich an der Box etwas ändert.
StudioForge: Ein GPU-Only-LLM-Server, der LM Studio auf meinem Rig ersetzt hat – ferngesteuert von meinen Agenten
Ich habe den Modellserver geschrieben, den ich selbst wollte: ein OpenAI-kompatibles llama.cpp-Gateway auf Port 1234, das den VRAM plant, bevor es lädt, ein Modell ablehnt statt es auf die CPU auszulagern, diejenigen pinnt, die warm bleiben müssen, und 29 MCP-Tools veröffentlicht, damit ein Agent auf einem anderen Rechner das ganze Rig steuert. Kostenloser Download, Quellcode auf GitHub.
SiftForge: Ein lokaler-LLM-E-Mail-Assistent, der Ihre Mails liest, die Antwort schreibt und sie niemals sendet
Ein selbst gehosteter E-Mail-Triage-Assistent: ein IMAP-Listener, ein lokales Modell und eine Entwurfs-Warteschlange. Er klassifiziert, beschriftet und schreibt die Antwort – und stoppt dann. Das Senden ist immer ein menschlicher Klick. Kostenlos, MIT, Download unten.
Acht KI-Agenten, eine AMD-Kiste: Mein lokaler Agenten-Stack (OpenClaw)
Acht namentliche KI-Agenten leben auf einem Mini-PC bei mir zu Hause — ein Dispatcher, ein harter Denker, ein lokaler 120B-Arbeitstier, ein Vision-Bot — wobei DeepSeeks günstige API die Schwerarbeit für etwa 24 $ im Monat übernimmt.
DeepSeek Harness (dsh): Ich habe DeepSeeks Open-Source-Coding-Agent installiert, in meine Chat-App eingebunden und einem Benchmark unterzogen
DeepSeek hat am 13. August einen unter MIT-Lizenz veröffentlichten Coding-Agenten herausgebracht. Fünf Tage später läuft er auf meiner Bluefin-Rechner als systemd-Dienst, sitzt neben Reasonix in DisPatch und hat 15/15 Aufgaben auf drei Modellen bestanden – darunter einem lokalen. Setup, Zahlen, Stolperfallen.
Mein KI-Agent hat ein Benchmarking-Tool für meine KI-Agenten gebaut
Ich habe Hermes, meinen Coding-Agenten, gebeten, ein CLI zu bauen, das meine lokalen Modelle benchmarkt. Zurück kam bench-llm — 1.660 Zeilen Python gegen LM Studio. Nach einem Jahr Nutzung wurde daraus CrucibleForge: 251 Fälle, 158 davon schwer, benotet durch Ausführung.
Was meine KI-Agenten tatsächlich kosten: DeepSeek vs. die großen APIs
Zwei Monate meines dauerlaufenden Agenten-Stacks haben auf DeepSeek $30.57 gekostet — im Juli allein $6.49. Aber DeepSeek erhöht am 16. August die Preise, und dieselbe Juli-Last steigt auf ~$14–$27. Die komplette Alt-gegen-Neu-Aufschlüsselung, plus was GPT-5.6, Claude, Grok und Kimi verlangen würden.
Reasonix: ein Coding-Agent im Claude-Code-Stil auf DeepSeek
Ein Terminal-Coding-Agent, der wie Claude Code arbeitet — Subagenten, Skills, Projektgedächtnis — aber gegen DeepSeeks Pay-per-Token-API läuft statt gegen ein Abo. Einrichtung, Modell-Stufen und ein Auto-Updater, um den man sich nicht kümmern muss.
Mein OpenClaw-Setup: Eine Box, die Websites bauen kann
Ein Linux-Mini-PC betreibt OpenClaw-Agenten, die meine Websites über eine abgesicherte, mit Backups versehene Deploy-Pipeline schreiben, bauen und veröffentlichen — und genau dieser Artikel wird wöchentlich von derselben Box aktualisiert.
Der ASUS ROG Flow Z13: mein tragbares Home Lab, das partout nicht tragbar bleiben wollte
Ein 128-GB-Gaming-Tablet betrieb meine KI-Agenten, meine Websites und mein gesamtes Heimnetzwerk — bis ein Stromfehler es bei jedem Einschalten nach 30 Sekunden in den Schlafmodus schickte. Hier ist die vollständige Obduktion.
WordPress zu Static mit Claude Code: Wie ich diese Seite an einem Nachmittag neu gebaut habe
Diese Seite lief früher auf WordPress. Ein KI-Coding-Agent hat sie an einem Nachmittag als Markdown-Dateien plus einen 183-Zeilen-Python-Generator neu gebaut — und derselbe Workflow pflegt sie bis heute.
Einen Chatbot ins öffentliche Web stellen — auf eigener Hardware
Ein Chatbot auf einer öffentlichen Website, aber das Gehirn ist ein kleines Modell, das auf einem Computer bei mir zu Hause läuft — kostenlos pro Token und privat. Hier ist die Relay-Architektur, die das sicher macht, die Sicherheitslücken, die ich schließen musste, und eine ehrliche Bilanz, wie langsam es ist und was noch für Produktionsreife fehlt.
LLM-Assistenten einrichten: Claude Code, Cowork, Terminex und DeepSeek
Der Sammel-Guide, auf den jede "Selbst umsetzen?"-Box auf dieser Seite verweist: was ein agentischer LLM-Assistent überhaupt ist, und vier echte Wege, noch heute einen zum Laufen zu bringen.
OpenClaw kaputt? Ich repariere es mit Claude Code
Meine zweistufige Reparaturstrategie: OpenClaw-Agenten erledigen die Routinearbeit, und wenn wirklich etwas kaputtgeht, repariert Claude Code die Maschine — und bringt OpenClaw anschließend bei, es beim nächsten Mal selbst zu schaffen.
Lokale KI-Bildgenerierung auf einem AMD-Mini-PC: ComfyUI + Z-Image Turbo
Wie ich einen AMD-Mini-PC in einen lokalen KI-Bildgenerator verwandelt habe — ComfyUI und Z-Image Turbo laufen als systemd-Dienst, kein Cloud-Konto, etwa 27 Sekunden pro 1024px-Bild.
Wie ich OMLA gebaut habe, indem ich KI-Agenten dirigiert habe, statt selbst zu coden
Ein Typ, kein Backend-Team: Ich habe KI-Coding-Agenten dirigiert, um eine echte Lizenzierungsplattform für Tantiemen für eine gemeinnützige Organisation zu bauen, inklusive Audits und Gated Deploy. Der tatsächliche Prozess, nicht die Highlight-Reel-Version.
Wie du ein LLM jedes Projekt an dein System anpassen lässt
Das allgemeine Rezept, mit dem du jedes offene Projekt — ein GitHub-Repo oder ein Zip von dieser Seite — von einem KI-Assistenten auf deinem Rechner zum Laufen bringen lässt, auch wenn du selbst nicht programmierst.
Headless ComfyUI: Als Dienst betreiben, von überall nutzen
Die Fortsetzung zu meinem AMD-ComfyUI-Aufbau: headless als systemd-Dienst betreiben, per HTTP-API aus Skripten heraus steuern und die Browser-UI sicher von jedem Gerät aus nutzen — während jeder Workflow weiterhin auf der Box gespeichert wird.
Ich habe meiner Familie eine Reiseplan-App gebaut — mit einem KI-Assistenten darin
Eine private, PIN-gesicherte Reiseplan-Webapp für eine Familienreise nach Japan — Tag-für-Tag-Pläne, Live-Wetter, Offline-Unterstützung und ein eingebauter KI-Assistent, der Fragen beantworten und kleine Änderungen vornehmen kann. So ist sie entstanden, mit allen Fallstricken, inklusive einer bereinigten Beispieldatei zum Herunterladen.
DeepSeek überall: Ein günstiges Cloud-Gehirn in Claude Code und einen lokalen Agenten-Stack verdrahten
DeepSeek trägt inzwischen still sowohl meinen Agenten-Stack zuhause als auch Claude Code. Hier sind die drei copy-paste-fertigen Verdrahtungsmuster, inklusive des systemd-Tricks, der den API-Schlüssel komplett aus argv heraushält.
WordPress: KI benutzen, um eigene Blöcke zu bauen (kostenloses Akkordeon-Beispiel)
Ein kostenloses Copy-paste-Akkordeon für WordPress — reines HTML und CSS, kein Plugin, kein JavaScript — plus der genaue KI-Prompt, der es geschrieben hat.
DeepSeek lokal betreiben: eine Anleitung in 4 Schritten (keine Vorkenntnisse nötig)
Eine Anleitung in vier Schritten, um DeepSeek auf dem eigenen PC mit Ollama, Docker und Open WebUI zu betreiben. Kein Cloud-Konto, kein Abo — nur eine Grafikkarte mit 8 GB vRAM.
KI-Koch
Ein einziger Copy-Paste-Systemprompt verwandelt eine Chat-KI in ProChef: wöchentliche Essenspläne, echte Rezepte und eine Einkaufsliste, die schon nach Supermarktabteilung sortiert ist. Läuft bei mir lokal auf einer Ollama-Box, aber auch ganz normales ChatGPT funktioniert.