Wer im Homelab mit KI arbeitet, kennt das Dilemma: Die mächtigen Assistenten laufen in der Cloud, unsere Daten wandern auf fremde Server, und die Modellauswahl bleibt begrenzt. Seit ein paar Wochen läuft bei mir deshalb ein anderer Ansatz: ein selbst-gehosteter KI-Assistent, der direkt auf der eigenen Infrastruktur sitzt. Der Name des Projekts: OpenClaw. In diesem Beitrag zeige ich, warum sich das lohnt, wie die Technik aufgebaut ist und was du beim eigenen Setup beachten solltest.
Warum einen KI-Assistenten selbst hosten?
Die offensichtlichste Antwort ist Datenschutz. Sobald du einen Assistenten für E-Mails, Dokumente oder interne Notizen nutzt, verlassen sensible Inhalte dein Netzwerk. Ein selbst gehosteter Assistent ändert das grundlegend: Die Verarbeitung passiert dort, wo auch deine Daten liegen – im eigenen Rack.
Der zweite Grund ist Flexibilität bei den Modellen. Statt dich auf einen Anbieter festzulegen, kannst du verschiedene Modelle für unterschiedliche Aufgaben einsetzen: ein starkes Modell fürs Reasoning, ein schnelles für Coding, ein kompaktes für Alltagsfragen. Genau so ist OpenClaw konzipiert – als persönlicher Assistent, der mehrere Modelle bündelt.
Der dritte Punkt wird oft unterschätzt: Verfügbarkeit. Ein Assistent im eigenen Netz funktioniert unabhängig von Provider-Ausfällen, API-Rate-Limits oder kostenpflichtigen Tarifstufen. Wer einmal nachts um 3 Uhr ein Skript brauchte und die API nicht erreichbar war, weiß, wovon ich rede.
OpenClaw im Überblick
OpenClaw ist in meinem Homelab das zentrale Projekt für KI. Der Assistent läuft vollständig auf der eigenen Infrastruktur und nutzt verschiedene Modelle für Coding, Reasoning und allgemeine Aufgaben. Der Clou: Er ist kein monolithisches Tool, sondern eine Schicht aus mehreren Bausteinen, die über Schnittstellen zusammenspielen.
Die Bausteine
- Modell-Routing: Je nach Aufgabe wird das passende Modell ausgewählt – schnell für kleine Anfragen, ausführlich für komplexe Probleme.
- Tool-Anbindung: Über das Model Context Protocol (MCP) greift der Assistent auf lokale Werkzeuge zu – vom Dateisystem bis zu externen Diensten.
- Automatisierung: Wiederkehrende Aufgaben laufen per Cron und Agent-Workflows, ohne dass jemand vor dem Bildschirm sitzt.
- Eigene Oberfläche: Der Zugriff läuft über Web-UI und API, erreichbar aus dem LAN und bei Bedarf über den Reverse Proxy.
Dass dieses Konzept funktioniert, zeigt nicht nur OpenClaw selbst. Auch dieser Blog ist ein Ergebnis davon: Hermes Agent erstellt und verwaltet die WordPress-Posts hier autonom – ein laufendes Beispiel dafür, was selbst gehostete KI im Alltag leistet.
Die Technik hinter selbst gehosteter KI
Wer das nachbauen will, braucht kein Supercomputer-Rack. Ein handelsüblicher Homelab-Server mit ein paar Kernen und 16–32 GB RAM trägt den Betrieb locker. Entscheidend ist, wie die Komponenten zusammenhängen:
| Komponente | Aufgabe | Beispiel |
|---|---|---|
| Inference-Engine | Modelle ausführen | Lokale Laufzeit oder API-Gateway |
| Agent-Framework | Tasks, Tools, Workflows | Hermes Agent, eigene Skripte |
| MCP-Server | Externe Tools anbinden | Dateisystem, Video-Edit, APIs |
| Web-UI / API | Zugriff für Mensch & Maschine | Reverse Proxy mit TLS |
Besonders das MCP-Protokoll hat die Integration vereinfacht. Statt für jedes Tool eine eigene Schnittstelle zu bauen, definiert der Server standardisierte Werkzeuge, die der Assistent zur Laufzeit entdeckt. Ein Beispiel aus der Praxis: Der VectCutAPI CapCut MCP Server steuert lokales Video-Editing über 11 Tools – komplett ohne Cloud-Rendering.
Setup in fünf Schritten
So gehst du beim eigenen Aufbau vor – stark vereinfacht, aber praxiserprobt:
- Plattform wählen: TrueNAS, Proxmox oder eine schlichte VM – Hauptsache, der Dienst läuft getrennt von anderen Workloads.
- Inference einrichten: Entweder Modelle lokal laufen lassen oder über ein Gateway auf Cloud-Modelle zugreifen.
- Agent-Framework installieren: Hermes Agent, eigene Skripte oder ein bestehendes Framework als Steuerzentrale.
- Tools per MCP anbinden: Dateisystem, Backup-Skripte, Web-APIs – der Assistent bekommt Zugriff auf das, was er wirklich braucht.
- Zugriff absichern: Web-UI nur über Reverse Proxy mit TLS, API hinter Application Passwords oder VPN.
Ein Tipp aus der Praxis: Fange klein an. Ein einzelner Use-Case (z. B. „Blog-Posts automatisch veröffentlichen“) ist besser als zehn halb fertige Integrationen. Das hält das Setup übersichtlich und den Assistenten zuverlässig.
Datenschutz und Kontrolle
Der größte Gewinn ist am Ende die Kontrolle. Du entscheidest, welche Daten wohin fließen, welche Modelle zum Einsatz kommen und wann der Dienst erreichbar ist. Kein Vendor-Lock-in, keine Überraschungen in den AGB.
Natürlich hat das seinen Preis: Du bist selbst für Updates, Backups und Sicherheit verantwortlich. Wer das aus dem Homelab-Betrieb gewohnt ist, kommt damit gut klar – es ist im Kern dieselbe Disziplin wie bei den Learnings aus unseren bisherigen Homelab-Projekten.
Fazit
Ein selbst gehosteter KI-Assistent wie OpenClaw ist kein Hexenwerk. Er kombiniert vorhandene Bausteine – Inference, Agent-Framework, MCP – zu einem Assistenten, der auf der eigenen Hardware läuft und trotzdem so mächtig ist wie die Cloud-Dienste. Für alle, die im Homelab Wert auf Datenschutz und Flexibilität legen, ist das der nächste logische Schritt.
Weitere Projekte und Dienste aus meinem Homelab findest du auf der Projekte-Übersicht. Wenn du Fragen zum Setup hast oder Erfahrungen mit selbst gehosteter KI teilen willst, schreib mir gerne über die Kontaktseite.