Artikel und Howtos zum lokalen KI-Stack unter Windows und WSL2: LM Studio, Open WebUI, ComfyUI, lokale LLMs, RAG, Agenten sowie Bild- und Videogenerierung, MCP, Winapp
Seit Version 2.4 hat sich der KI-Stack deutlich weiterentwickelt: 2.5 integrierte RAG produktiv, 2.6 vervollständigte Rollback und Fehlerbehandlung, 2.7 verbessert Codex Local, LM Studio und die Reproduzierbarkeit der Builds. Der Artikel zeigt, was sich technisch verändert hat, warum reale Greenfield-Tests wichtig sind und welche nächsten Schritte für den lokalen KI-Stack anstehen.
Mit KI-Stack 2.4.0 ist die bisher umfangreichste Version meines lokalen KI-Stacks fertig. Aus dem ursprünglichen Ansatz, verschiedene lokale KI-Komponenten auf einem Windows-System zusammenzubringen, ist inzwischen ein transaktional installierbarer und reproduzierbarer KI-Stack geworden. Der für mich entscheidende Unterschied zu den vorherigen…
Eine funktionierende Vektorsuche ist noch kein verlässlicher RAG-Agent. Sie kann ähnliche Textabschnitte finden, beantwortet aber nicht die entscheidenden Betriebsfragen: Ist die Quelle aktuell? Gehört sie überhaupt zum Auftrag? Darf das Modell ein Werkzeug aufrufen? Wurde dessen Ergebnis geprüft? Und lässt sich später nachvollziehen, wie die Antwort entstanden ist?
Ein lokales Sprachmodell zu starten ist heute vergleichsweise einfach. Eine dauerhaft nutzbare KI-Plattform entsteht dadurch jedoch noch nicht. Sobald neben Text auch eigene Dokumente, aktuelle Webinformationen, Bilder, Videos und automatisierte Abläufe verarbeitet werden sollen, müssen mehrere spezialisierte Systeme zuverlässig zusammenspielen.…