Kategorie KI-Stack

Artikel und Howtos zum lokalen KI-Stack unter Windows und WSL2: LM Studio, Open WebUI, ComfyUI, lokale LLMs, RAG, Agenten sowie Bild- und Videogenerierung, MCP, Winapp

RAG-Agenten zuverlässig betreiben

Eine funktionierende Vektorsuche ist noch kein verlässlicher RAG-Agent. Sie kann ähnliche Textabschnitte finden, beantwortet aber nicht die entscheidenden Betriebsfragen: Ist die Quelle aktuell? Gehört sie überhaupt zum Auftrag? Darf das Modell ein Werkzeug aufrufen? Wurde dessen Ergebnis geprüft? Und lässt sich später nachvollziehen, wie die Antwort entstanden ist?

Vom Chat zur modularen KI-Plattform

Ein lokales Sprachmodell zu starten ist heute vergleichsweise einfach. Eine dauerhaft nutzbare KI-Plattform entsteht dadurch jedoch noch nicht. Sobald neben Text auch eigene Dokumente, aktuelle Webinformationen, Bilder, Videos und automatisierte Abläufe verarbeitet werden sollen, müssen mehrere spezialisierte Systeme zuverlässig zusammenspielen.…