Lokale oder Cloud-KI? RAG, MCP und die Wahl des richtigen Harness

Michael Logies

Lokale oder Cloud-KI? RAG, MCP und die Wahl des richtigen Harness

Erstellt von Qwen Code (glm-5.3-flash) am 29.8.2026 auf Basis eines Diskussionsverlaufs mit „Gemini/Flash erweitert” und dessen KI-Kritik. Alle technischen Behauptungen zur eigenen Umgebung sind hier selbst verifiziert.

Wie leistungsfähig ist eine lokale KI gegenüber einer Cloud-KI für meine Aufgabenstellungen – überwiegend medizinische Literaturrecherche mit Zotero, dazu Linux/Windows-Administration und Websitepflege mit Publii? Der Ablauf war dreistufig:

  1. Ausgangspunkt war das c’t-Video „Was ich über lokale KI gelernt habe“.
  2. Die Zusammenfassung des Videos durch „Gemini/Flash erweitert” hat meine weiteren Fragen ausgelöst – der gesamte Diskussionsverlauf (inklusive der kritischen Einschätzung durch Qwen Code, glm-5.3-flash) steht als PDF zum Download bereit.
  3. Diese Webseite ist das Destillat daraus: die im Verlauf entwickelten Probleme und Lösungen, komprimiert und gegenüber der eigenen Umgebung verifiziert.

Aber der Reihe nach: Wer noch gar keinen KI-Agenten eingerichtet hat, findet die Schritt-für-Schritt-Anleitung (API-Token, Installation, Memory-MCP) auf der Seite KI-Agent in ein bis zwei Stunden.

Die Kernfrage und ihre Antwort

Lokale Modelle auf Consumer-Hardware (z. B. 24-GB-VRAM-Klasse wie Qwen 27B) haben gravierende Wissenslücken und halluzinieren bei isolierten Faktenfragen. Die Leistungen moderner Benchmarks erklären sich zu rund 88 % über agentische Fähigkeiten (Coding, Terminal-Steuerung, Tool-Calling, Kontexterhaltung) und nur zu ~12 % über isoliertes Faktenwissen – Spitzenrankings sind also kein Beleg für faktische Zuverlässigkeit. Der Ausweg ist nicht ein noch größeres lokales Modell, sondern eine Werkzeug-Infrastruktur: RAG (Retrieval-Augmented Generation) über MCP-Server mit Zugang zu geprüften Originalquellen.

Was RAG leistet – und was nicht

Die Zotero-Anbindung via MCP (mit Originalfundstellen und Volltexten) verlagert die Fehlerklasse von parametrischen Halluzinationen (Erfindungen aus dem Modellgewicht) hin zu Retrieval- und Synthese-Fehlern: schlecht getreutes Chunking, mangelnde Texttreue bei der Synthese, „Lost in the Middle” bei langen Kontexten, und die Gefahr, widersprüchliche Quellen künstlich zu glätten. Die Halluzinationsrate sinkt drastisch, verschwindet aber nie ganz – das ist der wissenschaftliche Konsens. Hier greifen zusätzliche Leitplanken:

  • Prompt-Regeln: Jede Behauptung muss an die zitierte Fundstelle angebunden sein (mit Seitenzahl); Widersprüche zwischen Fundstellen werden explizit gemacht, nicht verwischt. Empirisch belegt wirksam (Guardrailed RAG, CoVe, CRAG), aber es bleibt ein Restrisiko.
  • Kontext-Hygiene: Vor neuen, komplexen Aufgaben Kontextfenster leeren bzw. komprimieren (/compact) – veraltete Zwischenergebnisse und Fehlerketten belasten sonst die Aufmerksamkeit. Achtung: /compact selbst ist generativ und kann Details (exakte Zitate, Zotero-Keys) wegabstrahieren; bei kritischen Schritten ist ein sauberer Neustart mit vorbereitetem Re-Prompting robuster.
  • Kontextfenster-Mythos: Große Kontextfenster sind kein Qualitätsmerkmal an sich – die Synthesequalität hängt an der Parameterzahl und Befolgungskapazität des Modells, nicht an der Fenstergröße.

Memory-MCP als dynamisches Geländer

Eine spezielle Stärke dieses Aufbaus: Der Memory-MCP-Server speichert Nutzungsregeln für die einzelnen MCP-Tools auf Basis von Benchmark-Ergebnissen und eigener Erfahrung. Dadurch priorisiert der Agent Tools selbstständig richtig, statt alle Tool-Definitionen dauerhaft im Kontext zu halten – was durch deferred tool loading technisch unterstützt wird: Beim Start kennt das System die Werkzeuge nur dem Namen nach; die ausführliche „Bedienungsanleitung” eines Werkzeugs wird erst geladen, wenn es tatsächlich gebraucht wird – wie ein Handwerker, der nicht den kompletten Werkzeugkoffer auf den Tisch kippt, sondern jedes Werkzeug erst dann holt, wenn er es braucht. Zur Einordnung: Professionelle Agenten-Systeme lösen dieses Problem noch konsequenter, indem sie mehrere spezialisierte Agenten mit streng getrennten Werkzeugkästen einsetzen. Ein solches Multi-Agent-Design bringt erheblichen Einrichtungsaufwand mit sich. Der Aufbau hier erreicht mit Memory-Geländer und bedarfsgerechtem Nachladen einen großen Teil desselben Vorteils – die Kontextfenster bleiben schlank, die Werkzeugwahl bleibt präzise – bei deutlich einfacherer Technik.

Qwen Code vs. OpenCode als Harness

Die Diskussionsrunde kam zu dem Urteil, OpenCode biete die feingliedrigere Rechte- und MCP-Verwaltung, Qwen Code sei „bedingt geeignet” und nutze „primär Shell-Umleitungen” für Dateiänderungen. Letzteres ist falsch (verifiziert): Qwen Code arbeitet mit dedizierten Werkzeugen (read_file, edit mit exakter Textersetzung, write_file, glob, grep_search, notebook_edit). Auch das behauptete „fehlende Rechtesystem” ist übertrieben – Genehmigungsmodi (Auto/Yolo, konfigurierbar) mit Bestätigungspflicht für riskante Operationen existieren. Das Pauschalurteil „OpenCode in allen Anwendungsfällen überlegen” ist damit nicht haltbar.

Für mein Profil (Linux-Laie, der sich auf den Agenten verlässt) passt die Kombination Qwen Code + leistungsfähigem Cloud-Modell besser: interaktive Sicherheitsabfragen ohne eigene Prüfkompetenz führen sonst zu blindem Durchwinken („Blind-Confirmation-Syndrom”), und das Memory-Geländer ersetzt die fehlende werkzeugseitige Trennung. Verbleibendes Risiko: seltene Fehlausführungen auf OS-Ebene – abgedeckt durch verhaltensbasierte Regeln (Rückfrage vor destruktiven Aktionen, Stopp bei fehlenden Admin-Rechten, Git als Rollback-Ebene) und externe Backups.

Fazit

Die Kombination aus Zotero-MCP (geprüfte Volltexte), Prompt-Daueranweisungen, Memory-MCP und einem leistungsfähigen Cloud-Modell unter Qwen Code reduziert Halluzinationen auf ein praktisch beherrschbares Restrisiko. Entscheidend ist nicht die Wahl „lokal vs. Cloud”, sondern die Qualität der Infrastruktur um das Modell: Retrieval aus geprüften Quellen, strenge Zitier- und Widerspruchsregeln, kontextuelle Hygiene und ein Harness, der Werkzeuge selektiv lädt.

Weiterführende Seiten:

Hinweis zur Erstellung: Dieser Beitrag wurde von einer KI (Qwen Code mit GLM-5.3-Flash) am 29.8.2026 auf Grundlage eines Diskussionsverlaufs mit Gemini/Flash erweitert verfaßt. Mehr zur Methodik unter www.logies.de. Ohne Gewähr.