Ollama · Open WebUI
Ollama · Open WebUI: Einstieg, wichtige Einstellungen, Prüfung und Hinweise zur Wiederherstellung.
Arbeitsverzeichnis: ~/homelab/apps/ai. Beginne mit dem gemeinsamen Ablauf. Diese Notiz beschreibt die Einrichtung anhand der verlinkten Dokumentation. Sie ist weder eine Kopie meiner laufenden Konfiguration noch ein Laufzeittest dieses gesamten Stacks.
Einstieg
Beginne mit Ollama für die Modellausführung und Open WebUI als Browseroberfläche. Nutze das offizielle Docker-Beispiel und eine veröffentlichte Version. Wähle ein kleines Modell passend zum Rechner. Eine GPU ist für den ersten Versuch optional; ergänze Gerätezugriff erst nach einem erfolgreichen CPU-Test.
Einstellungen und Daten
Die Ollama-API bleibt im Anwendungsnetz. OLLAMA_BASE_URL zeigt auf den Ollama-Dienstnamen und Port 11434, nicht localhost. Sichere Modellspeicher und /app/backend/data von WebUI dauerhaft. Erzeuge und bewahre WEBUI_SECRET_KEY; beschränke Registrierungen nach dem Anlegen des Administrators.
Ergebnis prüfen
Stelle eine unverfängliche Frage und prüfe das verwendete Modell. Nach einem Neustart sollte der Testchat erhalten bleiben. Beobachte RAM und Speicherplatz beim Modelldownload. Lokale Ausführung bedeutet nicht, dass jede konfigurierte Integration lokal bleibt.
Fehler eingrenzen
Fehlen Modelle, prüfe Provider-URL, gemeinsames Netzwerk und Ollama-Logs. Bei abgebrochener Generierung zuerst ein kleineres Modell versuchen. Sichere UI-Daten und Schlüssel; Modelle lassen sich erneut laden, private Gespräche möglicherweise nicht.