Ollama · Open WebUI

پوشهٔ کار: ~/homelab/apps/ai. ابتدا روش مشترک راه‌اندازی را بخوانید. این یادداشت راهنمای مبتنی بر مستندات پیوندشده است، نه کپی تنظیمات واقعی من یا ادعای آزمون کامل این استک.

از اینجا شروع کنید

با Ollama برای اجرای مدل و Open WebUI برای رابط مرورگر شروع کنید. نمونهٔ رسمی Docker و نسخهٔ منتشرشده را انتخاب کنید. مدل کوچکی متناسب با حافظه بگیرید. برای نخستین آزمایش GPU ضروری نیست؛ دسترسی دستگاه را پس از موفقیت اجرای CPU اضافه کنید.

تنظیمات و داده

API مدل را داخل شبکهٔ برنامه نگه دارید. مقدار OLLAMA_BASE_URL باید نام سرویس Ollama و پورت 11434 باشد، نه localhost. فضای مدل و /app/backend/data رابط را ماندگار کنید. کلید WEBUI_SECRET_KEY را بسازید و نگه دارید؛ پس از ساخت مدیر ثبت‌نام را محدود کنید.

بررسی نتیجه

پرسش غیرحساس بپرسید و مدل پاسخ‌دهنده را بررسی کنید. رابط را دوباره اجرا کنید و ماندن گفت‌وگو را ببینید. هنگام دریافت مدل، حافظه و دیسک را پایش کنید. اجرای محلی مدل به معنای محلی بودن همهٔ اتصال‌های افزوده نیست.

عیب‌یابی

اگر مدل دیده نمی‌شود، نشانی ارائه‌دهنده، شبکهٔ مشترک و گزارش Ollama را بررسی کنید. اگر اجرا کشته می‌شود ابتدا مدل کوچک‌تر بگیرید. دادهٔ رابط و کلیدش را پشتیبان بگیرید؛ مدل دوباره قابل‌دریافت است ولی گفت‌وگو ممکن است نباشد.

راهنمای رسمی راه‌اندازی