Удобный веб-интерфейс для работы с локальными LLM. Чаты с моделями через Ollama, история диалогов, RAG, мультипользовательский доступ.
Open WebUI — self-hosted веб-интерфейс для работы с языковыми моделями. Он подключается к локальному Ollama и к любым OpenAI-совместимым API, давая удобный чат в стиле ChatGPT, но полностью на своём железе.
Все диалоги и загруженные документы остаются на сервере и не уходят к внешним провайдерам. Кроме обычного чата, есть работа с документами (RAG), веб-поиск, генерация изображений и тонкая настройка моделей под свои задачи.
Приватный ChatGPT на своём сервере: простенький, но кое-что умеет. И уже умнее Алисы...