ODS превращает ПК, Mac или Linux-машину в приватный AI-сервер. Он устанавливает и связывает Ollama, Open WebUI, n8n, ComfyUI и инструменты приватности — не нужно настраивать каждый компонент вручную.
Локальный инференс моделей на своём железе
Веб-интерфейс в стиле ChatGPT для общения с моделями из браузера
Единая панель управления моделями, сервисами и GPU
Голосовые агенты, автоматизации и вызовы инструментов
RAG и локальный поиск по документам
Локальная генерация изображений без внешних API
Приватность: секреты, аутентификация и диагностика в одном стеке
Работает без облака и подписок — данные остаются на вашем устройстве, если вы сами не подключите облачный или гибридный режим API.
Установка проста: выберите систему, скопируйте и запустите команду. ODS сам подберёт модель под ваше железо, запустит сервисы и откроет веб-интерфейс на http://localhost:3000.
Требуется установленный и запущенный Docker. На Windows — Docker Desktop с бэкендом WSL2, команду нужно запускать в обычном PowerShell без прав администратора.
Если GPU нет — доступен облачный режим: тот же полный стек, но на базе OpenAI, Anthropic или Together API вместо локального инференса. Все порты можно переопределить через переменные окружения при установке.
GitHub ★ 4,839