Пілотний проєкт вдався. Одного дня Open WebUI розгорнули на вільному сервері, і вже за тиждень уся команда спілкувалася з GPT, Claude та локальною Llama через Ollama в одному вилощеному інтерфейсі. Перенесімося на три місяці вперед: тепер Ви неоплачуваний оператор продакшн-системи. База даних лежить на диску, для якого ніхто не робить резервних копій. Вбудоване векторне сховище відмовило того дня, коли Ви додали другу репліку. Хтось вставив спільний ключ OpenAI у канал Slack. А фінансовий відділ раз у раз питає, хто витратив 400 доларів на токени в березні.
У жодному з цих випадків Open WebUI не винен. Це справжня ціна експлуатації будь-якої багатокористувацької AI-платформи. Питання лише в тому, чи має ця робота лежати на Вашому столі. І одне чесне зауваження, перш ніж почати: kral, платформа, що стоїть за цією статтею, не побудована на Open WebUI. Ми чітко пояснимо, що це означає.
Запуск ніколи не був проблемою
Open WebUI чесно заслужив свою репутацію. Це один з найкращих AI-інтерфейсів, які можна розмістити самостійно: усі провідні моделі через OpenAI-сумісні API, локальні моделі через Ollama, чат із документами з вбудованим RAG, інструменти та плагіни, а також інтерфейс, який Ваша команда опановує за лічені хвилини. Швидкий старт заслуговує на свою репутацію.
Продакшн, це інша робота. Щойно Open WebUI починає обслуговувати команду, а не ентузіаста-одинака, конфігурація розростається до невеликої платформи:
- зовнішній PostgreSQL, адже стандартний SQLite годиться для одного екземпляра, але не для другого,
- Redis, щоб входи в систему та websocket-з'єднання витримували більш ніж одну репліку,
- зовнішня векторна база даних, адже вбудоване сховище документів не розраховане на кілька воркерів, що пишуть одночасно,
- спільне сховище для завантажень і згенерованих зображень, а також секретний ключ, щодо якого мають узгодитися всі репліки,
- зворотний проксі, TLS, домен і моніторинг, який повідомить Вам про збій раніше, ніж це зроблять Ваші користувачі,
- і ключі API для кожного провайдера, якого Ви підключаєте: OpenAI, Anthropic, Google та будь-кого, хто випустить наступну модель, яку Ваша команда захоче з першого ж дня.
А далі починаються оновлення. Open WebUI розвивається швидко, і це чудова новина для користувача, але регулярне завдання для оператора. Кожен реліз, це список змін, який треба прочитати, тестування пайплайнів і функцій, які Ви збудували поверх, а також вікно обслуговування, яке треба запланувати. Пропустіть кілька, і стрибок стане лячним. Застосовуйте всі, і це вже робота на пів ставки.
Ми це знаємо, бо щодня керуємо двійником цього списку. kral експлуатує open source AI-платформу в продакшні, і наведений вище список, це наш власний регламент, тільки з іншими назвами на серверах.
Віддаймо належне, і прогалина, що лишається
Спершу про справедливість: Open WebUI надзвичайно сильний в управлінні користувачами як для open source проєкту. Ролі, групи та деталізовані дозволи вбудовані одразу, і суто заради контролю доступу Ви, можливо, ніколи його не переростете.
Прогалина, це гроші. З голими ключами API Ви отримуєте два поганих варіанти: один спільний ключ (жодної атрибуції, і один витік спалює весь бюджет) або ключ на кожну людину (тертя під час онбордингу, ризик під час офбордингу та стос рахунків від провайдерів, які фінансовому відділу треба звіряти). Open WebUI, це платформа для чату, а не система білінгу. Тут немає ані тарифів, ані рахунків, ані обробки податків, ані поповнень, які Ваші користувачі могли б купити самостійно. Для розгортання в масштабах компанії саме ця прогалина зазвичай є каменем спотикання, а не сервери.
Є ще одна річ, яку варто прочитати, перш ніж будувати на ньому: ліцензія. Починаючи з 2025 року Open WebUI постачається за ліцензією на основі BSD-3 із застереженням щодо брендингу. Збереження назви та логотипа "Open WebUI" є обов'язковим, щойно розгортання перевищує 50 користувачів за будь-який ковзний 30-денний період, якщо тільки у Вас немає корпоративної ліцензії чи письмового дозволу. Це легітимний спосіб фінансувати open source проєкт, і про це варто знати, перш ніж обіцяти своїй компанії портал під власним брендом. Прочитайте актуальний текст ліцензії самостійно; це спостереження, а не юридична консультація.
Що має охоплювати керований хостинг Open WebUI
Керований хостинг має сенс лише тоді, коли він знімає з Вас увесь цей список, а не лише контейнери. Кого б Ви не обрали, вимагайте від нього ось цього:
- Актуальна основа. Оновлення надходять без Вашої участі, а продукт і надалі відстежує open source проєкт, замість того щоб перетворитися на заморожений приватний клон.
- Моделі в комплекті. Усі провідні моделі через одну точку входу, без ключів API, які треба здобувати, роздавати чи ротувати.
- Реальний контроль витрат. Бюджети на кожного користувача, споживання, яке можна віднести до конкретної особи, і один рахунок замість п'яти.
- Управління командою. Запросити, видалити, готово. Доступ завершується разом із контрактом.
- Повний набір функцій. Чат із документами, генерація зображень і вебпошук мають працювати з першого дня; саме вони наполовину і є причиною складності стека.
- Відповідь щодо ліцензування. Якщо портал під власним брендом для Вас важливий, запитайте, як це можливо за понад 50 користувачів. "Довіртеся нам", це не відповідь.
- Шлях назовні. Ваші дані можна експортувати, а програмне забезпечення в основі є open source. Якщо піти складно, Ви не клієнт, Ви заручник.
Чесна частина: kral, це не Open WebUI
kral, це керований AI-простір, побудований на LibreChat, найближчому родичі Open WebUI, і ми кажемо про це з перших слів, бо довіра вмирає на другій сторінці. Якщо Вам потрібен саме Open WebUI, тому що Ваша команда збудувала на ньому пайплайни та функції чи тому що Ваші моделі працюють на власних GPU, тоді керована версія чогось іншого не є відповіддю. Розгорніть його самостійно і насолоджуйтеся.
Якщо ж Ви хочете результату, одного простору, де вся команда дістає доступ до кожної провідної моделі з бюджетами та єдиним рахунком, то це саме те, що kral надає як готову платформу. Ви входите на app.kral.ai, і операційний рівень вже збудовано:
- Claude, GPT, Gemini, DeepSeek, Perplexity та інші в одному застосунку, без жодних ключів API,
- потокенний білінг із місячними тарифами та поповнюваними кредитами, тож споживання відноситься до особи, яка його спричинила,
- командні тарифи: один контракт, спільний бюджет, учасники, якими Ви керуєте самостійно,
- завантаження файлів із пошуком по документах, генерація зображень і вебпошук уже налаштовані,
- інтерфейс 29 мовами,
- і оновлення, які беремо на себе ми: коли виходить реліз, ми його зливаємо, тестуємо та розгортаємо.
Повна історія про те, як ми керуємо цим стеком, зокрема й про складні його частини, є в статті керований хостинг LibreChat. А оскільки основа є open source, вихід завжди відкритий: експортуйте свої дані та запустіть стек самостійно будь-коли. Простір під власним брендом, якщо він Вам потрібен, це функція продукту без жодного обмеження за кількістю користувачів.
Open WebUI на власному хостингу проти керованого kral: чесне порівняння
| Open WebUI на власному хостингу | Керований (kral) | |
|---|---|---|
| Час до першого чату | Хвилини для першого користувача; вихідні до другої репліки | Близько хвилини |
| Оновлення | Ви завантажуєте, читаєте, тестуєте, розгортаєте | Робимо за Вас |
| Доступ до моделей | Ваші ключі API, окремий акаунт для кожного провайдера | У комплекті, один вхід |
| Локальні моделі на Вашому GPU | Його рідна стихія | Не те, для чого призначений хостований сервіс |
| Контроль витрат на кожного користувача | Створюйте самостійно | Бюджети та потокенний білінг вбудовані |
| Ребрендинг | За понад 50 користувачів лише з корпоративною ліцензією | Функція продукту |
| Розташування даних | Повністю Ваші, на Вашому обладнанні | На інфраструктурі kral, з експортом будь-коли |
| Скільки це коштує | Сервер, рахунки від провайдерів, Ваші години | Тариф або кредити, один рахунок |
Самостійний хостинг виграє у двох речах, і вони вагомі: дані ніколи не залишають Вашу будівлю, а локальні моделі лишаються локальними. Якщо у Вас є команда з інфраструктури, жорстка вимога щодо резидентності даних чи стійка з GPU з Вашим іменем на ній, розгортайте самостійно. Це правильне рішення, і проєкт заслуговує на Вашу зірку на GitHub.
Є ще й третій шлях. Платформа, на якій побудований kral, може працювати всередині Вашої компанії, навіть нативно на Вашому власному Windows Server. Вимога розміщення on-premises не ставить крапку в розмові.
Питання, які насправді ставлять команди
Чи є kral хостованим Open WebUI?
Ні, і ми не вдаватимемо інше. kral побудований на LibreChat, порівнянній open source AI-платформі. Результат збігається майже повністю: кожна провідна модель, один вхід, бюджети, команди, чат із документами. Внутрішня будова відрізняється, і якщо Ваше розгортання залежить від специфіки Open WebUI, як-от пайплайнів чи функцій, то kral, це не воно.
Чи можемо ми зберегти наші локальні моделі Ollama?
Не в хостованому сервісі; app.kral.ai працює з провідними хмарними моделями. Якщо локальні моделі є вимогою, розгорніть Open WebUI самостійно або запустіть придатну до самостійного розміщення платформу, на якій побудований kral, у своїй мережі та спрямуйте її на OpenAI-сумісний endpoint, як-от Ollama чи vLLM.
Чи потрібні нам власні ключі API?
Ні. Кожна модель на платформі входить у комплект і тарифікується потокенно. Нікому не треба відкривати акаунт OpenAI, і жоден ключ не може витекти, бо роздавати нічого.
Про що застереження щодо брендингу Open WebUI?
Починаючи з 2025 року ліцензія вимагає зберігати брендинг "Open WebUI", щойно розгортання перевищує 50 користувачів за будь-який ковзний 30-денний період, якщо корпоративна ліцензія чи письмовий дозвіл не передбачають іншого. Це фінансує проєкт, і це справедливо. Про це також варто знати, перш ніж планувати розгортання під власним брендом, тож прочитайте актуальний текст ліцензії; деталі можуть змінюватися.
Скільки це коштує?
Місячні тарифи з увімкненим споживанням, плюс кредити, які можна поповнювати в міру потреби. Актуальні цифри є на kral.ai; жодної націнки за місце, прихованої в PDF.
Open WebUI вартий часу Вашої команди. Чи вартий він також Ваших вечорів, це вже інше питання. Якщо Ви радше витратили б їх деінде, керований шлях займає близько хвилини:
Коментарі (0)
Коментарів ще немає. Будьте першим!
Увійдіть, щоб залишити коментар.
Увійти Реєстрація