Valdomas Open WebUI talpinimas: ką jis turėtų apimti ir sąžininga alternatyva

Bandomasis projektas pavyko puikiai. Vieną popietę Open WebUI atsidūrė atsarginiame serveryje, ir per savaitę visa komanda jau bendravo su GPT, Claude ir vietiniu Llama per Ollama vienoje dailioje sąsajoje. Prasukime tris mėnesius į priekį: jūs esate neapmokamas gamybinės sistemos operatorius. Duomenų bazė guli diske, kurio atsarginių kopijų niekas nedaro. Įterptoji vektorinė saugykla sugriuvo tą dieną, kai pridėjote antrą repliką. Kažkas įklijavo bendrą OpenAI raktą į Slack kanalą. O finansų skyrius vis klausinėja, kas kovą tokenams išleido 400 dolerių.

Dėl nieko iš to nekaltas Open WebUI. Tokia yra tikroji bet kurios daugelio naudotojų DI platformos eksploatavimo kaina. Vienintelis klausimas, ar tas darbas apskritai turi gulti ant jūsų pečių. Ir viena sąžininga pastaba prieš pradedant: kral, platforma, apie kurią kalbama šiame straipsnyje, nėra sukurta Open WebUI pagrindu. Aiškiai paaiškinsime, ką tai reiškia.

Paleisti niekada nebuvo pati sunkiausia dalis

Open WebUI savo reputaciją užsitarnavo sąžiningai. Tai viena geriausių savarankiškai talpinamų DI sąsajų: visi pagrindiniai modeliai per su OpenAI suderinamas API sąsajas, vietiniai modeliai per Ollama, dokumentų pokalbiai su integruotu RAG, įrankiai ir papildiniai bei sąsaja, kurią jūsų komanda išmoksta per kelias minutes. Greitasis startas nusipelno savo reputacijos.

Gamybinė aplinka yra visai kitas darbas. Vos tik Open WebUI pradeda aptarnauti komandą, o ne pavienį entuziastą, konfigūracija išauga į nedidelę platformą:

• išorinė PostgreSQL, nes numatytoji SQLite tinka vienam egzemplioriui, bet ne antram,
• Redis, kad prisijungimai ir websocket ryšiai išgyventų daugiau nei vieną repliką,
• išorinė vektorinė duomenų bazė, nes įterptoji dokumentų saugykla nėra pritaikyta keliems procesams, vienu metu rašantiems duomenis,
• bendra saugykla įkeltiems failams ir sugeneruotiems paveikslėliams, taip pat slaptas raktas, dėl kurio turi sutarti kiekviena replika,
• atvirkštinis tarpinis serveris, TLS, domenas ir stebėsena, kuri praneša apie gedimą anksčiau nei jūsų naudotojai,
• ir API raktai kiekvienam prijungtam tiekėjui: OpenAI, Anthropic, Google ir bet kuriam, kuris pirmą pačią dieną išleis kitą modelį, kurio panorės jūsų komanda.

Tada prasideda atnaujinimai. Open WebUI sparčiai tobulėja, o tai puiki žinia naudotojui ir nuolatinė užduotis operatoriui. Kiekviena laida reiškia pakeitimų sąrašą, kurį reikia perskaityti, testavimo etapą jūsų sukurtoms procesų grandinėms ir funkcijoms bei suplanuotiną techninės priežiūros langą. Praleiskite keletą, ir šuolis pasidaro bauginantis. Įdiekite visus, ir tai tampa darbu ne visą darbo dieną.

Mes tai žinome, nes kasdien tvarkome šio sąrašo dvynį. kral gamybinėje aplinkoje eksploatuoja atvirojo kodo DI platformą, o aukščiau pateiktas sąrašas yra mūsų pačių veiksmų vadovas, tik su kitais pavadinimais ant dėžučių.

Pelnytas pripažinimas ir išliekanti spraga

Pirmiausia teisybė: kaip atvirojo kodo projektas, Open WebUI neįprastai stiprus naudotojų valdymo srityje. Rolės, grupės ir detalūs leidimai yra integruoti, ir vien prieigos kontrolės atžvilgiu jūs galbūt niekada jo neperaugsite.

Spraga yra pinigai. Su grynais API raktais gaunate du blogus variantus: vieną bendrą raktą (jokio priskyrimo, ir vienas nutekėjimas sudegina visą biudžetą) arba po raktą kiekvienam asmeniui (naujų narių įtraukimo trukdžiai, jų pašalinimo rizika ir krūva tiekėjų sąskaitų, kurias finansų skyrius turi suderinti). Open WebUI yra pokalbių platforma, o ne atsiskaitymų sistema. Nėra jokių planų, jokių sąskaitų, jokio mokesčių tvarkymo, jokių papildymų, kuriuos jūsų naudotojai galėtų įsigyti patys. Įmonės diegimo atveju būtent ta spraga paprastai yra lemiama kliūtis, o ne serveriai.

Prieš kurdami ant jo pagrindo, turėtumėte perskaityti dar vieną dalyką: licenciją. Nuo 2025 m. Open WebUI platinama pagal BSD-3 pagrindu sukurtą licenciją su prekės ženklo sąlyga. Išlaikyti "Open WebUI" pavadinimą ir logotipą privaloma, kai tik diegimas per bet kurį slenkantį 30 dienų laikotarpį viršija 50 naudotojų, nebent turite įmonės licenciją arba rašytinį leidimą. Tai teisėtas būdas finansuoti atvirojo kodo projektą, ir tai verta žinoti prieš pažadant savo įmonei portalą su nuosavu prekės ženklu. Patys perskaitykite dabartinį licencijos tekstą; tai yra pastebejimas, o ne teisinė konsultacija.

Ką turėtų apimti valdomas Open WebUI talpinimas

Valdomas talpinimas prasmingas tik tada, jei jis pašalina visą šį sąrašą, o ne vien konteinerius. Ką bepasirinktumėte, reikalaukite iš jų šito:

• Naujausia bazė. Atnaujinimai atkeliauja be jūsų įsikišimo, o produktas ir toliau seka atvirojo kodo projektą, o ne nutolsta į užšaldytą privatų kloną.
• Įtraukti modeliai. Visi pagrindiniai modeliai per vieną prieigos tašką, jokių API raktų, kuriuos reikėtų gauti, platinti ar keisti.
• Tikra išlaidų kontrolė. Biudžetai kiekvienam naudotojui, sunaudojimas, kurį galima priskirti asmeniui, ir viena sąskaita vietoj penkių.
• Komandos valdymas. Pakvieskite, pašalinkite, ir viskas. Prieiga baigiasi kartu su sutartimi.
• Visas funkcijų rinkinys. Pokalbiai su dokumentais, paveikslėlių generavimas ir paieška internete turėtų veikti nuo pirmos dienos; jie yra pusė priežasties, kodėl visa sistema tokia sudėtinga.
• Atsakymas dėl licencijavimo. Jei jums svarbus portalas su savo prekės ženklu, klauskite, kaip tai įmanoma viršijus 50 naudotojų. "Pasitikėkite mumis" nėra atsakymas.
• Išėjimo kelias. Jūsų duomenis galima eksportuoti, o pagrindinė programinė įranga yra atvirojo kodo. Jei išeiti sunku, jūs esate ne klientas, o įkaitas.

Sąžininga dalis: kral nėra Open WebUI

kral yra valdoma DI darbo erdvė, sukurta LibreChat, artimiausio Open WebUI giminaičio, pagrindu, ir tai sakome nuo pat pirmo žodžio, nes pasitikėjimas miršta antrame puslapyje. Jei jums reikia būtent paties Open WebUI, nes jūsų komanda ant jo sukūrė procesų grandines ir funkcijas arba nes jūsų modeliai veikia jūsų pačių GPU, tada joks kitas valdomas sprendimas nėra atsakymas. Talpinkite jį patys ir mėgaukitės.

Jei norite rezultato, vienos darbo erdvės, kurioje visa komanda pasiekia kiekvieną pagrindinį modelį su biudžetais ir viena sąskaita, tai būtent tokią kral eksploatuoja kaip užbaigtą platformą. Prisijungiate adresu app.kral.ai, ir eksploatacinis sluoksnis jau sukurtas:

• Claude, GPT, Gemini, DeepSeek, Perplexity ir daugiau vienoje programoje, be jokių API raktų,
• atsiskaitymas už tokeną su mėnesiniais planais ir papildomais kreditais, kad sunaudojimas būtų priskirtas jį sukėlusiam asmeniui,
• komandos planai: viena sutartis, bendras biudžetas, nariai, kuriuos valdote patys,
• failų įkėlimas su dokumentų paieška, paveikslėlių generavimas ir paieška internete, jau paruošti naudoti,
• sąsaja 29 kalbomis,
• ir atnaujinimai, atliekami už jus: kai išleidžiama laida, ją sujungiame, ištestuojame ir įdiegiame.

Visa istorija, kaip mes valdome tą sistemą, įskaitant sunkiąsias dalis, pateikta straipsnyje valdomas LibreChat talpinimas. Ir kadangi bazė yra atvirojo kodo, išėjimas lieka atviras: eksportuokite savo duomenis ir valdykite sistemą patys, kada tik panorėsite. Darbo erdvė su savo prekės ženklu, jei jos prireiktų, yra produkto funkcija be jokios naudotojų skaičiaus ribos.

Savarankiškai talpinamas Open WebUI ir valdomas kral: sąžiningas palyginimas

Savarankiškas talpinimas laimi dviem atžvilgiais, ir jie svarūs: duomenys niekada nepalieka jūsų pastato, o vietiniai modeliai lieka vietiniai. Jei turite infrastruktūros komandą, griežtą duomenų buvimo vietos reikalavimą arba GPU stovą su jūsų vardu, talpinkite patys. Tai teisingas sprendimas, ir projektas nusipelno jūsų žvaigždutės GitHub.

Yra ir trečias kelias. Platforma, kurios pagrindu sukurta kral, gali veikti jūsų įmonės viduje, netgi natyviai jūsų nuosavame Windows Server. Vietinės infrastruktūros reikalavimas nenutraukia pokalbio.

Klausimai, kuriuos komandos iš tikrųjų užduoda

Ar kral yra talpinamas Open WebUI?

Ne, ir mes nesidėsime, kad yra kitaip. kral sukurta LibreChat, panašios atvirojo kodo DI platformos, pagrindu. Rezultatas sutampa beveik visiškai: kiekvienas pagrindinis modelis, vienas prisijungimas, biudžetai, komandos, pokalbiai su dokumentais. Vidinė sandara skiriasi, ir jei jūsų diegimas priklauso nuo Open WebUI specifikos, pavyzdžiui, procesų grandinių ar funkcijų, kral yra ne tai.

Ar galime pasilikti savo vietinius Ollama modelius?

Ne talpinamoje paslaugoje; app.kral.ai naudoja pagrindinius debesijos modelius. Jei vietiniai modeliai yra būtinybė, talpinkite Open WebUI patys arba paleiskite savarankiškai talpinamą platformą, kurios pagrindu sukurta kral, savo tinkle ir nukreipkite ją į su OpenAI suderinamą galinį tašką, pavyzdžiui, Ollama ar vLLM.

Ar mums reikia savų API raktų?

Ne. Kiekvienas platformos modelis yra įtrauktas ir apmokestinamas už tokeną. Niekam nereikia atsidaryti OpenAI paskyros, ir joks raktas negali nutekėti, nes nėra ko dalinti.

Ką reiškia Open WebUI prekės ženklo sąlyga?

Nuo 2025 m. licencija reikalauja išlaikyti "Open WebUI" prekės ženklą, kai tik diegimas per bet kurį slenkantį 30 dienų laikotarpį viršija 50 naudotojų, nebent įmonės licencija arba rašytinis leidimas nurodo kitaip. Tai finansuoja projektą, ir tai teisinga. Tai taip pat verta žinoti prieš planuojant diegimą su pakeistu prekės ženklu, todėl perskaitykite dabartinį licencijos tekstą; detalės gali keistis.

Kiek tai kainuoja?

Mėnesiniai planai su įtrauktu sunaudojimu, taip pat kreditai, kuriuos galite papildyti pagal poreikį. Naujausi skaičiai pateikti kral.ai; nėra jokio antkainio už kiekvieną vietą, paslėpto PDF faile.

Open WebUI vertas jūsų komandos laiko. Ar jis vertas ir jūsų vakarų, jau kitas klausimas. Jei verčiau juos leistumėte kitur, valdomas kelias užtrunka apie minutę:

Išbandykite kral dabar

Užsisakykite demonstraciją