Pārvaldīta Open WebUI mitināšana: kas tajā jāietver un godīga alternatīva

Izmēģinājums bija veiksmīgs. Open WebUI kādā pēcpusdienā nonāca uz brīva servera, un nedēļas laikā visa komanda jau sarakstījās ar GPT, Claude un lokālu Llama caur Ollama vienā izsmalcinātā saskarnē. Pārtīsim trīs mēnešus uz priekšu: Jūs esat neapmaksāts produkcijas sistēmas operators. Datubāze glabājas diskā, kuram neviens neveido dublējumus. Iegultā vektoru krātuve sabruka tajā dienā, kad pievienojāt otro repliku. Kāds ielīmēja koplietoto OpenAI atslēgu Slack kanālā. Un finanšu nodaļa nemitīgi jautā, kurš martā iztērēja 400 dolāru par tokeniem.

Nekas no tā nav Open WebUI vaina. Tā vienkārši ir cena, ko patiešām prasa jebkuras daudzlietotāju AI platformas uzturēšana. Vienīgais jautājums ir, vai šim darbam jāgulstas uz Jūsu pleciem. Un viena godīga piezīme, pirms sākam: kral, platforma aiz šī raksta, nav būvēta uz Open WebUI. Mēs skaidri pateiksim, ko tas nozīmē.

Palaišana nekad nebija grūtākā daļa

Open WebUI savu reputāciju ir nopelnījis godīgi. Tā ir viena no labākajām pašmitinātajām AI saskarnēm, kāda vien ir: visi nozīmīgākie modeļi caur OpenAI saderīgām API, lokālie modeļi caur Ollama, dokumentu tērzēšana ar iebūvētu RAG, rīki un spraudņi, un saskarne, ko Jūsu komanda apgūst dažās minūtēs. Ātrā uzsākšana ir pelnījusi savu reputāciju.

Produkcija ir cits stāsts. Tajā brīdī, kad Open WebUI apkalpo komandu, nevis vienu entuziastu, uzstādījums izaug par nelielu platformu:

• ārēju PostgreSQL, jo noklusējuma SQLite ir piemērots vienam eksemplāram, bet ne otrajam,
• Redis, lai pieteikšanās un websockets izdzīvotu vairāk nekā vienu repliku,
• ārēju vektoru datubāzi, jo iegultā dokumentu krātuve nav būvēta vairākiem procesiem, kas raksta vienlaikus,
• koplietotu krātuvi augšupielādēm un ģenerētajiem attēliem, kā arī slepeno atslēgu, par kuru visām replikām jāvienojas,
• reverso starpniekserveri, TLS, domēnu un uzraudzību, kas Jums pasaka par dīkstāvi ātrāk nekā Jūsu lietotāji,
• un API atslēgas katram pakalpojumu sniedzējam, ko pieslēdzat: OpenAI, Anthropic, Google un ikvienam, kas laiž klajā nākamo modeli, kuru Jūsu komanda vēlas jau pirmajā dienā.

Tad sākas atjauninājumi. Open WebUI attīstās strauji, kas lietotājam ir lieliskas ziņas, bet operatoram ir regulārs pienākums. Katrs laidiens nozīmē izmaiņu žurnālu, ko izlasīt, testēšanu darbplūsmām un funkcijām, ko esat uzbūvējis virsū, un apkopes logu, ko ieplānot. Izlaidiet dažus, un pāreja kļūst biedējoša. Uzstādiet tos visus, un tas ir nepilnas slodzes darbs.

Mēs to zinām, jo katru dienu darbinām šī saraksta dvīni. kral uztur atvērtā pirmkoda AI platformu produkcijā, un iepriekšējais saraksts ir mūsu pašu darbību rokasgrāmata, tikai ar citiem nosaukumiem uz kastēm.

Atzinība, kur tā pienākas, un plaisa, kas paliek

Vispirms godīgi: atvērtā pirmkoda projektam Open WebUI ir neparasti spēcīgs lietotāju pārvaldībā. Lomas, grupas un detalizētas atļaujas ir iebūvētas, un tikai piekļuves kontroles ziņā Jūs, iespējams, nekad no tā neizaugsiet.

Plaisa ir nauda. Ar tīrām API atslēgām Jums ir divas sliktas iespējas: viena koplietota atslēga (nekādas attiecināšanas, un viena noplūde iznīcina visu budžetu) vai atslēga katram cilvēkam (grūtības uzņemšanā, risks atvienošanā un kaudze ar pakalpojumu sniedzēju rēķiniem, ko finanšu nodaļai jāsaskaņo). Open WebUI ir tērzēšanas platforma, nevis norēķinu sistēma. Nav plānu, nav rēķinu, nav nodokļu apstrādes, nav papildinājumu, ko Jūsu lietotāji varētu iegādāties paši. Uzņēmuma ieviešanā tieši šī plaisa parasti ir šķērslis, nevis serveri.

Pirms uz tā ko būvējat, ir vēl viena lieta, kas jāizlasa: licence. Kopš 2025. gada Open WebUI tiek izplatīts saskaņā ar uz BSD-3 balstītu licenci ar zīmola klauzulu. Nosaukuma "Open WebUI" un logotipa saglabāšana ir obligāta, tiklīdz izvietojums jebkurā ritošā 30 dienu periodā pārsniedz 50 lietotāju, ja vien Jums nav uzņēmuma licences vai rakstiskas atļaujas. Tas ir likumīgs veids, kā finansēt atvērtā pirmkoda projektu, un tas ir jāzina, pirms solāt savam uzņēmumam pārzīmolotu portālu. Izlasiet pašreizējo licences tekstu paši; tas ir novērojums, nevis juridiska konsultācija.

Kas būtu jāietver pārvaldītai Open WebUI mitināšanai

Pārvaldīta mitināšana ir jēgpilna tikai tad, ja tā novērš visu sarakstu, nevis tikai konteinerus. Lai kuru arī izvēlētos, prasiet no viņiem šo:

• Aktuāls pamats. Atjauninājumi tiek piegādāti bez Jūsu iesaistes, un produkts turpina sekot atvērtā pirmkoda projektam, nevis noslīd iesaldētā privātā klonā.
• Iekļauti modeļi. Visi nozīmīgākie modeļi caur vienu ieejas punktu, bez API atslēgām, kas jāiegūst, jāizplata vai jārotē.
• Reāla izmaksu kontrole. Budžeti katram lietotājam, lietojums, ko varat attiecināt uz konkrētu personu, un viens rēķins piecu vietā.
• Komandas pārvaldība. Uzaiciniet, noņemiet, gatavs. Piekļuve beidzas līdz ar līgumu.
• Pilns funkciju klāsts. Dokumentu tērzēšanai, attēlu ģenerēšanai un tīmekļa meklēšanai jādarbojas jau pirmajā dienā; tās ir puse no iemesla, kāpēc steks ir sarežģīts.
• Atbilde par licencēšanu. Ja Jums ir svarīgs pārzīmolots portāls, jautājiet, kā tas iespējams virs 50 lietotājiem. "Uzticieties mums" nav atbilde.
• Izeja. Jūsu dati ir eksportējami, un pamatā esošā programmatūra ir atvērtā pirmkoda. Ja aiziešana ir sarežģīta, Jūs neesat klients, Jūs esat ķīlnieks.

Godīgā daļa: kral nav Open WebUI

kral ir pārvaldīta AI darbvieta, kas būvēta uz LibreChat, Open WebUI tuvākā radinieka, un mēs to sakām ar pirmo elpas vilcienu, jo uzticēšanās mirst otrajā lappusē. Ja Jums ir vajadzīgs pats Open WebUI, jo Jūsu komanda uz tā ir uzbūvējusi darbplūsmas un funkcijas vai tāpēc, ka Jūsu modeļi darbojas uz Jūsu pašu GPU, tad kaut kā cita pārvaldīta versija nav atbilde. Mitiniet to paši un izbaudiet.

Ja Jūs vēlaties rezultātu, vienu darbvietu, kur visa komanda sasniedz katru nozīmīgāko modeli ar budžetiem un vienu rēķinu, tad tieši to kral nodrošina kā gatavu platformu. Jūs piesakāties vietnē app.kral.ai, un operacionālais slānis jau ir uzbūvēts:

• Claude, GPT, Gemini, DeepSeek, Perplexity un vēl vairāk vienā lietotnē, bez API atslēgām jebkur,
• norēķini par katru tokenu ar ikmēneša plāniem un papildināmiem kredītiem, lai lietojums tiktu attiecināts uz personu, kas to izraisīja,
• komandas plāni: viens līgums, koplietots budžets, dalībnieki, kurus pārvaldāt paši,
• failu augšupielādes ar dokumentu meklēšanu, attēlu ģenerēšana un tīmekļa meklēšana, kas jau ir gatavas darbam,
• saskarne 29 valodās,
• un atjauninājumi, par kuriem parūpējamies mēs: kad iznāk laidiens, mēs to sapludinām, notestējam un izvietojam.

Pilns stāsts par to, kā mēs darbinām šo steku, ieskaitot grūtākās daļas, ir rakstā pārvaldīta LibreChat mitināšana. Un tā kā pamats ir atvērtā pirmkoda, izeja paliek atvērta: eksportējiet savus datus un darbiniet steku paši, kad vien vēlaties. Pārzīmolota darbvieta, ja tāda Jums vajadzīga, ir produkta funkcija bez lietotāju skaita robežas.

Pašmitināts Open WebUI pret pārvaldītu kral: godīgs salīdzinājums

Pašmitināšana uzvar divās lietās, un tās ir nozīmīgas: dati nekad neatstāj Jūsu ēku, un lokālie modeļi paliek lokāli. Ja Jums ir infrastruktūras komanda, stingra datu atrašanās vietas prasība vai GPU statīvs ar Jūsu vārdu uz tā, mitiniet paši. Tas ir pareizais lēmums, un projekts ir pelnījis Jūsu zvaigzni platformā GitHub.

Ir arī trešais ceļš. Platforma, uz kuras ir būvēts kral, var darboties Jūsu uzņēmuma iekšienē, pat natīvi uz Jūsu pašu Windows Server. Prasība pēc lokālas izvietošanas neizbeidz sarunu.

Jautājumi, ko komandas patiešām uzdod

Vai kral ir mitināts Open WebUI?

Nē, un mēs neizliksimies citādi. kral ir būvēts uz LibreChat, salīdzināmas atvērtā pirmkoda AI platformas. Rezultāts sakrīt gandrīz pilnībā: katrs nozīmīgākais modelis, viena pieteikšanās, budžeti, komandas, dokumentu tērzēšana. Iekšējā uzbūve atšķiras, un, ja Jūsu ieviešana ir atkarīga no Open WebUI specifikām, piemēram, darbplūsmām vai funkcijām, kral tas nav.

Vai varam paturēt savus lokālos Ollama modeļus?

Ne mitinātajā pakalpojumā; app.kral.ai darbina nozīmīgākos mākoņa modeļus. Ja lokālie modeļi ir prasība, mitiniet Open WebUI paši vai darbiniet savā tīklā pašmitināmo platformu, uz kuras ir būvēts kral, un vērsiet to uz OpenAI saderīgu galapunktu, piemēram, Ollama vai vLLM.

Vai mums ir vajadzīgas savas API atslēgas?

Nē. Katrs platformas modelis ir iekļauts, un par to tiek norēķināts par katru tokenu. Nevienam nav jāatver OpenAI konts, un neviena atslēga nevar noplūst, jo nav nekādu, ko izsniegt.

Par ko ir Open WebUI zīmola klauzula?

Kopš 2025. gada licence prasa saglabāt "Open WebUI" zīmolu, tiklīdz izvietojums jebkurā ritošā 30 dienu periodā pārsniedz 50 lietotāju, ja vien uzņēmuma licence vai rakstiska atļauja nenosaka citādi. Tas finansē projektu, un tas ir godīgi. Tas arī ir jāzina, pirms plānojat pārzīmolotu ieviešanu, tāpēc izlasiet pašreizējo licences tekstu; detaļas var mainīties.

Cik tas maksā?

Ikmēneša plāni ar iekļautu lietojumu, kā arī kredīti, ko varat papildināt pēc vajadzības. Aktuālie skaitļi ir vietnē kral.ai; nav nekāda uzcenojuma par katru vietu, kas būtu paslēpts PDF failā.

Open WebUI ir Jūsu komandas laika vērts. Vai tas ir pelnījis arī Jūsu vakarus, ir cits jautājums. Ja labprātāk tos pavadītu citur, pārvaldītais ceļš aizņem aptuveni minūti:

Izmēģiniet kral tagad

Rezervējiet demonstrāciju