Spravovaný hosting LibreChatu: všechny modely, žádná údržba

Našli jste LibreChat, spustili docker compose up a o hodinu později mohl celý váš tým používat Claude, GPT a Gemini v jednom přehledném rozhraní. Přesuňme se o tři měsíce dopředu: stali jste se neplaceným provozovatelem produkčního systému. Mongo si žádá zálohy. RAG API se po aktualizaci rozbilo. Někdo vložil sdílený klíč OpenAI do kanálu na Slacku. A finanční oddělení se pořád ptá, kdo v březnu utratil 400 dolarů za tokeny.

Nic z toho není chyba LibreChatu. Tak vypadá skutečná cena provozu jakékoli víceuživatelské AI platformy. Otázkou je pouze to, zda tato práce patří na váš stůl.

"docker compose up" je ta snadná část

LibreChat si svou pověst vysloužil poctivě. Je to nejlepší open source AI chat, jaký existuje: všechny významné modely, agenti, chat nad soubory, generování obrázků a rozhraní, které váš tým už umí používat.

Produkční provoz je jiná disciplína. Skutečné nasazení LibreChatu je malá platforma:

• MongoDB pro konverzace, které musí někdo zálohovat a testovat obnovu,
• Meilisearch pro vyhledávání,
• samostatné RAG API plus vektorová databáze, pokud chcete nahrávání souborů a chat nad dokumenty,
• reverzní proxy, TLS, doména a monitoring, který vám oznámí výpadek dřív než vaši uživatelé,
• soubor .env a librechat.yaml, které s každou zapnutou funkcí nesou stále větší zátěž,
• a API klíče pro každého poskytovatele, kterého připojíte: OpenAI, Anthropic, Google a kohokoli, kdo vydá další model, který váš tým bude chtít hned první den.

A pak začnou aktualizace. LibreChat se vyvíjí rychle, což je skvělá zpráva pro uživatele a opakující se úkol pro provozovatele. Každé vydání znamená changelog k přečtení, sloučení k otestování a servisní okno k naplánování. Pár jich vynecháte a ten skok začne nahánět strach. Nasadíte všechny a je z toho práce na částečný úvazek.

Víme to, protože přesně tohle děláme. kral provozuje LibreChat v produkci každý den; seznam výše je náš provozní manuál, ne strašení.

Část, před kterou vás nikdo nevaruje: uživatelé, klíče a peníze

Pro jednoho uživatele je vlastní provoz naprosto v pořádku. Bolest začíná u uživatele číslo dvě.

Víc uživatelů znamená, že někdo musí zodpovědět tři otázky. Kdo má povolen přístup? Co smí používat? Kdo za co platí? S holými API klíči máte dvě špatné možnosti: jeden sdílený klíč (žádné přiřazení nákladů a jediný únik spálí celý rozpočet), nebo klíč pro každého (tření při onboardingu, riziko při offboardingu a hromada faktur od poskytovatelů, které musí finanční oddělení srovnat).

LibreChat nabízí základní tokenové kredity, ale je to chatovací aplikace, ne fakturační systém. Nejsou tu žádné tarify, žádné faktury, žádné zpracování daní, žádné dobíjení kreditu, které si vaši uživatelé mohou pořídit sami. Při firemním nasazení bývá právě tato mezera tím, co celý projekt zastaví, ne servery.

Co by měl spravovaný hosting LibreChatu pokrývat

Spravovaný hosting dává smysl jen tehdy, když odstraní celý ten seznam, ne jen kontejnery. Ať už si vyberete kohokoli, včetně nás, trvejte na tomto:

• Aktuální základ LibreChatu. Aktualizace přicházejí bez vašeho přičinění a produkt nadále sleduje open source projekt, místo aby zamrzl jako soukromý klon.
• Modely v ceně. Všechny významné modely přes jeden vstupní bod, žádné API klíče, které je třeba získávat, rozdělovat nebo obměňovat.
• Skutečná kontrola nákladů. Rozpočty na uživatele, spotřeba, kterou lze přiřadit konkrétní osobě, a jedna faktura místo pěti.
• Správa týmu. Pozvat, odebrat, hotovo. Přístup končí spolu se smlouvou.
• Kompletní sada funkcí. Chat nad soubory, generování obrázků a vyhledávání na webu by měly fungovat hned první den; jsou z poloviny důvodem, proč je celá sestava tak složitá.
• Cesta ven. Vaše konverzace lze exportovat a základní software je open source. Pokud je odchod těžký, nejste zákazník, ale rukojmí.

Jak to provozuje kral

kral je LibreChat provozovaný jako hotová platforma. Přihlásíte se na app.kral.ai a dostanete rozhraní, které jste si chtěli hostovat sami, jen s už hotovou provozní vrstvou:

• Claude, GPT, Gemini, DeepSeek, Perplexity a další, v jedné aplikaci, nikde žádné API klíče,
• účtování po tokenech s měsíčními tarify a dobíjecími kredity, takže spotřeba se přiřadí té osobě, která ji způsobila,
• týmové tarify: jedna smlouva, sdílený rozpočet, členové, které spravujete sami,
• nahrávání souborů s vyhledáváním v dokumentech, generování obrázků a vyhledávání na webu už zapojené,
• rozhraní ve 29 jazycích,
• aktualizace vyřešené za vás: když LibreChat vydá novou verzi, sloučíme ji, otestujeme a nasadíme.

Na rovinu: kral provozuje udržovaný fork LibreChatu a patche existují právě kvůli tomu, co je uvedeno výše (brána, účtování, týmy). Upstreamová vydání sledujeme záměrně, protože hostovaný LibreChat, který přestane být LibreChatem, míjí celý smysl.

A protože jde o LibreChat, cesta ven zůstává otevřená. Kdykoli budete chtít, exportujte si data a provozujte open source sestavu sami. Raději budeme volbou, kterou si znovu a znovu vybíráte, než tou, u které jste uvázli.

Vlastní režie, nebo spravovaný hosting? Upřímné srovnání

Vlastní režie vítězí v jedné věci, a je to věc zásadní: data nikdy neopustí vaši budovu. Pokud máte infrastrukturní tým a striktní požadavek na umístění dat, zvolte vlastní režii. Je to správné rozhodnutí a projekt si zaslouží vaši hvězdičku na GitHubu.

Existuje i třetí cesta. Platforma, na které kral stojí, může běžet uvnitř vaší firmy, dokonce nativně na vašem vlastním Windows Serveru. Požadavek na provoz on-premises neznamená konec debaty.

Otázky, které týmy skutečně kladou

Je kral totéž co LibreChat?

Chatovací zážitek je LibreChat, držený blízko upstreamu. Kolem něj kral přidává to, co firemní nasazení potřebuje: bránu k modelům, účtování, rozpočty a správu týmu.

Potřebujeme vlastní API klíče?

Ne. Každý model na platformě je v ceně a účtuje se po tokenech. Nikdo si nemusí zakládat účet u OpenAI a žádný klíč nemůže uniknout, protože žádné se nerozdávají.

Můžeme se později vrátit k vlastní režii?

Ano. Vaše konverzace lze exportovat a software je open source. Cesta ven je reálná, a přesně proto vás u sebe nedržíme přes lock-in.

Funguje to pro týmy?

Ano. Týmový tarif je jedna smlouva se sdíleným rozpočtem: vlastník zve členy, všichni čerpají ze stejného fondu a přístup končí ve chvíli, kdy někoho odeberete.

Kolik to stojí?

Měsíční tarify se zahrnutou spotřebou a k tomu kredity, které si můžete průběžně dobíjet. Aktuální čísla najdete na kral.ai; žádná přirážka za uživatele schovaná v PDF.

LibreChat za čas vašeho týmu stojí. Jestli stojí i za vaše večery, to je jiná otázka. Pokud zní odpověď ne:

Vyzkoušejte kral hned teď