Administrert LibreChat-hosting: alle modellene, null vedlikehold

Du fant LibreChat, kjørte docker compose up, og en time senere kunne hele teamet ditt bruke Claude, GPT og Gemini i ett ryddig grensesnitt. Spol tre måneder frem: du er den ubetalte operatøren av et produksjonssystem. Mongo vil ha backup. RAG API-et sluttet å fungere etter en oppdatering. Noen limte den delte OpenAI-nøkkelen inn i en Slack-kanal. Og økonomiavdelingen spør stadig hvem som brukte 400 dollar på tokens i mars.

Ingenting av dette er LibreChats feil. Det er hva det koster å drifte en hvilken som helst AI-plattform med flere brukere. Det eneste spørsmålet er om den jobben hører hjemme på ditt bord.

"docker compose up" er den enkle delen

LibreChat har fortjent ryktet sitt med rette. Det er den beste AI-chatten med åpen kildekode som finnes: alle de store modellene, agenter, filchat, bildegenerering og et grensesnitt teamet ditt allerede kan bruke.

Produksjon er en annen jobb. En ekte LibreChat-installasjon er en liten plattform:

• MongoDB for samtaler, som noen må ta backup av og teste gjenoppretting av,
• Meilisearch for søk,
• et separat RAG API pluss en vektordatabase hvis du vil ha filopplasting og dokumentchat,
• en omvendt proxy, TLS, et domene og overvåking som varsler deg om at det er nede før brukerne dine gjør det,
• en .env-fil og en librechat.yaml som blir mer bærende for hver funksjon du aktiverer,
• og API-nøkler for hver leverandør du kobler til: OpenAI, Anthropic, Google, og hvem enn som slipper den neste modellen teamet ditt vil ha fra dag én.

Så begynner oppdateringene. LibreChat beveger seg raskt, noe som er gode nyheter for en bruker og en tilbakevendende oppgave for en operatør. Hver utgivelse er en endringslogg å lese, en fletting å teste og et vedlikeholdsvindu å planlegge. Hopp over noen, og spranget blir skummelt. Ta dem alle, og det er en deltidsjobb.

Vi vet det fordi vi gjør nettopp dette. kral drifter LibreChat i produksjon hver dag; listen over er driftsrutinene våre, ikke en skrekkhistorie.

Delen ingen advarer deg om: brukere, nøkler og penger

For én enkelt bruker er selvhosting helt greit. Trøbbelet starter ved bruker nummer to.

Flere brukere betyr at noen må svare på tre spørsmål. Hvem får slippe inn? Hva får de bruke? Hvem betaler for hva? Med rå API-nøkler får du to dårlige valg: én delt nøkkel (ingen sporing, og én lekkasje brenner opp hele budsjettet) eller én nøkkel per person (friksjon ved onboarding, risiko ved offboarding, og en bunke leverandørfakturaer som økonomiavdelingen må avstemme).

LibreChat leveres med enkle token-kreditter, men det er en chat-app, ikke et faktureringssystem. Det finnes ingen abonnementer, ingen fakturaer, ingen mva-håndtering, ingen påfyll brukerne dine kan kjøpe selv. For en utrulling i en bedrift er det som regel dette gapet som stopper prosjektet, ikke serverne.

Hva administrert LibreChat-hosting bør dekke

Administrert hosting gir bare mening hvis det fjerner hele listen, ikke bare containerne. Uansett hvem du velger, oss inkludert, krev dette av dem:

• Et oppdatert LibreChat-fundament. Oppdateringer kommer uten at du er involvert, og produktet fortsetter å følge åpen kildekode-prosjektet i stedet for å drive av gårde til en frossen privat klone.
• Modeller inkludert. Alle de store modellene gjennom ett inngangspunkt, ingen API-nøkler å skaffe, distribuere eller rotere.
• Ekte kostnadskontroll. Budsjetter per bruker, forbruk du kan tilordne en person, og én faktura i stedet for fem.
• Teamadministrasjon. Inviter, fjern, ferdig. Tilgangen opphører når kontrakten gjør det.
• Hele funksjonssettet. Filchat, bildegenerering og nettsøk bør fungere fra dag én; de er halve grunnen til at stacken er kompleks.
• En vei ut. Samtalene dine kan eksporteres, og den underliggende programvaren er åpen kildekode. Hvis det er vanskelig å komme seg ut, er du ikke en kunde, du er et gissel.

Slik drifter kral det

kral er LibreChat, driftet som en ferdig plattform. Du logger inn på app.kral.ai og får grensesnittet du var i ferd med å selvhoste, med driftslaget allerede bygget:

• Claude, GPT, Gemini, DeepSeek, Perplexity og mer, i én app, uten API-nøkler noe sted,
• fakturering per token med månedlige abonnementer og påfyllskreditter, slik at forbruket tilordnes personen som forårsaket det,
• teamabonnementer: én kontrakt, ett delt budsjett, medlemmer du administrerer selv,
• filopplasting med dokumentsøk, bildegenerering og nettsøk allerede satt opp,
• et grensesnitt på 29 språk,
• oppdateringer håndtert for deg: når LibreChat slipper en utgivelse, fletter vi den, tester den og ruller den ut.

For ærlighetens skyld: kral kjører en vedlikeholdt LibreChat-fork, og patchene finnes for nettopp tingene over (gatewayen, faktureringen, teamene). Vi følger utgivelsene oppstrøms bevisst, fordi en hostet LibreChat som slutter å være LibreChat, har mistet poenget.

Og fordi det er LibreChat, står utgangen åpen. Eksporter dataene dine og kjør åpen kildekode-stacken selv når du vil. Vi vil heller være valget du fortsetter å velge, enn det du sitter fast med.

Selvhostet eller administrert? Den ærlige sammenligningen

Selvhosting vinner på én ting, og den er stor: dataene forlater aldri bygget ditt. Hvis du har et infrastrukturteam og et strengt krav til hvor dataene skal lagres, host selv. Det er riktig valg, og prosjektet fortjener stjernen din på GitHub.

Det finnes også en tredje vei. Plattformen som kral er bygget på, kan kjøre inne i bedriften din, til og med nativt på din egen Windows Server. Et krav om on-premises avslutter ikke samtalen.

Spørsmål team faktisk stiller

Er kral det samme som LibreChat?

Chat-opplevelsen er LibreChat, holdt tett opp mot oppstrøms. Rundt den legger kral til det en bedriftsutrulling trenger: modell-gatewayen, fakturering, budsjetter og teamadministrasjon.

Trenger vi våre egne API-nøkler?

Nei. Hver modell på plattformen er inkludert og faktureres per token. Ingen trenger å opprette en OpenAI-konto, og ingen nøkkel kan lekke, fordi det ikke finnes noen å dele ut.

Kan vi gå tilbake til selvhosting senere?

Ja. Samtalene dine kan eksporteres, og programvaren er åpen kildekode. Veien ut er reell, og det er nettopp derfor vi ikke baserer oss på innlåsing for å beholde deg.

Fungerer det for team?

Ja. Et teamabonnement er én kontrakt med ett delt budsjett: eieren inviterer medlemmer, alle trekker fra den samme potten, og tilgangen opphører i det øyeblikket du fjerner noen.

Hva koster det?

Månedlige abonnementer med inkludert forbruk, pluss kreditter du kan fylle på underveis. Aktuelle tall finner du på kral.ai; det finnes ingen påslag per plass skjult i en PDF.

LibreChat er verdt tiden til teamet ditt. Om det også er verdt kveldene dine, er et annet spørsmål. Hvis svaret er nei:

Prøv kral nå