Hanterad LibreChat-hosting: alla modeller, inget underhåll

Du hittade LibreChat, körde docker compose up, och en timme senare kunde hela ditt team använda Claude, GPT och Gemini i ett enda stilrent gränssnitt. Spola fram tre månader: du är den obetalda operatören för ett produktionssystem. Mongo vill ha backuper. RAG API gick sönder efter en uppdatering. Någon klistrade in den delade OpenAI-nyckeln i en Slack-kanal. Och ekonomiavdelningen frågar hela tiden vem som spenderade 400 dollar på tokens i mars.

Inget av det är LibreChats fel. Det är vad det faktiskt kostar att driva vilken AI-plattform som helst med flera användare. Den enda frågan är om det arbetet hör hemma på ditt skrivbord.

"docker compose up" är den enkla delen

LibreChat har förtjänat sitt rykte ärligt. Det är den bästa AI-chatten med öppen källkod som finns: alla större modeller, agenter, filchatt, bildgenerering och ett gränssnitt som ditt team redan kan använda.

Produktion är ett annat jobb. En riktig LibreChat-driftsättning är en liten plattform:

• MongoDB för konversationer, som någon måste säkerhetskopiera och testa återställning av,
• Meilisearch för sökning,
• ett separat RAG API plus en vektordatabas om du vill ha filuppladdningar och dokumentchatt,
• en omvänd proxy, TLS, en domän och övervakning som talar om för dig att systemet är nere innan dina användare gör det,
• en .env-fil och en librechat.yaml som blir mer bärande för varje funktion du aktiverar,
• och API-nycklar för varje leverantör du ansluter: OpenAI, Anthropic, Google och vem det nu är som lanserar nästa modell ditt team vill ha från dag ett.

Sedan börjar uppdateringarna. LibreChat rör sig snabbt, vilket är goda nyheter som användare och en återkommande uppgift som operatör. Varje release är en ändringslogg att läsa, en sammanslagning att testa och ett underhållsfönster att schemalägga. Hoppa över några och steget blir skrämmande. Applicera dem alla och det är ett deltidsjobb.

Vi vet, för vi gör exakt det här. kral driver LibreChat i produktion varje dag. Listan ovan är vår driftmanual, inte en skräckhistoria.

Delen ingen varnar dig för: användare, nycklar och pengar

För en enskild användare är egen drift faktiskt helt okej. Smärtan börjar vid användare nummer två.

Flera användare betyder att någon måste svara på tre frågor. Vem släpps in? Vad får de använda? Vem betalar för vad? Med råa API-nycklar får du två dåliga alternativ: en delad nyckel (ingen spårbarhet, och en enda läcka bränner hela budgeten) eller en nyckel per person (friktion vid onboarding, risk vid offboarding och en hög med leverantörsfakturor som ekonomiavdelningen ska stämma av).

LibreChat levereras med grundläggande token-krediter, men det är en chattapp, inte ett faktureringssystem. Det finns inga abonnemang, inga fakturor, ingen momshantering, inga påfyllningar som dina användare kan köpa själva. För en företagsutrullning är det gapet oftast det som stoppar allt, inte servrarna.

Vad hanterad LibreChat-hosting bör täcka

Hanterad hosting är bara vettig om den tar bort hela listan, inte bara containrarna. Vem du än väljer, oss inkluderat, ställ det här kravet på dem:

• En aktuell LibreChat-bas. Uppdateringar kommer utan din inblandning, och produkten fortsätter att följa projektet med öppen källkod i stället för att glida iväg till en fryst privat klon.
• Modeller inkluderade. Alla större modeller genom en enda ingång, inga API-nycklar att skaffa, distribuera eller rotera.
• Verklig kostnadskontroll. Budgetar per användare, användning du kan koppla till en person och en faktura i stället för fem.
• Teamhantering. Bjud in, ta bort, klart. Åtkomsten upphör när avtalet gör det.
• Hela funktionsuppsättningen. Filchatt, bildgenerering och webbsökning ska fungera från dag ett. De är halva anledningen till att stacken är komplex.
• En väg ut. Dina konversationer går att exportera och den underliggande mjukvaran är öppen källkod. Om det är svårt att lämna är du inte en kund, du är en gisslan.

Så driver kral det

kral är LibreChat, drivet som en färdig plattform. Du loggar in på app.kral.ai och får gränssnittet du var på väg att driva själv, med driftlagret redan byggt:

• Claude, GPT, Gemini, DeepSeek, Perplexity och mer, i en enda app, utan API-nycklar någonstans,
• fakturering per token med månadsabonnemang och påfyllningskrediter, så att användningen kopplas till personen som orsakade den,
• teamabonnemang: ett avtal, en delad budget, medlemmar du hanterar själv,
• filuppladdningar med dokumentsökning, bildgenerering och webbsökning redan färdigkopplade,
• ett gränssnitt på 29 språk,
• uppdateringar som sköts åt dig: när LibreChat släpper en release slår vi ihop den, testar den och rullar ut den.

För ärlighetens skull: kral driver en underhållen LibreChat-fork, och patcharna finns för exakt de saker som nämns ovan (gatewayen, faktureringen, teamen). Vi följer uppströmsreleaser medvetet, för ett hostat LibreChat som slutar vara LibreChat har missat poängen.

Och eftersom det är LibreChat förblir utgången öppen. Exportera dina data och kör stacken med öppen källkod själv när du vill. Vi är hellre alternativet du fortsätter välja än det du sitter fast med.

Egen drift eller hanterat? Den ärliga jämförelsen

Egen drift vinner på en sak, och det är en stor sak: datan lämnar aldrig dina lokaler. Om du har ett infrastrukturteam och ett strikt krav på var datan lagras, driv själv. Det är rätt beslut, och projektet förtjänar din stjärna på GitHub.

Det finns också en tredje väg. Plattformen som kral är byggd på kan köras inne i ditt företag, till och med direkt på din egen Windows Server. Ett krav på lokal drift avslutar inte samtalet.

Frågor som team faktiskt ställer

Är kral samma sak som LibreChat?

Chattupplevelsen är LibreChat, hållen nära uppströms. Runt den lägger kral till det en företagsutrullning behöver: modellgatewayen, fakturering, budgetar och teamhantering.

Behöver vi egna API-nycklar?

Nej. Varje modell på plattformen är inkluderad och faktureras per token. Ingen behöver öppna ett OpenAI-konto, och ingen nyckel kan läcka, eftersom det inte finns några att dela ut.

Kan vi gå tillbaka till egen drift senare?

Ja. Dina konversationer går att exportera och mjukvaran är öppen källkod. Vägen ut är verklig, vilket är precis därför vi inte förlitar oss på inlåsning för att behålla dig.

Fungerar det för team?

Ja. Ett teamabonnemang är ett avtal med en delad budget: ägaren bjuder in medlemmar, alla drar från samma pott, och åtkomsten upphör i samma stund du tar bort någon.

Vad kostar det?

Månadsabonnemang med inkluderad användning, plus krediter du kan fylla på efterhand. Aktuella siffror finns på kral.ai. Det finns inget påslag per plats gömt i en PDF.

LibreChat är värt ditt teams tid. Om det också är värt dina kvällar är en annan fråga. Om svaret är nej:

Prova kral nu