U ontdekte LibreChat, voerde docker compose up uit, en een uur later kon uw hele team Claude, GPT en Gemini gebruiken in één overzichtelijke interface. Spoel drie maanden vooruit: u bent de onbetaalde beheerder van een productiesysteem. Mongo wil back-ups. De RAG API ging stuk na een update. Iemand plakte de gedeelde OpenAI-sleutel in een Slack-kanaal. En de financiële afdeling blijft vragen wie er in maart 400 dollar aan tokens heeft uitgegeven.
Niets daarvan is de schuld van LibreChat. Dat is wat het draaien van elk AI-platform voor meerdere gebruikers werkelijk kost. De enige vraag is of dat werk op uw bureau thuishoort.
"docker compose up" is het makkelijke deel
LibreChat heeft zijn reputatie eerlijk verdiend. Het is de beste opensource-AI-chat die er is: elk belangrijk model, agents, chatten met bestanden, beeldgeneratie, en een interface die uw team al weet te gebruiken.
Productie is een andere klus. Een echte LibreChat-implementatie is een klein platform:
- MongoDB voor gesprekken, waarvan iemand back-ups moet maken en het herstel moet testen,
- Meilisearch voor zoeken,
- een aparte RAG API plus een vectordatabase als u bestandsuploads en documentchat wilt,
- een reverse proxy, TLS, een domein, en monitoring die u vertelt dat het platform down is voordat uw gebruikers dat doen,
- een .env-bestand en een librechat.yaml die met elke functie die u inschakelt kritischer worden,
- en API-sleutels voor elke provider die u koppelt: OpenAI, Anthropic, Google, en wie er ook maar het volgende model uitbrengt dat uw team meteen wil.
Dan beginnen de updates. LibreChat beweegt snel, wat geweldig nieuws is als gebruiker en een terugkerende taak als beheerder. Elke release is een changelog om te lezen, een merge om te testen en een onderhoudsvenster om in te plannen. Sla er een paar over en de sprong wordt beangstigend. Voer ze allemaal door en het is een deeltijdbaan.
Wij weten dit omdat we precies dit doen. kral draait LibreChat elke dag in productie; de lijst hierboven is ons draaiboek, geen bangmakerij.
Het deel waar niemand u voor waarschuwt: gebruikers, sleutels en geld
Voor één enkele gebruiker is zelf hosten echt prima. De pijn begint bij gebruiker nummer twee.
Meerdere gebruikers betekent dat iemand drie vragen moet beantwoorden. Wie mag erin? Wat mogen ze gebruiken? Wie betaalt waarvoor? Met kale API-sleutels heeft u twee slechte opties: één gedeelde sleutel (geen toewijzing, en één lek verbrandt het hele budget) of een sleutel per persoon (frictie bij onboarding, risico bij offboarding, en een stapel providerfacturen die de financiële afdeling moet afstemmen).
LibreChat wordt geleverd met eenvoudige tokentegoeden, maar het is een chatapp, geen facturatiesysteem. Er zijn geen abonnementen, geen facturen, geen btw-afhandeling, geen tegoeden die uw gebruikers zelf kunnen kopen. Voor een bedrijfsbrede uitrol is dat gat meestal het struikelblok, niet de servers.
Wat beheerde LibreChat-hosting zou moeten dekken
Beheerde hosting is alleen zinvol als het de hele lijst wegneemt, niet alleen de containers. Wie u ook kiest, ons inbegrepen, houd hen aan het volgende:
- Een actuele LibreChat-basis. Updates arriveren zonder uw betrokkenheid, en het product blijft het opensourceproject volgen in plaats van weg te drijven in een bevroren privékloon.
- Modellen inbegrepen. Alle belangrijke modellen via één toegangspunt, geen API-sleutels om te verkrijgen, verdelen of roteren.
- Echte kostenbeheersing. Budgetten per gebruiker, verbruik dat u aan een persoon kunt toewijzen, en één factuur in plaats van vijf.
- Teambeheer. Uitnodigen, verwijderen, klaar. Toegang eindigt wanneer het contract eindigt.
- De volledige functieset. Chatten met bestanden, beeldgeneratie en webzoeken zouden vanaf dag één moeten werken; ze zijn de helft van de reden waarom de stack complex is.
- Een uitweg. Uw gesprekken zijn exporteerbaar en de onderliggende software is opensource. Als weggaan moeilijk is, bent u geen klant, maar een gijzelaar.
Hoe kral het draait
kral is LibreChat, gedraaid als een kant-en-klaar platform. U meldt zich aan op app.kral.ai en krijgt de interface die u op het punt stond zelf te hosten, met de operationele laag al gebouwd:
- Claude, GPT, Gemini, DeepSeek, Perplexity en meer, in één app, zonder API-sleutels waar dan ook,
- facturatie per token met maandabonnementen en aanvultegoeden, zodat verbruik wordt toegewezen aan de persoon die het veroorzaakte,
- teamabonnementen: één contract, een gedeeld budget, leden die u zelf beheert,
- bestandsuploads met documentzoeken, beeldgeneratie en webzoeken al aangesloten,
- een interface in 29 talen,
- updates voor u geregeld: wanneer LibreChat een release uitbrengt, mergen we die, testen we die en rollen we die uit.
Voor de eerlijkheid: kral draait een onderhouden LibreChat-fork, en de patches bestaan precies voor de dingen hierboven (de gateway, de facturatie, de teams). We volgen upstream-releases bewust, want een gehoste LibreChat die geen LibreChat meer is, heeft het punt gemist.
En omdat het LibreChat is, blijft de uitgang open. Exporteer uw gegevens en draai de opensource-stack zelf wanneer u maar wilt. We zijn liever de optie die u blijft kiezen dan degene waaraan u vastzit.
Zelf gehost of beheerd? De eerlijke vergelijking
| Zelf gehoste LibreChat | Beheerd (kral) | |
|---|---|---|
| Tijd tot eerste chat | Een middag, als alles goed gaat | Ongeveer een minuut |
| Updates | U leest, merget, test, deployt | Voor u gedaan |
| Modeltoegang | Uw API-sleutels, één account per provider | Inbegrepen, één login |
| Kostenbeheersing per gebruiker | Bouw het zelf | Budgetten en facturatie per token ingebouwd |
| Chatten met bestanden / RAG | Extra services om te draaien | Inbegrepen |
| Gegevenslocatie | Volledig van u, op uw hardware | Op kral's infrastructuur, altijd exporteerbaar |
| Wat het kost | Server, providerfacturen, uw uren | Abonnement of tegoeden, één factuur |
Zelf hosten wint op één punt, en het is een groot punt: de gegevens verlaten nooit uw gebouw. Als u een infrastructuurteam heeft en een harde eis rond gegevenslocatie, host dan zelf. Dat is de juiste keuze, en het project verdient uw ster op GitHub.
Er is ook een derde weg. Het platform waarop kral is gebouwd, kan binnen uw bedrijf draaien, zelfs native op uw eigen Windows Server. Een on-premises-eis beëindigt het gesprek niet.
Vragen die teams echt stellen
Is kral hetzelfde als LibreChat?
De chatervaring is LibreChat, dicht bij upstream gehouden. Daaromheen voegt kral toe wat een bedrijfsbrede uitrol nodig heeft: de modelgateway, facturatie, budgetten en teambeheer.
Hebben we onze eigen API-sleutels nodig?
Nee. Elk model op het platform is inbegrepen en wordt per token gefactureerd. Niemand hoeft een OpenAI-account te openen, en er kan geen sleutel lekken, want er zijn er geen om uit te delen.
Kunnen we later terug naar zelf hosten?
Ja. Uw gesprekken zijn exporteerbaar en de software is opensource. De uitweg is echt, en juist daarom vertrouwen we niet op lock-in om u te houden.
Werkt het voor teams?
Ja. Een teamabonnement is één contract met een gedeeld budget: de eigenaar nodigt leden uit, iedereen put uit dezelfde pool, en toegang eindigt op het moment dat u iemand verwijdert.
Wat kost het?
Maandabonnementen met inbegrepen verbruik, plus tegoeden die u onderweg kunt aanvullen. Actuele cijfers staan op kral.ai; er is geen verborgen meerprijs per gebruiker in een PDF.
LibreChat is de tijd van uw team waard. Of het ook uw avonden waard is, is een andere vraag. Als het antwoord nee is:
Reacties (0)
Nog geen reacties. Wees de eerste!
Meld u aan om een reactie te plaatsen.
Aanmelden Registreren