Självhosta LibreChat: installation, kostnader, guide

Du vill ha dina samtal på din egen hårdvara, dina nycklar i dina egna händer och ingen prenumeration mellan dig och modellerna. Goda nyheter: LibreChat är den bästa open source-basen för just det, och att självhosta den är ett realistiskt helgprojekt. Den här guiden är den ärliga versionen av den helgen.

Ett avslöjande innan terminalen öppnas: kral, plattformen bakom den här bloggen, är en managed LibreChat. Vi tjänar vårt levebröd när självhostning slutar vara roligt, och just därför har vi ingen anledning att sminka den här guiden. Listan nedan är vad vi kör i produktion varje dag.

Vad du behöver innan du börjar

En maskin. En blygsam Linux-VPS med Docker är det klassiska hemmet; Docker Desktop på din egen dator räcker för ett första test, och Windows fungerar utmärkt den vägen.
En domän och TLS, i det ögonblick någon annan än du loggar in.
API-nycklar från leverantörer för de modeller du vill ha: OpenAI, Anthropic, Google, vem du än betalar direkt.
En timme för det första samtalet och en helg för en installation du inte skäms över.

Ingen GPU behövs. Modellerna du pratar med lever bakom API:er; din server kör bara plattformen runt dem.

De rörliga delarna

LibreChat i produktion är en liten flotta, inte en enda container. Lär känna besättningen innan du seglar ut:

Del	Vad den gör	Vad man ska hålla ögonen på
LibreChat-app	Gränssnittet och API:et	Konfigurationen lever i .env och librechat.yaml; de blir dyrbara
MongoDB	Dina samtal	Säkerhetskopiera den, och testa en återställning en gång innan du litar på den
Meilisearch	Sökning tvärs över samtal	Oftast ställ in och glöm
RAG-API + vektor-DB	Filuppladdningar och chatt om dokument	Delen som de flesta kämpar med först
Reversproxy + TLS	Ytterdörren	Certifikat förnyas; headers och websockets spelar roll
Leverantörsnycklar	Själva modellerna	En läckt nyckel bränner hela budgeten; rotera dem och begränsa deras omfattning

Installationen i fem ärliga steg

Hämta och konfigurera. Klona repot, kopiera exempel-miljöfilen och lägg dina leverantörsnycklar i .env. Modellernas endpoints och funktioner lever i librechat.yaml.
Starta stacken. docker compose up -d lyfter appen och dess tjänster. Det första samtalet inom en timme är ett realistiskt mål.
Skapa ditt konto och stäng dörren. Registrera dig, och bestäm sedan om registrering överhuvudtaget förblir öppen.
Sätt en proxy framför. En reversproxy med TLS och din domän, innan den andra personen får länken.
Planera de tråkiga delarna. Schemalagda databas-säkerhetskopior, en prenumeration på versionsanteckningar och ett underhållsfönster du faktiskt håller.

Steg fem är det som skiljer en demo från en driftsättning, och det är steget som de flesta helgguider hoppar över.

Vad det verkligen kostar

Tre valutor, ärligt bokförda:

Pengar. Programvaran är MIT-licensierad och gratis. En liten VPS bär en personlig installation med lätthet; RAG-stacken får aptit allt eftersom du växer. Den verkliga variabeln är leverantörernas fakturor, eftersom varje token nu kör på dina nycklar.
Tid. LibreChat släpper ofta, vilket är fantastiskt för funktioner och återkommande för dig: läs changelog, pull, testa, gå vidare. Säkerhetskopior kostar ingenting fram till dagen då de är ovärderliga.
Uppmärksamhet, från användare nummer två. I det ögonblick en andra person ansluter ärver du frågorna som inte har något med servrar att göra: vem får använda vad, vems var den utgiften och vem fyller på nyckeln. Vi skrev hela den ärliga listan i managed LibreChat-hosting.

När självhostning är rätt val, och när det slutar vara det

Självhosta med glädje om något av detta stämmer: dina data får inte lämna byggnaden, att meka är en del av belöningen, det är bara du eller en handfull betrodda personer, eller du vill ha lokala modeller, eftersom en anpassad OpenAI-kompatibel endpoint riktad mot Ollama eller vLLM håller samtalen helt på ditt LAN.

Ompröva när plattformen blir ett teamverktyg. Belastningen växer inte linjärt med användarna; den hoppar vid användare två och igen vid den första budgetfrågan. Och om destinationen är en företagsdriftsättning kan plattformen som kral är byggd på till och med köra nativt på din egen Windows Server: en svit där LibreChat konfigureras från en administrationskonsol och där varje användares tokenförbrukning är synlig per begäran, så att on-premises och lågt underhåll inte är motsatser.

Frågorna som självhostare faktiskt ställer

Behöver jag en GPU?

Nej. Själva LibreChat är lätt; modellerna svarar från leverantörernas API:er. Du behöver bara en GPU om du också vill köra lokala modeller, och då tillhör den Ollama eller vLLM, inte LibreChat.

Kör det på Windows?

Genom Docker Desktop, ja, och bekvämt för en personlig installation. För en nativ driftsättning på Windows Server i företagsskala är kral byggd för just det.

Hur fungerar uppdateringar?

Nya images kommer ut regelbundet. Det säkra tempot är: läs versionsanteckningarna, säkerhetskopiera, pull, testa funktionerna du är beroende av, och låt sedan teamet komma tillbaka. Att hoppa över flera versioner gör det eventuella hoppet mer skrämmande, inte säkrare.

Är det verkligen gratis?

Programvaran, verkligen. Driftsättningen, aldrig: du betalar för servern, leverantörens tokens och dina kvällar. Versionen av den här ekvationen med en enda faktura lever på kral.ai.

Vad ska jag säkerhetskopiera?

Databasen som innehåller dina samtal, och de uppladdade filerna. En säkerhetskopia du aldrig har återställt är ett hopp, inte en säkerhetskopia.

Att självhosta LibreChat är värt det och värt att göra ordentligt: ge projektet en stjärna, håll dina säkerhetskopior ärliga och njut av att äga hela stacken. Och om dagen kommer då du vill ha resultatet mer än hobbyn, är den managed vägen ungefär en minut bort:

Prova kral nu

Boka en demo

AI-plattform librechat självhostad AI