Vlastní hostování LibreChat: instalace, náklady, průvodce

Chcete své konverzace na vlastním hardwaru, své klíče ve vlastních rukou a žádné předplatné mezi vámi a modely. Dobrá zpráva: LibreChat je nejlepší open source základ přesně pro tohle a jeho vlastní hostování je realistický víkendový projekt. Tento průvodce je poctivá verze onoho víkendu.

Jedno prohlášení, než se otevře terminál: kral, platforma za tímto blogem, je spravovaný LibreChat. Živíme se tím, když vlastní hostování přestane bavit, a právě proto nemáme důvod tohoto průvodce přikrášlovat. Seznam níže je to, co každý den provozujeme v produkci.

Co potřebujete, než začnete

Stroj. Skromný linuxový VPS s Dockerem je klasický domov; Docker Desktop na vašem vlastním počítači stačí pro první test a Windows touto cestou funguje výborně.
Doména a TLS, ve chvíli, kdy se přihlásí někdo kromě vás.
API klíče poskytovatelů pro modely, které chcete: OpenAI, Anthropic, Google, komukoli platíte přímo.
Hodina na první konverzaci a víkend na instalaci, za kterou se nebudete stydět.

Žádné GPU není potřeba. Modely, se kterými budete mluvit, žijí za API; váš server provozuje jen platformu kolem nich.

Pohyblivé části

LibreChat v produkci je malá flotila, ne jediný kontejner. Poznejte posádku, než vyplujete:

Část	Co dělá	Na co dát pozor
Aplikace LibreChat	Rozhraní a API	Konfigurace žije v .env a librechat.yaml; stávají se vzácnými
MongoDB	Vaše konverzace	Zálohujte ji a jednou otestujte obnovení, než jí budete věřit
Meilisearch	Vyhledávání napříč konverzacemi	Většinou nastavit a zapomenout
RAG API + vektorová DB	Nahrávání souborů a chat nad dokumenty	Část, se kterou většina lidí zápasí jako první
Reverzní proxy + TLS	Vstupní dveře	Certifikáty se obnovují; hlavičky a websockety mají význam
Klíče poskytovatelů	Samotné modely	Uniknutý klíč spálí celý rozpočet; rotujte je a omezte jejich rozsah

Instalace v pěti poctivých krocích

Stáhněte a nakonfigurujte. Naklonujte repozitář, zkopírujte ukázkový soubor prostředí a vložte své klíče poskytovatelů do .env. Endpointy modelů a funkce žijí v librechat.yaml.
Spusťte stack. docker compose up -d zvedne aplikaci a její služby. První konverzace do hodiny je realistický cíl.
Vytvořte si účet a zavřete dveře. Zaregistrujte se a pak se rozhodněte, zda registrace vůbec zůstane otevřená.
Postavte před to proxy. Reverzní proxy s TLS a vaší doménou, než druhý člověk dostane odkaz.
Naplánujte nudné části. Naplánované zálohy databáze, odběr poznámek k vydání a údržbové okno, které opravdu dodržíte.

Krok pět je ten, který odděluje demo od nasazení, a je to krok, který většina víkendových průvodců přeskakuje.

Co to opravdu stojí

Tři měny, poctivě zaúčtované:

Peníze. Software je pod licencí MIT a zdarma. Malý VPS unese osobní instalaci s přehledem; RAG stack dostává chuť k jídlu, jak rostete. Skutečnou proměnnou jsou faktury poskytovatelů, protože každý token nyní běží na vašich klíčích.
Čas. LibreChat vydává často, což je skvělé pro funkce a opakující se pro vás: přečíst changelog, stáhnout, otestovat, jít dál. Zálohy nestojí nic až do dne, kdy jsou k nezaplacení.
Pozornost, od uživatele číslo dva. Ve chvíli, kdy se přidá druhý člověk, zdědíte otázky, které nemají nic společného se servery: kdo může co používat, čí byl onen výdaj a kdo dobíjí klíč. Celý poctivý seznam jsme sepsali v článku spravovaný hosting LibreChat.

Kdy je vlastní hostování správnou volbou a kdy přestává být

Hostujte si sámi s radostí, pokud platí jedno z tohoto: vaše data nesmí opustit budovu, šťourání je součástí odměny, jste jen vy nebo hrstka důvěryhodných lidí, nebo chcete lokální modely, protože vlastní endpoint kompatibilní s OpenAI mířící na Ollama nebo vLLM udrží konverzace zcela ve vaší síti LAN.

Zvažte to znovu, když se platforma stane týmovým nástrojem. Zátěž neroste lineárně s uživateli; skočí u uživatele dva a znovu u první rozpočtové otázky. A pokud je cílem podnikové nasazení, platforma, na které je kral postaven, může dokonce běžet nativně na vašem vlastním Windows Serveru: sada, kde se LibreChat konfiguruje z administrátorské konzole a kde je výdaj tokenů každého uživatele viditelný na požádavku, takže on-premises a nízká údržba nejsou protiklady.

Otázky, které si samostatní hostitelé opravdu kladou

Potřebuji GPU?

Ne. Samotný LibreChat je lehký; modely odpovídají z API poskytovatelů. GPU potřebujete, jen pokud chcete také provozovat lokální modely, a pak patří Ollamě nebo vLLM, ne LibreChat.

Běží to na Windows?

Přes Docker Desktop ano, a pohodlně pro osobní instalaci. Pro nativní nasazení na Windows Server v podnikovém měřítku byl kral postaven právě pro to.

Jak fungují aktualizace?

Nové obrazy vycházejí pravidelně. Bezpečné tempo je: přečíst poznámky k vydání, zálohovat, stáhnout, otestovat funkce, na kterých závisíte, a pak nechat tým vrátit se. Přeskočení několika verzí dělá případný skok strašidělnějším, ne bezpečnějším.

Je to opravdu zdarma?

Software opravdu. Nasazení nikdy: platíte server, tokeny poskytovatele a své večery. Verze této rovnice s jednou fakturou žije na kral.ai.

Co bych měl zálohovat?

Databázi, která obsahuje vaše konverzace, a nahrané soubory. Záloha, kterou jste nikdy neobnovili, je naděje, ne záloha.

Vlastní hostování LibreChat stojí za to a stojí za to udělat ho dobře: dejte projektu hvězdu, udržujte své zálohy poctivé a vychutnejte si vlastnictví celého stacku. A pokud přijde den, kdy chcete výsledek víc než koníčka, spravovaná cesta je asi minutu daleko:

Vyzkoušet kral hned

Rezervovat demo

AI platforma librechat AI na vlastním serveru