Chcesz swoich rozmów na własnym sprzęcie, swoich kluczy we własnych rękach i żadnej subskrypcji między Tobą a modelami. Dobra wiadomość: LibreChat to najlepsza baza open source właśnie do tego, a jego samodzielny hosting to realistyczny projekt na weekend. Ten przewodnik to uczciwa wersja tego weekendu.
Jedno ujawnienie, zanim otworzy się terminal: kral, platforma stojąca za tym blogiem, to zarządzany LibreChat. Zarabiamy na życie, gdy samodzielny hosting przestaje być zabawą, i właśnie dlatego nie mamy powodu upiększać tego przewodnika. Poniższa lista to to, co uruchamiamy na produkcji każdego dnia.
Co jest potrzebne, zanim zaczniesz
- Maszyna. Skromny VPS z Linuksem i Dockerem to klasyczny dom; Docker Desktop na własnym komputerze wystarczy do pierwszego testu, a Windows działa tą drogą bez problemu.
- Domena i TLS, w chwili gdy loguje się ktoś poza Tobą.
- Klucze API dostawców do modeli, których chcesz: OpenAI, Anthropic, Google, komukolwiek płacisz bezpośrednio.
- Godzina na pierwszą rozmowę i weekend na instalację, której nie będziesz się wstydzić.
Żadne GPU nie jest potrzebne. Modele, z którymi będziesz rozmawiać, żyją za API; twój serwer uruchamia jedynie platformę wokół nich.
Ruchome części
LibreChat na produkcji to mała flota, nie jeden kontener. Poznaj załogę, zanim wypłyniesz:
| Część | Co robi | Na co uważać |
|---|---|---|
| Aplikacja LibreChat | Interfejs i API | Konfiguracja żyje w .env i librechat.yaml; stają się cenne |
| MongoDB | Twoje rozmowy | Zrób kopię zapasową i przetestuj odtworzenie raz, zanim jej zaufasz |
| Meilisearch | Wyszukiwanie w rozmowach | Najczęściej ustawić i zapomnieć |
| API RAG + baza wektorowa | Przesyłanie plików i rozmowa o dokumentach | Część, z którą większość ludzi mocuje się najpierw |
| Reverse proxy + TLS | Drzwi wejściowe | Certyfikaty się odnawiają; nagłówki i websockety mają znaczenie |
| Klucze dostawców | Same modele | Wycieknięty klucz spala cały budżet; rotuj je i ograniczaj ich zakres |
Instalacja w pięciu uczciwych krokach
- Pobierz i skonfiguruj. Sklonuj repozytorium, skopiuj przykładowy plik środowiska i umieść klucze dostawców w .env. Endpointy modeli i funkcje żyją w librechat.yaml.
- Uruchom stos. docker compose up -d podnosi aplikację i jej usługi. Pierwsza rozmowa w niespełna godzinę to realistyczny cel.
- Załóż konto i zamknij drzwi. Zarejestruj się, a potem zdecyduj, czy rejestracja w ogóle pozostaje otwarta.
- Postaw z przodu proxy. Reverse proxy z TLS i twóją domeną, zanim druga osoba dostanie link.
- Zaplanuj nudne części. Zaplanowane kopie zapasowe bazy, subskrypcja informacji o wydaniach i okno konserwacji, którego naprawdę przestrzegasz.
Krok piąty to ten, który oddziela demo od wdrożenia, i to krok, który większość weekendowych przewodników pomija.
Ile to naprawdę kosztuje
Trzy waluty, rozliczone uczciwie:
- Pieniądze. Oprogramowanie jest na licencji MIT i darmowe. Mały VPS uniesie osobistą instalację z łatwością; stos RAG nabiera apetytu w miarę wzrostu. Prawdziwą zmienną są faktury dostawców, bo każdy token działa teraz na twoich kluczach.
- Czas. LibreChat wydaje często, co jest świetne dla funkcji i powracające dla ciebie: przeczytać changelog, pobrać, przetestować, iść dalej. Kopie zapasowe nic nie kosztują do dnia, w którym są bezcenne.
- Uwaga, od użytkownika numer dwa. W chwili gdy dołącza druga osoba, dziedziczysz pytania, które nie mają nic wspólnego z serwerami: kto może czego używać, czyj był tamten wydatek i kto doładuje klucz. Całą uczciwą listę opisaliśmy w zarządzanym hostingu LibreChat.
Kiedy samodzielny hosting jest właściwym wyborem, a kiedy przestaje nim być
Hość samodzielnie z radością, jeśli jedno z tych jest prawdą: twoje dane nie mogą opuścić budynku, majsterkowanie jest częścią nagrody, jesteś tylko ty lub garstka zaufanych osób, albo chcesz modeli lokalnych, bo własny endpoint zgodny z OpenAI wskazujący na Ollama lub vLLM utrzymuje rozmowy w całości w twojej sieci LAN.
Przemyśl to ponownie, gdy platforma staje się narzędziem zespołowym. Obciążenie nie rośnie liniowo z użytkownikami; skacze przy użytkowniku dwa i znowu przy pierwszym pytaniu o budżet. A jeśli celem jest wdrożenie w przedsiębiorstwie, platforma, na której zbudowany jest kral, może nawet działać natywnie na twoim własnym Windows Server: pakiet, w którym LibreChat konfiguruje się z konsoli administracyjnej, a wydatek tokenów każdego użytkownika jest widoczny na żądanie, tak że on-premises i niska konserwacja nie są przeciwieństwami.
Pytania, które samodzielni hości naprawdę zadają
Czy potrzebuję GPU?
Nie. Sam LibreChat jest lekki; modele odpowiadają z API dostawców. GPU jest potrzebne tylko wtedy, gdy chcesz też uruchamiać modele lokalne, a wtedy należy ono do Ollama lub vLLM, nie do LibreChat.
Czy działa na Windows?
Przez Docker Desktop tak, i wygodnie przy osobistej instalacji. Do natywnego wdrożenia na Windows Server w skali przedsiębiorstwa właśnie po to zbudowano kral.
Jak działają aktualizacje?
Nowe obrazy wychodzą regularnie. Bezpieczny rytm to: przeczytać informacje o wydaniu, zrobić kopię zapasową, pobrać, przetestować funkcje, od których zależysz, a potem pozwolić zespołowi wrócić. Pominięcie wielu wersji sprawia, że ewentualny skok jest bardziej straszny, nie bezpieczniejszy.
Czy to naprawdę darmowe?
Oprogramowanie, naprawdę. Wdrożenie, nigdy: płacisz za serwer, tokeny dostawcy i swoje wieczory. Wersja tego równania z jedną fakturą żyje na kral.ai.
Co powinienem archiwizować?
Bazę danych zawierającą twoje rozmowy oraz przesłane pliki. Kopia zapasowa, której nigdy nie odtworzyłeś, to nadzieja, nie kopia zapasowa.
Samodzielny hosting LibreChat jest tego wart i wart zrobienia dobrze: daj projektowi gwiazdkę, trzymaj kopie zapasowe uczciwie i ciesz się posiadaniem całego stosu. A jeśli przyjdzie dzień, gdy chcesz wyniku bardziej niż hobby, droga zarządzana jest około minuty stąd:
Komentarze (0)
Brak komentarzy. Badz pierwszy!
Zaloguj sie, aby dodac komentarz.
Zaloguj się Zarejestruj się