Encontrou o LibreChat, executou o docker compose up e, uma hora depois, toda a sua equipa podia usar o Claude, o GPT e o Gemini numa interface limpa. Avance três meses: passou a ser o operador não remunerado de um sistema em produção. O Mongo precisa de cópias de segurança. A RAG API deixou de funcionar depois de uma atualização. Alguém colou a chave partilhada da OpenAI num canal do Slack. E o departamento financeiro continua a perguntar quem gastou 400 dólares em tokens em março.
Nada disso é culpa do LibreChat. É o que custa, na realidade, operar qualquer plataforma de IA multiutilizador. A única questão é se esse trabalho deve estar na sua secretária.
"docker compose up" é a parte fácil
O LibreChat conquistou a sua reputação de forma honesta. É o melhor chat de IA open source que existe: todos os grandes modelos, agentes, conversa com ficheiros, geração de imagens e uma interface que a sua equipa já sabe usar.
A produção é outro trabalho. Uma implementação real do LibreChat é uma pequena plataforma:
- MongoDB para as conversas, do qual alguém tem de fazer cópias de segurança e testar o restauro,
- Meilisearch para a pesquisa,
- uma RAG API separada mais uma base de dados vetorial, caso queira carregamento de ficheiros e conversa com documentos,
- um proxy reverso, TLS, um domínio e monitorização que o avisa que está em baixo antes de os seus utilizadores o fazerem,
- um ficheiro .env e um librechat.yaml que se tornam mais críticos a cada funcionalidade que ativa,
- e chaves de API para cada fornecedor que liga: OpenAI, Anthropic, Google e quem quer que lance o próximo modelo que a sua equipa vai querer logo no primeiro dia.
Depois começam as atualizações. O LibreChat avança depressa, o que é uma ótima notícia enquanto utilizador e uma tarefa recorrente enquanto operador. Cada lançamento é um changelog para ler, um merge para testar e uma janela de manutenção para agendar. Salte alguns e o salto torna-se assustador. Aplique-os todos e passa a ser um trabalho a tempo parcial.
Sabemo-lo porque fazemos exatamente isto. A kral opera o LibreChat em produção todos os dias; a lista acima é o nosso runbook, não uma história de terror.
A parte de que ninguém o avisa: utilizadores, chaves e dinheiro
Para um único utilizador, o alojamento próprio é genuinamente adequado. A dor começa no utilizador número dois.
Multiutilizador significa que alguém tem de responder a três perguntas. Quem pode entrar? O que podem usar? Quem paga o quê? Com chaves de API em bruto, ficam duas más opções: uma chave partilhada (sem atribuição, e uma única fuga consome todo o orçamento) ou uma chave por pessoa (atrito na integração, risco na saída e uma pilha de faturas de fornecedores para o departamento financeiro reconciliar).
O LibreChat inclui créditos de tokens básicos, mas é uma aplicação de chat, não um sistema de faturação. Não há planos, não há faturas, não há tratamento de impostos, não há recargas que os seus utilizadores possam comprar por conta própria. Para uma implementação empresarial, essa lacuna é normalmente o obstáculo decisivo, não os servidores.
O que o alojamento gerido do LibreChat deve cobrir
O alojamento gerido só faz sentido se eliminar a lista inteira, não apenas os contentores. Seja quem for que escolher, incluindo nós, exija-lhe isto:
- Uma base LibreChat atual. As atualizações chegam sem a sua intervenção e o produto continua a acompanhar o projeto open source, em vez de derivar para um clone privado congelado.
- Modelos incluídos. Todos os grandes modelos através de um único ponto de entrada, sem chaves de API para obter, distribuir ou rodar.
- Controlo de custos real. Orçamentos por utilizador, consumo que pode atribuir a uma pessoa e uma fatura em vez de cinco.
- Gestão de equipa. Convidar, remover, feito. O acesso termina quando o contrato termina.
- O conjunto completo de funcionalidades. A conversa com ficheiros, a geração de imagens e a pesquisa na web devem funcionar logo no primeiro dia; são metade da razão pela qual a stack é complexa.
- Uma saída. As suas conversas são exportáveis e o software subjacente é open source. Se sair for difícil, não é um cliente, é um refém.
Como a kral opera tudo isto
A kral é o LibreChat, operado como uma plataforma acabada. Inicia sessão em app.kral.ai e obtém a interface que estava prestes a alojar por conta própria, com a camada operacional já construída:
- Claude, GPT, Gemini, DeepSeek, Perplexity e mais, numa só aplicação, sem chaves de API em lado nenhum,
- faturação por token com planos mensais e créditos de recarga, para que o consumo seja atribuído à pessoa que o originou,
- planos de equipa: um contrato, um orçamento partilhado, membros que gere por conta própria,
- carregamento de ficheiros com pesquisa em documentos, geração de imagens e pesquisa na web já integrados,
- uma interface em 29 idiomas,
- atualizações tratadas por si: quando o LibreChat lança uma versão, nós fazemos o merge, testamos e implementamos.
Para sermos francos: a kral opera um fork mantido do LibreChat, e os patches existem exatamente para as coisas acima (o gateway, a faturação, as equipas). Acompanhamos as versões upstream deliberadamente, porque um LibreChat alojado que deixa de ser LibreChat perdeu o sentido.
E porque é LibreChat, a saída permanece aberta. Exporte os seus dados e opere a stack open source por conta própria sempre que quiser. Preferimos ser a opção que continua a escolher do que aquela a que fica preso.
Alojamento próprio ou gerido? A comparação honesta
| LibreChat com alojamento próprio | Gerido (kral) | |
|---|---|---|
| Tempo até ao primeiro chat | Uma tarde, se tudo correr bem | Cerca de um minuto |
| Atualizações | Lê, faz merge, testa, implementa | Feito por si |
| Acesso aos modelos | As suas chaves de API, uma conta por fornecedor | Incluído, um único início de sessão |
| Controlo de custos por utilizador | Construa por conta própria | Orçamentos e faturação por token integrados |
| Conversa com ficheiros / RAG | Serviços adicionais para operar | Incluído |
| Localização dos dados | Totalmente seus, no seu hardware | Na infraestrutura da kral, exportáveis a qualquer momento |
| Quanto custa | Servidor, faturas de fornecedores, as suas horas | Plano ou créditos, uma fatura |
O alojamento próprio ganha numa coisa, e é uma coisa importante: os dados nunca saem do seu edifício. Se tem uma equipa de infraestrutura e um requisito rígido de residência de dados, aloje por conta própria. É a decisão certa, e o projeto merece a sua estrela no GitHub.
Existe ainda um terceiro caminho. A plataforma sobre a qual a kral foi construída pode correr dentro da sua empresa, até de forma nativa no seu próprio Windows Server. Um requisito on-premises não termina a conversa.
Perguntas que as equipas fazem mesmo
A kral é o mesmo que o LibreChat?
A experiência de chat é o LibreChat, mantido próximo do upstream. Em torno disso, a kral acrescenta aquilo de que uma implementação empresarial precisa: o gateway de modelos, a faturação, os orçamentos e a gestão de equipa.
Precisamos das nossas próprias chaves de API?
Não. Todos os modelos da plataforma estão incluídos e são faturados por token. Ninguém tem de abrir uma conta na OpenAI, e nenhuma chave pode vazar, porque não há nenhuma para distribuir.
Podemos voltar ao alojamento próprio mais tarde?
Sim. As suas conversas são exportáveis e o software é open source. A saída é real, e é precisamente por isso que não dependemos do aprisionamento para o manter connosco.
Funciona para equipas?
Sim. Um plano de equipa é um contrato com um orçamento partilhado: o proprietário convida os membros, todos recorrem ao mesmo fundo comum, e o acesso termina no momento em que remove alguém.
Quanto custa?
Planos mensais com consumo incluído, mais créditos que pode recarregar à medida que avança. Os valores atuais estão em kral.ai; não há qualquer sobretaxa por lugar escondida num PDF.
O LibreChat vale o tempo da sua equipa. Se também vale as suas noites é outra questão. Se a resposta for não:
Comentários (0)
Ainda não há comentários. Seja o primeiro!
Inicie sessão para deixar um comentário.
Iniciar sessão Registar