LibreChat para a empresa: SSO, equipas e facturação por token

O piloto aconteceu sem si. Algures na empresa, o LibreChat já está a funcionar: um programador configurou-o numa tarde, duas equipas encontraram-no, e agora carrega trabalho real em silêncio. Depois o pedido aterra na secretária da TI como uma única frase: "podemos tornar isto oficial?" Oficial é onde começa a parte difícil: single sign-on, controlo de acesso, um orçamento que pertence a alguém, e uma fatura que as compras conseguem realmente lançar.

Este artigo é o mapa desse passo. O que uma implementação empresarial do LibreChat exige realmente, que partes o LibreChat traz de imediato, e que partes alguém tem de construir. Total transparência à partida: o kral é um LibreChat gerido construído precisamente para esta lacuna, e seremos precisos sobre onde termina o projeto de código aberto e onde começa a nossa camada.

O que "oficial" realmente significa

Qualquer que seja a ferramenta, toda a empresa quer dizer as mesmas seis coisas quando diz oficial:

• Identidade. Um único início de sessão, entradas e saídas geridas, sem listas de palavras-passe numa folha de cálculo.
• Controlo de acesso. Quem pode usar que modelos, decidido por função, e não por quem encontrou o URL primeiro.
• Atribuição. Uso que pode ser rastreado até uma pessoa, caso contrário as finanças rastreiam-no até si.
• Orçamentos. Um limite por pessoa ou equipa que trava o gasto excessivo antes de acontecer, e não depois.
• Facturação adequada às compras. Uma fatura, IVA correto, um fornecedor que encaixa no processo de aquisição.
• Um ciclo de vida. Atualizações segundo um calendário, um registo de alterações que alguém lê, e uma saída documentada.

Nada disto é exótico. É a mesma lista que a sua empresa exige de qualquer outro sistema de registo. A diferença é que a IA entrou pela porta lateral, e a lista está agora atrasada.

O que o LibreChat traz de imediato

Primeiro o crédito, porque é merecido. O LibreChat dá a uma empresa substância real de onde partir:

• Suporte a OpenID Connect. A aplicação pode autenticar-se contra um identity provider em vez de contra palavras-passe locais.
• A interface que os seus utilizadores já escolheram. Agentes, conversa com ficheiros, geração de imagens, pesquisa; a adoção não é o seu problema.
• Uma licença MIT. Sem cláusulas sobre o número de utilizadores, sem condições de marca, inspecione e adapte o código livremente.
• Créditos de tokens como primitiva. Existe um mecanismo básico para medir o uso.

E o limite honesto, o mesmo que descrevemos em alojamento gerido de LibreChat: o LibreChat é uma aplicação de conversa, não um sistema de facturação nem um interlocutor para as compras. Não há planos, nem faturas, nem tratamento de impostos, nem limites de gasto que uma equipa financeira reconhecesse, e as equipas existem como linhas de utilizadores, não como contratos com orçamentos partilhados. Isto não é uma crítica; é o âmbito.

A camada empresarial que o kral opera

O kral mantém a experiência LibreChat próxima do upstream e constrói a parte oficial em seu redor como uma única suíte: a conversa que os seus utilizadores veem, o gateway que as suas ferramentas internas chamam, a consola de administração onde a TI governa, e a facturação que as finanças conseguem lançar. Até o próprio LibreChat é configurado a partir dessa consola; ligue um modelo, ative uma funcionalidade, e a conversa segue, sem YAML editado à mão. Na prática isso significa:

• Um único início de sessão. Uma única conta carrega conversa, uso e facturação. Nenhuma chave de API em lado nenhum da empresa.
• Equipas como contratos. Um acordo, um orçamento partilhado, membros que o proprietário convida e remove. O acesso termina no momento em que o lugar termina.
• Orçamentos que se impõem a si próprios. Limites mensais por pessoa; a plataforma mede cada pedido em relação a eles e para na linha que traçou.
• Uso que consegue realmente ver. Cada pedido é medido: modelo, tokens de entrada, tokens de saída, custo. O gasto de tokens por utilizador é uma consulta de segundos, não uma reconstrução de fim de mês, e cada unidade de gasto tem um nome associado.
• Governação de modelos. Ligue ou desligue modelos individuais; todos os grandes fornecedores estão incluídos e faturados por token.
• Facturação pronta para as compras. Planos mais créditos, IVA da UE tratado, uma fatura em vez de cinco extratos de fornecedores.
• Um ciclo de vida que não opera. Quando o LibreChat lança uma versão, nós integramo-la, testamos e implementamo-la.

Alojado num minuto, ou dentro das suas próprias paredes

O caminho rápido é alojado: inicie sessão em app.kral.ai e a camada acima já está viva. O caminho empresarial vai mais longe: a plataforma sobre a qual o kral está construído pode correr dentro da sua empresa, nativamente no seu próprio Windows Server. Aí, o início de sessão liga-se ao identity provider que a sua TI já opera, os dados permanecem em hardware que lhe pertence, e as suas ferramentas internas alcançam cada modelo através de um único ponto de extremidade de gateway com uma única chave.

Ambos os caminhos mantêm a mesma saída: a base é de código aberto e os seus dados são exportáveis. Uma ferramenta oficial nunca deveria precisar de uma cláusula de refém para reter os seus utilizadores.

LibreChat em bruto vs kral, com olhos empresariais

As perguntas que a TI realmente faz

O kral é apenas o LibreChat com extras?

Deliberadamente, sim. O kral mantém a conversa próxima do upstream; à sua volta estão o gateway, a facturação, os orçamentos, os relatórios de uso e a gestão de equipas, comandados a partir de uma consola, precisamente a parte que faltava a uma implementação empresarial.

Podemos manter o nosso identity provider?

Na plataforma auto-alojada, sim: o início de sessão funciona contra o IdP que a sua TI opera. O serviço alojado em app.kral.ai usa contas kral com um único início de sessão através da conversa e da facturação.

O que dizemos ao encarregado da proteção de dados?

Pergunte para onde vão os prompts. No seu próprio servidor, vão para hardware que lhe pertence antes de qualquer modelo os ver. No serviço alojado, vão através do kral para os fornecedores de modelos que escolher, e os seus dados permanecem exportáveis a qualquer momento. Não é uma resposta de advogado; é a topologia honesta sobre a qual construir uma.

As nossas pessoas precisam de chaves de API?

Não. Cada modelo na plataforma está incluído e faturado por token. Ninguém abre contas junto de fornecedores, e nenhuma chave pode vazar, porque não há nenhuma para distribuir.

Quanto custa?

Planos mensais com uso incluído, mais créditos para as semanas intensas. Os números atuais estão em kral.ai; não há acréscimo por lugar escondido num PDF, e o colega que faz três perguntas por mês custa-lhe quase nada.

O LibreChat já conquistou os seus utilizadores; essa parte está feita. O que resta é torná-lo oficial sem o transformar num projeto de seis meses. Essa é a parte que o kral opera:

Marcar uma demonstração

Experimentar o kral agora