LibreChat til virksomheder: SSO, teams og fakturering per token

Piloten skete uden dig. Et sted i virksomheden kører LibreChat allerede: en udvikler satte det op på en eftermiddag, to teams fandt det, og nu bærer det stille rigtigt arbejde. Så lander anmodningen på it-afdelingens bord som én sætning, "kan vi gøre det officielt?" Officielt er der, hvor den svære del begynder: single sign-on, adgangsstyring, et budget, nogen ejer, og en faktura, indkøb faktisk kan bogføre.

Denne artikel er kortet til det skridt. Hvad en enterprise-udrulning af LibreChat virkelig kræver, hvilke dele LibreChat leverer ud af boksen, og hvilke dele nogen skal bygge. Fuld åbenhed fra start: kral er en managed LibreChat bygget til netop dette hul, og vi vil være præcise om, hvor open source-projektet slutter, og vores lag begynder.

Hvad "officielt" faktisk betyder

Enhver virksomhed mener de samme seks ting, når den siger officielt, uanset værktøjet:

• Identitet. Ét login, styrede til- og fratrædelser, ingen adgangskodelister i et regneark.
• Adgangsstyring. Hvem der må bruge hvilke modeller, afgjort efter rolle, ikke efter hvem der fandt URL’en først.
• Attribution. Forbrug, der kan spores til en person, ellers sporer økonomi det til dig.
• Budgetter. Et loft per person eller team, der stopper overforbrug, før det sker, ikke bagefter.
• Fakturering, der dur til indkøb. Én faktura, korrekt moms, en leverandør, der passer ind i indkøbsprocessen.
• En livscyklus. Opdateringer efter en plan, en changelog, nogen læser, og en dokumenteret vej ud.

Intet af det er eksotisk. Det er den samme liste, din virksomhed kræver af ethvert andet forretningssystem. Forskellen er, at AI kom ind ad bagdøren, og listen er nu overskredet.

Hvad LibreChat leverer ud af boksen

Anerkendelse først, for den er fortjent. LibreChat giver en virksomhed rigtig substans at starte fra:

• OpenID Connect-understøttelse. Appen kan godkende mod en identity provider i stedet for lokale adgangskoder.
• Grænsefladen, dine brugere allerede har valgt. Agenter, filchat, billedgenerering, søgning; udbredelse er ikke dit problem.
• En MIT-licens. Ingen klausuler om antal brugere, ingen brandingbetingelser, undersøg og tilpas koden frit.
• Token-kreditter som primitiv. En grundlæggende mekanisme til at måle forbrug findes.

Og den ærlige grænse, den samme som vi beskrev i managed LibreChat hosting: LibreChat er en chatapplikation, ikke et faktureringssystem og ikke en modpart for indkøb. Der er ingen planer, ingen fakturaer, ingen skattebehandling, ingen forbrugslofter, en økonomiafdeling ville anerkende, og teams findes som rækker af brugere, ikke som kontrakter med delte budgetter. Det er ikke kritik; det er omfanget.

Enterprise-laget, som kral driver

kral holder LibreChat-oplevelsen tæt på upstream og bygger den officielle del rundt om den som én suite: chatten, dine brugere ser, gatewayen, dine interne værktøjer kalder, admin-konsollen, hvor it styrer, og faktureringen, økonomi kan bogføre. Selv LibreChat selv konfigureres fra den konsol; slå en model til, aktiver en funktion, og chatten følger med, ingen håndredigeret YAML. I praksis betyder det:

• Ét login. Én enkelt konto bærer chat, forbrug og fakturering. Ingen API-nøgler nogen steder i virksomheden.
• Teams som kontrakter. Én aftale, ét delt budget, medlemmer, ejeren inviterer og fjerner. Adgang slutter i samme øjeblik, pladsen gør.
• Budgetter, der håndhæver sig selv. Månedlige lofter per person; platformen måler hver anmodning mod dem og stopper ved den streg, du trak.
• Forbrug, du faktisk kan se. Hver anmodning måles: model, tokens ind, tokens ud, omkostning. Token-forbrug per bruger er et opslag på sekunder, ikke en rekonstruktion ved månedens slutning, og hver forbrugsenhed har et navn hæftet på.
• Modelstyring. Slå enkelte modeller til eller fra; enhver stor udbyder er inkluderet og faktureres per token.
• Fakturering klar til indkøb. Planer plus kreditter, EU-moms håndteret, én faktura i stedet for fem leverandøropgørelser.
• En livscyklus, du ikke driver. Når LibreChat udgiver en version, merger, tester og udruller vi den.

Hostet på et minut, eller inden for dine egne mure

Den hurtige vej er hostet: log ind på app.kral.ai, og laget ovenover er allerede live. Enterprise-vejen går videre: platformen, som kral er bygget på, kan køre inde i din virksomhed, nativt på din egen Windows Server. Der kobler sign-on sig på den identity provider, dit it allerede kører, data bliver på hardware, du ejer, og dine interne værktøjer når hver model gennem ét gateway-endpoint med én nøgle.

Begge veje beholder den samme udgang: basen er open source, og dine data kan eksporteres. Et officielt værktøj burde aldrig have brug for en gidselklausul for at holde på sine brugere.

Rå LibreChat vs. kral, med enterprise-øjne

Spørgsmål, it faktisk stiller

Er kral bare LibreChat med ekstra?

Bevidst, ja. kral holder chatten tæt på upstream; rundt om den sidder gatewayen, faktureringen, budgetterne, forbrugsrapporteringen og teamstyringen, drevet fra én konsol, netop den del, en enterprise-udrulning manglede.

Kan vi beholde vores identity provider?

På den selvhostede platform, ja: sign-on kører mod den IdP, dit it driver. Den hostede tjeneste på app.kral.ai bruger kral-konti med ét login på tværs af chat og fakturering.

Hvad siger vi til databeskyttelsesrådgiveren?

Spørg, hvor prompterne går hen. På din egen server går de til hardware, du ejer, før nogen model ser dem. På den hostede tjeneste går de gennem kral til de modeludbydere, du vælger, og dine data forbliver eksporterbare når som helst. Det er ikke et advokatsvar; det er den ærlige topologi at bygge et på.

Har vores folk brug for API-nøgler?

Nej. Enhver model på platformen er inkluderet og faktureres per token. Ingen åbner udbyderkonti, og ingen nøgle kan lække, fordi der ikke er nogen at dele ud.

Hvad koster det?

Månedlige planer med inkluderet forbrug, plus kreditter til de travle uger. Aktuelle tal står på kral.ai; der er ingen tillæg per plads gemt i en PDF, og kollegaen, der stiller tre spørgsmål om måneden, koster dig næsten intet.

LibreChat har allerede vundet dine brugere; den del er klaret. Det, der er tilbage, er at gøre det officielt uden at gøre det til et halvårsprojekt. Det er den del, kral driver:

Book en demo

Prøv kral nu