LibreChat pre podnik: SSO, tímy a účtovanie za tokeny

Pilot sa udial bez vás. Niekde vo firme LibreChat už beží: vývojár ho nastavil za jedno popoludnie, dva tímy ho našli a teraz ticho nesie skutočnú prácu. Potom žiadosť pristáne na stole IT oddelenia ako jedna veta: "môžeme to urobiť oficiálnym?" Oficiálne začína tam, kde začína ťažká časť: single sign-on, riadenie prístupu, rozpočet, ktorý niekomu patrí, a faktúra, ktorú nákup naozaj dokáže zaúčtovať.

Tento článok je mapou pre tento krok. Čo naozaj vyžaduje podnikové nasadenie LibreChat, ktoré časti LibreChat prináša hneď a ktoré časti musí niekto postaviť. Plná otvorenosť na začiatku: kral je spravovaný LibreChat postavený presne pre túto medzeru a budeme presní v tom, kde končí open source projekt a kde začína naša vrstva.

Čo naozaj znamená "oficiálne"

Nech je nástroj akýkoľvek, každá firma myslí tých istých šesť vecí, keď povie oficiálne:

• Identita. Jedno prihlásenie, spravované príchody a odchody, žiadne zoznamy hesiel v tabuľke.
• Riadenie prístupu. Kto smí používať ktoré modely, rozhodnuté podľa roly, nie podľa toho, kto prvý našiel URL.
• Priradenie. Používanie, ktoré možno vysledovať k osobe, inak ho financie vysledujú k vám.
• Rozpočty. Strop na osobu alebo tím, ktorý zastaví nadmerné míňanie skôr, než sa stane, nie potom.
• Účtovanie vhodné pre nákup. Jedna faktúra, správne DPH, dodávateľ, ktorý zapadá do nákupného procesu.
• Životný cyklus. Aktualizácie podľa harmonogramu, zoznam zmien, ktorý niekto číta, a zdokumentovaná cesta von.

Nič z toho nie je exotické. Je to ten istý zoznam, ktorý vaša firma vyžaduje od každého iného evidenčného systému. Rozdiel je v tom, že AI prišla bočnými dverami a zoznam je teraz oneskorený.

Čo LibreChat prináša hneď

Najprv uznanie, pretože si ho zaslúži. LibreChat dáva podniku skutočnú podstatu, od ktorej sa dá začať:

• Podpora OpenID Connect. Aplikácia sa môže overovať voči identity provideru namiesto lokálnych hesiel.
• Rozhranie, ktoré si vaši používatelia už vybrali. Agenti, chat so súbormi, generovanie obrázkov, vyhľadávanie; prijatie nie je váš problém.
• Licencia MIT. Žiadne klauzuly o počte používateľov, žiadne podmienky brandingu, skúmajte a prispôsobujte kód voľne.
• Tokenové kredity ako primitívum. Existuje základný mechanizmus na meranie používania.

A úprimná hranica, tá istá, ktorú sme opísali v článku spravovaný hosting LibreChat: LibreChat je chatovacia aplikácia, nie fakturačný systém a nie partner pre nákup. Nie sú žiadne plány, žiadne faktúry, žiadne spracovanie daní, žiadne stropy výdavkov, ktoré by finančný tím uznal, a tímy existujú ako riadky používateľov, nie ako zmluvy so zdieľanými rozpočtami. To nie je kritika; to je rozsah.

Podniková vrstva, ktorú prevádzkuje kral

kral drží zážitok LibreChat blízko upstreamu a oficiálnu časť okolo neho stavia ako jeden balík: chat, ktorý vidia vaši používatelia, gateway, ktorý volajú vaše interné nástroje, administrátorskú konzolu, kde riadi IT, a účtovanie, ktoré financie dokážu zaúčtovať. Aj samotný LibreChat sa konfiguruje z tejto konzoly; zapnite model, prepnite funkciu a chat nasleduje, bez ručne upravovaného YAML. V praxi to znamená:

• Jedno prihlásenie. Jediný účet nesie chat, používanie a účtovanie. Nikde vo firme nie sú API kľúče.
• Tímy ako zmluvy. Jedna dohoda, jeden zdieľaný rozpočet, členovia, ktorých vlastník pozýva a odstraňuje. Prístup končí v okamihu, keď končí miesto.
• Rozpočty, ktoré sa presadzujú samy. Mesačné stropy na osobu; platforma meria každú požiadavku voči nim a zastaví sa na čiare, ktorú ste nakreslili.
• Používanie, ktoré naozaj vidíte. Každá požiadavka sa meria: model, tokeny dnu, tokeny von, náklady. Výdavok tokenov na používateľa je vyhľadanie za sekundy, nie rekonštrukcia na konci mesiaca, a každá jednotka výdavku má meno.
• Správa modelov. Zapínajte alebo vypínajte jednotlivé modely; každý veľký poskytovateľ je zahrnutý a účtovaný za token.
• Účtovanie pripravené pre nákup. Plány plus kredity, ošetrené DPH EU, jedna faktúra namiesto piatich výpisov od dodávateľov.
• Životný cyklus, ktorý neprevádzkujete. Keď LibreChat vydá verziu, my ju zlúčime, otestujeme a nasadíme.

Hostovaný za minútu alebo vo vašich vlastných stenách

Rýchla cesta je hostovaná: prihláste sa na app.kral.ai a vrstva nad tým už žije. Podniková cesta ide ďalej: platforma, na ktorej je kral postavený, môže bežať vnútri vašej firmy, natívne na vašom vlastnom Windows Serveri. Tam sa prihlásenie napojí na identity provider, ktorý vaše IT aj tak prevádzkuje, údaje zostávajú na hardvéri, ktorý vlastníte, a vaše interné nástroje dosiahnu každý model cez jeden gateway koncový bod s jedným kľúčom.

Obe cesty si držia ten istý východ: základ je open source a vaše údaje sú exportovateľné. Oficiálny nástroj by nikdy nemal potrebovať klauzulu o rukojemníkovi, aby si udržal svojich používateľov.

Surový LibreChat vs kral, podnikovými očami

Otázky, ktoré IT naozaj kladie

Je kral len LibreChat s extra funkciami?

Zámerne, áno. kral drží chat blízko upstreamu; okolo neho sedia gateway, účtovanie, rozpočty, vykazovanie používania a správa tímov, riadené z jednej konzoly, presne tá časť, ktorá podnikovému nasadeniu chýbala.

Môžeme si ponechať svoj identity provider?

Na samostatne hostovanej platforme áno: prihlásenie funguje voči IdP, ktorý prevádzkuje vaše IT. Hostovaná služba na app.kral.ai používa účty kral s jedným prihlásením naprieč chatom a účtovaním.

Čo povieme zodpovednej osobe za ochranu údajov?

Opýtajte sa, kam idú výzvy. Na vašom vlastnom serveri idú na hardvér, ktorý vlastníte, skôr než ich uvidí akýkoľvek model. V hostovanej službe idú cez kral k poskytovateľom modelov, ktorých si vyberiete, a vaše údaje zostávajú exportovateľné kedykoľvek. To nie je odpoveď právnika; je to úprimná topológia, na ktorej sa dá postaviť.

Potrebujú naši ľudia API kľúče?

Nie. Každý model na platforme je zahrnutý a účtovaný za token. Nikto neotvára účty u poskytovateľov a žiadny kľúč nemôže uniknuť, pretože žiadne nie sú na rozdávanie.

Koľko to stojí?

Mesačné plány so zahrnutým používaním, plus kredity na náročné týždne. Aktuálne čísla sú na kral.ai; nie je žiadny príplatok za miesto skrytý v PDF, a kolega, ktorý položí tri otázky za mesiac, vás stojí takmer nič.

LibreChat už získal vašich používateľov; tá časť je hotová. Zostáva urobiť ho oficiálnym bez toho, aby sa z toho stal šesťmesačný projekt. To je časť, ktorú prevádzkuje kral:

Rezervovať demo

Vyskúšať kral teraz