LibreChat įmonei: SSO, komandos ir apmokestinimas už tokeną

Pilotas įvyko be jūsų. Kažkur įmonėje LibreChat jau veikia: programuotojas jį įdiegė per vieną popietę, dvi komandos jį rado, ir dabar jis tyliai neša tikrą darbą. Tada užklausa nusileidžia ant IT skyriaus stalo viena sakinio forma: "ar galime tai padaryti oficialu?" Oficialu prasideda ten, kur prasideda sunkioji dalis: single sign-on, prieigos kontrolė, biudžetas, kuris kam nors priklauso, ir sąskaita, kurią pirkimų skyrius iš tikrųjų gali užregistruoti.

Šis straipsnis yra to žingsnio žemėlapis. Ko iš tikrųjų reikalauja įmoninis LibreChat diegimas, kurias dalis LibreChat pateikia iš karto, ir kurias dalis kam nors reikia sukurti. Visiškas atvirumas iš karto: kral yra valdomas LibreChat, sukurtas būtent šiai spragai, ir mes tiksliai nurodysime, kur baigiasi atviro kodo projektas ir kur prasideda mūsų sluoksnis.

Ką iš tikrųjų reiškia "oficialu"

Kad ir koks būtų įrankis, kiekviena įmonė turi omenyje tuos pačius šešis dalykus, kai sako oficialu:

• Tapatybė. Vienas prisijungimas, valdomi atėjimai ir išėjimai, jokių slaptažodžių sąrašų skaičiuoklėje.
• Prieigos kontrolė. Kas kokius modelius gali naudoti, nusprendžiama pagal vaidmenį, o ne pagal tai, kas pirmas rado URL.
• Priskyrimas. Naudojimas, kurį galima atsekti iki asmens, kitaip finansai atseks jį iki jūsų.
• Biudžetai. Riba vienam asmeniui ar komandai, kuri sustabdo perteklinį išlaidavimą prieš jam įvykstant, o ne po to.
• Pirkimams tinkamas atsiskaitymas. Viena sąskaita, teisingas PVM, tiekėjas, kuris įsilieja į pirkimo procesą.
• Gyvavimo ciklas. Atnaujinimai pagal grafiką, pakeitimų žurnalas, kurį kas nors skaito, ir dokumentuotas išėjimas.

Nieko iš to nėra egzotiška. Tai tas pats sąrašas, kurio jūsų įmonė reikalauja iš kiekvienos kitos apskaitos sistemos. Skirtumas tas, kad dirbtinis intelektas atėjo pro šonines duris, ir sąrašas dabar yra pavėluotas.

Ką LibreChat pateikia iš karto

Pirmiausia pripažinimas, nes jis užtarnautas. LibreChat suteikia įmonei tikrą pagrindą, nuo kurio pradėti:

• OpenID Connect palaikymas. Programa gali autentifikuotis su identity provider vietoj vietinių slaptažodžių.
• Sąsaja, kurią jūsų naudotojai jau pasirinko. Agentai, pokalbis su failais, vaizdų generavimas, paieška; perėmimas nėra jūsų problema.
• MIT licencija. Jokių naudotojų skaičiaus nuostatų, jokių prekės ženklo sąlygų, laisvai peržiūrėkite ir pritaikykite kodą.
• Token kreditai kaip pirminis elementas. Egzistuoja pagrindinis mechanizmas naudojimui matuoti.

Ir sąžininga riba, ta pati, kurią aprašėme straipsnyje valdomas LibreChat prieglobstis: LibreChat yra pokalbių programa, o ne atsiskaitymo sistema ir ne pirkimų partneris. Nėra planų, nėra sąskaitų, nėra mokesčių tvarkymo, nėra išlaidų ribų, kurias finansų komanda pripažintų, o komandos egzistuoja kaip naudotojų eilutės, o ne kaip sutartys su bendrais biudžetais. Tai nėra kritika; tai apimtis.

Įmonės sluoksnis, kurį valdo kral

kral laiko LibreChat patirtį arti upstream ir aplink ją kuria oficialią dalį kaip vieną rinkinį: pokalbį, kurį mato jūsų naudotojai, gateway, kurį kviečia jūsų vidiniai įrankiai, administravimo konsolę, kurioje valdo IT, ir atsiskaitymą, kurį finansai gali užregistruoti. Net pats LibreChat konfigūruojamas iš tos konsolės; įjunkite modelį, įjunkite funkciją, ir pokalbis seka iš paskos, be ranka redaguojamo YAML. Praktikoje tai reiškia:

• Vienas prisijungimas. Viena paskyra neša pokalbį, naudojimą ir atsiskaitymą. Niekur įmonėje nėra API raktų.
• Komandos kaip sutartys. Vienas susitarimas, vienas bendras biudžetas, nariai, kuriuos savininkas kviečia ir pašalina. Prieiga baigiasi tą akimirką, kai baigiasi vieta.
• Biudžetai, kurie įsigalioja savaime. Mėnesio ribos vienam asmeniui; platforma matuoja kiekvieną užklausą jų atžvilgiu ir sustoja ties linija, kurią nubrėžėte.
• Naudojimas, kurį iš tikrųjų matote. Kiekviena užklausa matuojama: modelis, įvesties token, išvesties token, kaina. Token išlaidos vienam naudotojui yra kelių sekundžių užklausa, o ne mėnesio pabaigos rekonstrukcija, ir kiekvienas išlaidų vienetas turi vardą.
• Modelių valdymas. Įjunkite ar išjunkite atskirus modelius; kiekvienas didysis tiekėjas įtrauktas ir apmokestinamas už token.
• Pirkimams paruoštas atsiskaitymas. Planai plius kreditai, sutvarkytas ES PVM, viena sąskaita vietoj penkių tiekėjų išrašų.
• Gyvavimo ciklas, kurio nevaldote. Kai LibreChat išleidžia versiją, mes ją sujungiame, testuojame ir įdiegiame.

Talpinamas per minutę arba jūsų pačių sienose

Greitasis kelias yra talpinamas: prisijunkite prie app.kral.ai, ir sluoksnis viršuje jau gyvas. Įmonės kelias eina toliau: platforma, ant kurios sukurtas kral, gali veikti jūsų įmonės viduje, natyviai jūsų pačių Windows Server. Ten prisijungimas jungiasi prie identity provider, kurį jūsų IT ir taip valdo, duomenys lieka įrangoje, kuri jums priklauso, o jūsų vidiniai įrankiai pasiekia kiekvieną modelį per vieną gateway galinį tašką su vienu raktu.

Abu keliai išlaiko tą patį išėjimą: pagrindas yra atviro kodo ir jūsų duomenys yra eksportuojami. Oficialiam įrankiui niekada neturėtų prireikti įkaito sąlygos, kad išlaikytų savo naudotojus.

Grynas LibreChat vs kral, įmonės akimis

Klausimai, kuriuos IT iš tikrųjų užduoda

Ar kral yra tik LibreChat su priedais?

Sąmoningai, taip. kral laiko pokalbį arti upstream; aplink jį sėdi gateway, atsiskaitymas, biudžetai, naudojimo ataskaitos ir komandų valdymas, valdomi iš vienos konsolės, būtent ta dalis, kurios trūko įmoniniam diegimui.

Ar galime išlaikyti savo identity provider?

Savarankiško talpinimo platformoje taip: prisijungimas veikia su IdP, kurį valdo jūsų IT. Talpinama paslauga adresu app.kral.ai naudoja kral paskyras su vienu prisijungimu per pokalbį ir atsiskaitymą.

Ką pasakyti duomenų apsaugos pareigūnui?

Paklauskite, kur keliauja užklausos. Savo pačių serveryje jos keliauja į įrangą, kuri jums priklauso, prieš tai, kol koks nors modelis jas pamato. Talpinamoje paslaugoje jos keliauja per kral į jūsų pasirinktus modelių tiekėjus, o jūsų duomenys lieka eksportuojami bet kada. Tai nėra advokato atsakymas; tai sąžininga topologija, ant kurios statoma.

Ar mūsų žmonėms reikia API raktų?

Ne. Kiekvienas platformos modelis įtrauktas ir apmokestinamas už token. Niekas neatidaro tiekėjų paskyrų, ir joks raktas negali nutekėti, nes nėra ką dalinti.

Kiek tai kainuoja?

Mėnesio planai su įtrauktu naudojimu, plius kreditai įtemptoms savaitėms. Dabartiniai skaičiai yra kral.ai; nėra antkainio už vietą, paslėpto PDF faile, o kolega, kuris užduoda tris klausimus per mėnesį, jums kainuoja beveik nieko.

LibreChat jau laimėjo jūsų naudotojus; ta dalis padaryta. Lieka padaryti jį oficialų, nepaverčiant to šešių mėnesių projektu. Tai dalis, kurią valdo kral:

Rezervuokite demonstraciją

Išbandykite kral dabar