Pilot se je zgodil brez vas. Nekje v podjetju LibreChat že teče: razvijalec ga je nastavil v enem popoldnevu, dve ekipi sta ga našli, in zdaj tiho nosi pravo delo. Nato zahteva pristane na mizi IT oddelka kot en sam stavek: "ali lahko to naredimo uradno?" Uradno se začne tam, kjer se začne težki del: single sign-on, nadzor dostopa, proračun, ki nekomu pripada, in račun, ki ga nabava resnično lahko knjiži.
Ta članek je zemljevid za ta korak. Kaj poslovna uvedba LibreChat resnično zahteva, katere dele LibreChat ponuja takoj in katere dele mora nekdo zgraditi. Popolna odkritost na začetku: kral je upravljan LibreChat, zgrajen prav za to vrzel, in natančni bomo glede tega, kje se konča projekt odprte kode in kje se začne naša plast.
Kaj "uradno" resnično pomeni
Ne glede na orodje vsako podjetje misli istih šest stvari, ko reče uradno:
- Identiteta. Ena prijava, upravljani prihodi in odhodi, brez seznamov gesel v preglednici.
- Nadzor dostopa. Kdo sme uporabljati katere modele, odločeno po vlogi, ne po tem, kdo je prvi našel URL.
- Pripisovanje. Uporaba, ki jo je mogoče izslediti do osebe, sicer jo finance izsledijo do vas.
- Proračuni. Zgornja meja na osebo ali ekipo, ki ustavi prekomerno porabo, preden se zgodi, ne po tem.
- Obračun, primeren za nabavo. En račun, pravilen DDV, dobavitelj, ki se vključi v nabavni proces.
- Življenjski cikel. Posodobitve po urniku, dnevnik sprememb, ki ga nekdo bere, in dokumentiran izhod.
Nič od tega ni eksotično. To je isti seznam, ki ga vaše podjetje zahteva od vsakega drugega evidenčnega sistema. Razlika je v tem, da je UI vstopil skozi stranska vrata, in seznam je zdaj zapoznel.
Kaj LibreChat ponuja takoj
Najprej priznanje, ker si ga je zaslužil. LibreChat daje podjetju pravo osnovo, od katere lahko začne:
- Podpora za OpenID Connect. Aplikacija se lahko overi proti identity provider namesto proti lokalnim geslom.
- Vmesnik, ki so ga vaši uporabniki že izbrali. Agenti, klepet z datotekami, ustvarjanje slik, iskanje; sprejetje ni vaša težava.
- Licenca MIT. Brez klavzul o številu uporabnikov, brez pogojev blagovne znamke, svobodno preučujte in prilagajajte kodo.
- Žetonski krediti kot primitiv. Obstaja osnovni mehanizem za merjenje uporabe.
In poštena meja, ista, ki smo jo opisali v članku upravljano gostovanje LibreChat: LibreChat je aplikacija za klepet, ne obračunski sistem in ne sogovornik za nabavo. Ni načrtov, ni računov, ni obravnave davkov, ni mej porabe, ki bi jih finančna ekipa priznala, in ekipe obstajajo kot vrstice uporabnikov, ne kot pogodbe s skupnimi proračuni. To ni kritika; to je obseg.
Poslovna plast, ki jo upravlja kral
kral ohranja izkušnjo LibreChat blizu upstreama in uradni del gradi okoli nje kot en paket: klepet, ki ga vidijo vaši uporabniki, gateway, ki ga kličejo vaša notranja orodja, skrbniško konzolo, kjer upravlja IT, in obračun, ki ga finance lahko knjižijo. Celo sam LibreChat se nastavlja iz te konzole; vklopite model, preklopite funkcijo, in klepet sledi, brez ročno urejenega YAML. V praksi to pomeni:
- Ena prijava. En sam račun nosi klepet, uporabo in obračun. Nikjer v podjetju ni ključev API.
- Ekipe kot pogodbe. En dogovor, en skupni proračun, člani, ki jih lastnik vabi in odstranjuje. Dostop se konča v trenutku, ko se konča mesto.
- Proračuni, ki se sami uveljavljajo. Mesečne meje na osebo; platforma meri vsako zahtevo glede na njih in se ustavi na črti, ki ste jo zarisali.
- Uporaba, ki jo resnično vidite. Vsaka zahteva se meri: model, žetoni na vhodu, žetoni na izhodu, strošek. Poraba žetonov na uporabnika je iskanje v nekaj sekundah, ne rekonstrukcija ob koncu meseca, in vsaka enota porabe ima ime.
- Upravljanje modelov. Vklopite ali izklopite posamezne modele; vsak velik ponudnik je vključen in obračunan po žetonu.
- Obračun, pripravljen za nabavo. Načrti plus krediti, urejen DDV EU, en račun namesto petih izpiskov dobaviteljev.
- Življenjski cikel, ki ga ne upravljate. Ko LibreChat izda različico, jo združimo, testiramo in uvedemo.
Gostovan v minuti ali znotraj vaših lastnih zidov
Hitra pot je gostovana: prijavite se na app.kral.ai in plast nad tem že živi. Poslovna pot gre dlje: platforma, na kateri je zgrajen kral, lahko teče znotraj vašega podjetja, izvorno na vašem lastnem Windows Serverju. Tam se prijava poveže z identity provider, ki ga vaš IT tako ali tako upravlja, podatki ostanejo na strojni opremi, ki jo imate v lasti, vaša notranja orodja pa dosežejo vsak model prek ene gateway končne točke z enim ključem.
Obe poti ohranjata isti izhod: osnova je odprta koda in vaši podatki so izvozljivi. Uradno orodje nikoli ne bi smelo potrebovati klavzule o talcu, da bi obdržalo svoje uporabnike.
Surov LibreChat vs kral, s poslovnimi očmi
| Surov LibreChat | kral | |
|---|---|---|
| Prijava | Podpora OIDC, ki jo povežete in upravljate | Ena prijava; integracija IdP na samostojno gostovani poti |
| Ekipe | Uporabniki v podatkovni bazi | Pogodbe s skupnimi proračuni in nadzorom lastnika |
| Nadzor stroškov | Žetonski krediti kot primitiv | Meje na osebo, pripisovanje po žetonu |
| Vidljivost uporabe | Dnevniki, če zgradite poročanje | Vsaka zahteva izmerjena; poraba na uporabnika na prvi pogled |
| Administracija | Ročno urejene datoteke YAML in env | Ena konzola nastavlja modele, funkcije in klepet |
| Obračun | Ni njegova naloga | Načrti, krediti, DDV EU, en račun |
| Modeli | Vaši ključi API, en račun na ponudnika | Vključeni, vsak velik ponudnik |
| Posodobitve | Berete, združujete, testirate, uvajate | Narejeno za vas |
| Izhod | Odprta koda po definiciji | Izvozljiv kadar koli, osnova ostaja odprta koda |
Vprašanja, ki jih IT resnično postavlja
Je kral samo LibreChat z dodatki?
Namerno, da. kral ohranja klepet blizu upstreama; okoli njega sedijo gateway, obračun, proračuni, poročanje o uporabi in upravljanje ekip, vodeni iz ene konzole, prav tisti del, ki je poslovni uvedbi manjkal.
Ali lahko obdržimo svoj identity provider?
Na samostojno gostovani platformi da: prijava deluje proti IdP, ki ga upravlja vaš IT. Gostovana storitev na app.kral.ai uporablja račune kral z eno prijavo prek klepeta in obračuna.
Kaj povemo pooblaščencu za varstvo podatkov?
Vprašajte, kam gredo pozivi. Na vašem lastnem strežniku gredo na strojno opremo, ki jo imate v lasti, preden jih vidi kateri koli model. V gostovani storitvi gredo prek kral do ponudnikov modelov, ki jih izberete, vaši podatki pa ostanejo izvozljivi kadar koli. To ni odgovor odvetnika; to je poštena topologija, na kateri se gradi.
Ali naši ljudje potrebujejo ključe API?
Ne. Vsak model na platformi je vključen in obračunan po žetonu. Nihče ne odpira računov pri ponudnikih in noben ključ ne more uhajati, ker jih ni za razdeljevanje.
Koliko stane?
Mesečni načrti z vključeno uporabo, plus krediti za intenzivne tedne. Trenutne številke so na kral.ai; ni pribitka na mesto, skritega v PDF, kolega, ki postavi tri vprašanja na mesec, pa vas stane skoraj nič.
LibreChat je vaše uporabnike že osvojil; ta del je opravljen. Ostane, da ga naredite uradnega, ne da bi iz tega naredili šestmesečni projekt. To je del, ki ga upravlja kral:
Komentarji (0)
Še ni komentarjev. Bodite prvi!
Prijavite se, da pustite komentar.
Prijava Registracija