Pilot se dogodio bez vas. Negdje u tvrtki LibreChat već radi: razvojni programer ga je postavio u jedno poslijepodne, dva tima su ga pronašla, i sada tiho nosi pravi posao. Zatim zahtjev sleti na stol IT-a kao jedna rečenica, "možemo li ovo učiniti službenim?" Službeno je ondje gdje počinje teški dio: single sign-on, kontrola pristupa, proračun koji netko posjeduje i račun koji nabava doista može proknjižiti.
Ovaj članak je karta za taj korak. Što poslovno uvođenje LibreChata doista zahtijeva, koje dijelove LibreChat nudi od početka i koje dijelove netko mora izgraditi. Potpuna otvorenost odmah na početku: kral je upravljani LibreChat izgrađen točno za tu prazninu, i bit ćemo precizni o tome gdje završava projekt otvorenog koda i počinje naš sloj.
Što "službeno" zapravo znači
Svaka tvrtka misli na istih šest stvari kada kaže službeno, bez obzira na alat:
- Identitet. Jedna prijava, upravljani dolasci i odlasci, bez popisa lozinki u tablici.
- Kontrola pristupa. Tko smije koristiti koje modele, odlučeno prema ulozi, a ne prema tome tko je prvi našao URL.
- Pripisivanje. Korištenje koje se može pratiti do osobe, inače će ga financije pratiti do vas.
- Proračuni. Gornja granica po osobi ili timu koja zaustavlja prekomjernu potrošnju prije nego se dogodi, a ne poslije.
- Naplata prikladna za nabavu. Jedan račun, ispravan PDV, dobavljač koji se uklapa u proces nabave.
- Životni ciklus. Ažuriranja prema rasporedu, popis promjena koji netko čita, i dokumentiran izlaz.
Ništa od toga nije egzotično. To je isti popis koji vaša tvrtka zahtijeva od svakog drugog sustava evidencije. Razlika je u tome što je umjetna inteligencija ušla na sporedna vrata, i popis sada kasni.
Što LibreChat nudi od početka
Prvo priznanje, jer ga je zaslužio. LibreChat daje poduzeću pravu podlogu za početak:
- Podrška za OpenID Connect. Aplikacija se može autenticirati prema identity provideru umjesto prema lokalnim lozinkama.
- Sučelje koje su vaši korisnici već odabrali. Agenti, razgovor s datotekama, generiranje slika, pretraživanje; prihvaćanje nije vaš problem.
- MIT licenca. Bez klauzula o broju korisnika, bez uvjeta o brendiranju, pregledavajte i prilagođavajte kod slobodno.
- Tokenski krediti kao primitiv. Postoji osnovni mehanizam za mjerenje korištenja.
I poštena granica, ista ona koju smo opisali u članku upravljani hosting LibreChata: LibreChat je aplikacija za razgovor, a ne sustav naplate ni sugovornik za nabavu. Nema planova, nema računa, nema obrade poreza, nema ograničenja potrošnje koja bi financijski odjel priznao, a timovi postoje kao retci korisnika, a ne kao ugovori sa zajedničkim proračunima. To nije kritika; to je opseg.
Poslovni sloj koji vodi kral
kral drži LibreChat iskustvo blizu upstreama i gradi službeni dio oko njega kao jedan paket: razgovor koji vaši korisnici vide, gateway koji vaši interni alati pozivaju, administratorsku konzolu gdje IT upravlja, i naplatu koju financije mogu proknjižiti. Čak se i sam LibreChat konfigurira iz te konzole; uključite model, uključite značajku i razgovor slijedi, bez ručno uređivanog YAML-a. U praksi to znači:
- Jedna prijava. Jedan račun nosi razgovor, korištenje i naplatu. Nigdje u tvrtki nema API ključeva.
- Timovi kao ugovori. Jedan sporazum, jedan zajednički proračun, članovi koje vlasnik poziva i uklanja. Pristup završava u trenutku kad završava mjesto.
- Proračuni koji se sami provode. Mjesečne granice po osobi; platforma mjeri svaki zahtjev u odnosu na njih i zaustavlja se na crti koju ste povukli.
- Korištenje koje doista vidite. Svaki se zahtjev mjeri: model, tokeni na ulazu, tokeni na izlazu, trošak. Potrošnja tokena po korisniku je pretraga od nekoliko sekundi, a ne rekonstrukcija na kraju mjeseca, i svaka jedinica potrošnje nosi ime.
- Upravljanje modelima. Uključujte ili isključujte pojedinačne modele; svaki veliki pružatelj je uključen i naplaćuje se po tokenu.
- Naplata spremna za nabavu. Planovi plus krediti, obrađen PDV EU-a, jedan račun umjesto pet izvoda dobavljača.
- Životni ciklus koji vi ne vodite. Kad LibreChat objavi izdanje, mi ga spajamo, testiramo i uvodimo.
Hostirano u minuti, ili unutar vaših zidova
Brzi je put hostiran: prijavite se na app.kral.ai i sloj iznad već je živ. Poslovni put ide dalje: platforma na kojoj je kral izgrađen može raditi unutar vaše tvrtke, izvorno na vašem vlastitom Windows Serveru. Ondje se prijava povezuje s identity providerom koji vaš IT ionako pokreće, podaci ostaju na hardveru koji posjedujete, a vaši interni alati dosežu svaki model kroz jednu gateway krajnju točku s jednim ključem.
Oba puta zadržavaju isti izlaz: osnova je otvorenog koda i vaši su podaci izvozljivi. Službeni alat nikada ne bi trebao trebati klauzulu o taocima da zadrži svoje korisnike.
Goli LibreChat vs kral, poslovnim očima
| Goli LibreChat | kral | |
|---|---|---|
| Prijava | OIDC podrška koju vi povezujete i pokrećete | Jedna prijava; integracija IdP-a na samostalno hostiranom putu |
| Timovi | Korisnici u bazi podataka | Ugovori sa zajedničkim proračunima i kontrolom vlasnika |
| Kontrola troškova | Tokenski krediti kao primitiv | Granice po osobi, pripisivanje po tokenu |
| Vidljivost korištenja | Zapisnici, ako izgradite izvještavanje | Svaki zahtjev izmjeren; potrošnja po korisniku na prvi pogled |
| Administracija | Ručno uređivane YAML i env datoteke | Jedna konzola konfigurira modele, značajke i razgovor |
| Naplata | Nije njezin posao | Planovi, krediti, PDV EU-a, jedan račun |
| Modeli | Vaši API ključevi, jedan račun po pružatelju | Uključeni, svaki veliki pružatelj |
| Ažuriranja | Vi čitate, spajate, testirate, uvodite | Učinjeno za vas |
| Izlaz | Otvoreni kod po definiciji | Izvozljivo u bilo koje vrijeme, osnova ostaje otvoreni kod |
Pitanja koja IT doista postavlja
Je li kral samo LibreChat s dodacima?
Namjerno, da. kral drži razgovor blizu upstreama; oko njega sjede gateway, naplata, proračuni, izvještavanje o korištenju i upravljanje timovima, vođeni iz jedne konzole, upravo dio koji je poslovnom uvođenju nedostajao.
Možemo li zadržati svoj identity provider?
Na samostalno hostiranoj platformi, da: prijava radi prema IdP-u koji vaš IT pokreće. Hostirana usluga na app.kral.ai koristi kral račune s jednom prijavom kroz razgovor i naplatu.
Što ćemo reći službeniku za zaštitu podataka?
Pitajte kamo idu upiti. Na vašem vlastitom poslužitelju idu na hardver koji posjedujete prije nego što ih ijedan model vidi. U hostiranoj usluzi idu kroz kral do pružatelja modela koje odaberete, a vaši podaci ostaju izvozljivi u bilo koje vrijeme. To nije odvjetnički odgovor; to je poštena topologija na kojoj se gradi.
Trebaju li naši ljudi API ključeve?
Ne. Svaki model na platformi je uključen i naplaćuje se po tokenu. Nitko ne otvara račune kod pružatelja, i nijedan ključ ne može procuriti, jer ih nema za dijeljenje.
Koliko košta?
Mjesečni planovi s uključenim korištenjem, plus krediti za intenzivne tjedne. Trenutni su brojevi na kral.ai; nema doplate po mjestu skrivene u PDF-u, i kolega koji postavi tri pitanja mjesečno košta vas gotovo ništa.
LibreChat je već osvojio vaše korisnike; taj je dio gotov. Ostaje učiniti ga službenim, a da to ne postane šestomjesečni projekt. To je dio koji vodi kral:
Komentari (0)
Još nema komentara. Budite prvi!
Prijavite se kako biste ostavili komentar.
Prijava Registracija