Pilot se dogodio bez vas. Negdje u tvrtki LibreChat već radi: razvojni programer ga je postavio u jedno poslijepodne, dva tima su ga pronašla, i sada tiho nosi pravi posao. Zatim zahtjev sleti na stol IT-a kao jedna rečenica, "možemo li ovo učiniti službenim?" Službeno je ondje gdje počinje teški dio: single sign-on, kontrola pristupa, proračun koji netko posjeduje i račun koji nabava doista može proknjižiti.

Ovaj članak je karta za taj korak. Što poslovno uvođenje LibreChata doista zahtijeva, koje dijelove LibreChat nudi od početka i koje dijelove netko mora izgraditi. Potpuna otvorenost odmah na početku: kral je upravljani LibreChat izgrađen točno za tu prazninu, i bit ćemo precizni o tome gdje završava projekt otvorenog koda i počinje naš sloj.

Što "službeno" zapravo znači

Svaka tvrtka misli na istih šest stvari kada kaže službeno, bez obzira na alat:

  • Identitet. Jedna prijava, upravljani dolasci i odlasci, bez popisa lozinki u tablici.
  • Kontrola pristupa. Tko smije koristiti koje modele, odlučeno prema ulozi, a ne prema tome tko je prvi našao URL.
  • Pripisivanje. Korištenje koje se može pratiti do osobe, inače će ga financije pratiti do vas.
  • Proračuni. Gornja granica po osobi ili timu koja zaustavlja prekomjernu potrošnju prije nego se dogodi, a ne poslije.
  • Naplata prikladna za nabavu. Jedan račun, ispravan PDV, dobavljač koji se uklapa u proces nabave.
  • Životni ciklus. Ažuriranja prema rasporedu, popis promjena koji netko čita, i dokumentiran izlaz.

Ništa od toga nije egzotično. To je isti popis koji vaša tvrtka zahtijeva od svakog drugog sustava evidencije. Razlika je u tome što je umjetna inteligencija ušla na sporedna vrata, i popis sada kasni.

Što LibreChat nudi od početka

Prvo priznanje, jer ga je zaslužio. LibreChat daje poduzeću pravu podlogu za početak:

  • Podrška za OpenID Connect. Aplikacija se može autenticirati prema identity provideru umjesto prema lokalnim lozinkama.
  • Sučelje koje su vaši korisnici već odabrali. Agenti, razgovor s datotekama, generiranje slika, pretraživanje; prihvaćanje nije vaš problem.
  • MIT licenca. Bez klauzula o broju korisnika, bez uvjeta o brendiranju, pregledavajte i prilagođavajte kod slobodno.
  • Tokenski krediti kao primitiv. Postoji osnovni mehanizam za mjerenje korištenja.

I poštena granica, ista ona koju smo opisali u članku upravljani hosting LibreChata: LibreChat je aplikacija za razgovor, a ne sustav naplate ni sugovornik za nabavu. Nema planova, nema računa, nema obrade poreza, nema ograničenja potrošnje koja bi financijski odjel priznao, a timovi postoje kao retci korisnika, a ne kao ugovori sa zajedničkim proračunima. To nije kritika; to je opseg.

Poslovni sloj koji vodi kral

kral drži LibreChat iskustvo blizu upstreama i gradi službeni dio oko njega kao jedan paket: razgovor koji vaši korisnici vide, gateway koji vaši interni alati pozivaju, administratorsku konzolu gdje IT upravlja, i naplatu koju financije mogu proknjižiti. Čak se i sam LibreChat konfigurira iz te konzole; uključite model, uključite značajku i razgovor slijedi, bez ručno uređivanog YAML-a. U praksi to znači:

  • Jedna prijava. Jedan račun nosi razgovor, korištenje i naplatu. Nigdje u tvrtki nema API ključeva.
  • Timovi kao ugovori. Jedan sporazum, jedan zajednički proračun, članovi koje vlasnik poziva i uklanja. Pristup završava u trenutku kad završava mjesto.
  • Proračuni koji se sami provode. Mjesečne granice po osobi; platforma mjeri svaki zahtjev u odnosu na njih i zaustavlja se na crti koju ste povukli.
  • Korištenje koje doista vidite. Svaki se zahtjev mjeri: model, tokeni na ulazu, tokeni na izlazu, trošak. Potrošnja tokena po korisniku je pretraga od nekoliko sekundi, a ne rekonstrukcija na kraju mjeseca, i svaka jedinica potrošnje nosi ime.
  • Upravljanje modelima. Uključujte ili isključujte pojedinačne modele; svaki veliki pružatelj je uključen i naplaćuje se po tokenu.
  • Naplata spremna za nabavu. Planovi plus krediti, obrađen PDV EU-a, jedan račun umjesto pet izvoda dobavljača.
  • Životni ciklus koji vi ne vodite. Kad LibreChat objavi izdanje, mi ga spajamo, testiramo i uvodimo.

Hostirano u minuti, ili unutar vaših zidova

Brzi je put hostiran: prijavite se na app.kral.ai i sloj iznad već je živ. Poslovni put ide dalje: platforma na kojoj je kral izgrađen može raditi unutar vaše tvrtke, izvorno na vašem vlastitom Windows Serveru. Ondje se prijava povezuje s identity providerom koji vaš IT ionako pokreće, podaci ostaju na hardveru koji posjedujete, a vaši interni alati dosežu svaki model kroz jednu gateway krajnju točku s jednim ključem.

Oba puta zadržavaju isti izlaz: osnova je otvorenog koda i vaši su podaci izvozljivi. Službeni alat nikada ne bi trebao trebati klauzulu o taocima da zadrži svoje korisnike.

Goli LibreChat vs kral, poslovnim očima

Goli LibreChatkral
PrijavaOIDC podrška koju vi povezujete i pokrećeteJedna prijava; integracija IdP-a na samostalno hostiranom putu
TimoviKorisnici u bazi podatakaUgovori sa zajedničkim proračunima i kontrolom vlasnika
Kontrola troškovaTokenski krediti kao primitivGranice po osobi, pripisivanje po tokenu
Vidljivost korištenjaZapisnici, ako izgradite izvještavanjeSvaki zahtjev izmjeren; potrošnja po korisniku na prvi pogled
AdministracijaRučno uređivane YAML i env datotekeJedna konzola konfigurira modele, značajke i razgovor
NaplataNije njezin posaoPlanovi, krediti, PDV EU-a, jedan račun
ModeliVaši API ključevi, jedan račun po pružateljuUključeni, svaki veliki pružatelj
AžuriranjaVi čitate, spajate, testirate, uvoditeUčinjeno za vas
IzlazOtvoreni kod po definicijiIzvozljivo u bilo koje vrijeme, osnova ostaje otvoreni kod

Pitanja koja IT doista postavlja

Je li kral samo LibreChat s dodacima?

Namjerno, da. kral drži razgovor blizu upstreama; oko njega sjede gateway, naplata, proračuni, izvještavanje o korištenju i upravljanje timovima, vođeni iz jedne konzole, upravo dio koji je poslovnom uvođenju nedostajao.

Možemo li zadržati svoj identity provider?

Na samostalno hostiranoj platformi, da: prijava radi prema IdP-u koji vaš IT pokreće. Hostirana usluga na app.kral.ai koristi kral račune s jednom prijavom kroz razgovor i naplatu.

Što ćemo reći službeniku za zaštitu podataka?

Pitajte kamo idu upiti. Na vašem vlastitom poslužitelju idu na hardver koji posjedujete prije nego što ih ijedan model vidi. U hostiranoj usluzi idu kroz kral do pružatelja modela koje odaberete, a vaši podaci ostaju izvozljivi u bilo koje vrijeme. To nije odvjetnički odgovor; to je poštena topologija na kojoj se gradi.

Trebaju li naši ljudi API ključeve?

Ne. Svaki model na platformi je uključen i naplaćuje se po tokenu. Nitko ne otvara račune kod pružatelja, i nijedan ključ ne može procuriti, jer ih nema za dijeljenje.

Koliko košta?

Mjesečni planovi s uključenim korištenjem, plus krediti za intenzivne tjedne. Trenutni su brojevi na kral.ai; nema doplate po mjestu skrivene u PDF-u, i kolega koji postavi tri pitanja mjesečno košta vas gotovo ništa.


LibreChat je već osvojio vaše korisnike; taj je dio gotov. Ostaje učiniti ga službenim, a da to ne postane šestomjesečni projekt. To je dio koji vodi kral:

Rezervirajte demo

Isprobajte kral sada

Komentari (0)

Još nema komentara. Budite prvi!

Prijavite se kako biste ostavili komentar.

Prijava Registracija