Piloot toimus ilma teieta. Kuskil ettevõttes juba käib LibreChat: arendaja seadistas selle ühe pärastlõuna jooksul, kaks meeskonda leidsid selle üles ja nüüd kannab see vaikselt päris tööd. Seejärel maandub taotlus IT laual ühe lausena, "kas saame selle ametlikuks teha?" Ametlik on seal, kus algab raske osa: single sign-on, juurdepääsu kontroll, eelarve, mis kuulub kellelegi, ja arve, mille ost saab tegelikult kirjendada.
See artikkel on kaart selle sammu jaoks. Mida LibreChati ettevõtte kasutuselevõtt tegelikult nõuab, millised osad LibreChat pakub karbist välja ja millised osad peab keegi ehitama. Täielik avameelsus kohe alguses: kral on hallatav LibreChat, ehitatud täpselt selle lõhe jaoks, ja me oleme täpsed selles, kus lõpeb avatud lähtekoodiga projekt ja algab meie kiht.
Mida "ametlik" tegelikult tähendab
Iga ettevõte mõtleb ametlikku öeldes sama kuut asja, olgu tööriist milline tahes:
- Identiteet. Üks sisselogimine, hallatavad tulijad ja lahkujad, ei mingeid paroolinimekirju arvutustabelis.
- Juurdepääsu kontroll. Kes tohib kasutada milliseid mudeleid, otsustatud rolli järgi, mitte selle järgi, kes leidis URL-i esimesena.
- Omistamine. Kasutus, mille saab jälgida konkreetse inimeseni, muidu jälgib rahandus selle teieni.
- Eelarved. Ülempiir inimese või meeskonna kohta, mis peatab ülekulutamise enne, kui see juhtub, mitte pärast.
- Ostukõlblik arveldus. Üks arve, korrektne käibemaks, tarnija, kes sobib hankeprotsessi.
- Elutsükkel. Uuendused ajakava järgi, muudatuste logi, mida keegi loeb, ja dokumenteeritud väljapääs.
Miski sellest pole eksootiline. See on sama nimekiri, mida teie ettevõte nõuab igalt teiselt arvestussüsteemilt. Erinevus on selles, et tehisintellekt saabus kõrvaluksest, ja nimekiri on nüüd üle tähtaja.
Mida LibreChat pakub karbist välja
Kõigepealt tunnustus, sest see on ära teenitud. LibreChat annab ettevõttele päris ainest, millest alustada:
- OpenID Connecti tugi. Rakendus saab autentida identity provideri vastu kohalike paroolide asemel.
- Liides, mille teie kasutajad on juba valinud. Agendid, failivestlus, pildigenereerimine, otsing; kasutuselevõtt pole teie probleem.
- MIT-litsents. Ei mingeid kasutajate arvu klausleid, ei mingeid brändingutingimusi, uurige ja kohandage koodi vabalt.
- Tokenikrediidid algprimitiivina. Olemas on põhiline mehhanism kasutuse mõõtmiseks.
Ja aus piir, sama, mille kirjeldasime artiklis hallatav LibreChati majutus: LibreChat on vestlusrakendus, mitte arveldussüsteem ega ostupartner. Pole plaane, pole arveid, pole maksukäsitlust, pole kulupüstikke, mida rahandusmeeskond tunnustaks, ja meeskonnad eksisteerivad kasutajate ridadena, mitte lepingutena jagatud eelarvetega. See pole kriitika; see on ulatus.
Ettevõtte kiht, mida kral haldab
kral hoiab LibreChati kogemuse upstreamile lähedal ja ehitab ametliku osa selle ümber ühe komplektina: vestluse, mida teie kasutajad näevad, gateway, mida teie sisemised tööriistad kutsuvad, halduskonsooli, kus IT valitseb, ja arvelduse, mida rahandus saab kirjendada. Isegi LibreChat ise seadistatakse sellest konsoolist; lülitage mudel sisse, lülitage funktsioon sisse ja vestlus järgneb, ilma käsitsi redigeeritud YAML-ita. Praktikas tähendab see:
- Üks sisselogimine. Üks konto kannab vestlust, kasutust ja arveldust. Ei mingeid API-võtmeid kusagil ettevõttes.
- Meeskonnad lepingutena. Üks kokkulepe, üks jagatud eelarve, liikmed, keda omanik kutsub ja eemaldab. Juurdepääs lõpeb hetkel, mil lõpeb koht.
- Eelarved, mis kehtestavad end ise. Kuupõhised ülempiirid inimese kohta; platvorm mõõdab iga taotlust nende vastu ja peatub joonel, mille te tõmbasite.
- Kasutus, mida te tegelikult näete. Iga taotlus mõõdetakse: mudel, tokenid sisse, tokenid välja, kulu. Tokenikulu kasutaja kohta on sekundite päring, mitte kuu lõpu rekonstruktsioon, ja igal kuluühikul on nimi küljes.
- Mudelite valitsemine. Lülitage üksikuid mudeleid sisse või välja; iga suurem pakkuja on kaasas ja arveldatakse tokenipõhiselt.
- Ostuvalmis arveldus. Plaanid pluss krediidid, ELi käibemaks käsitletud, üks arve viie tarnija väljavõtte asemel.
- Elutsükkel, mida te ei halda. Kui LibreChat annab välja versiooni, meie liidame, testime ja juurutame selle.
Majutatud minutiga või teie enda müüride sees
Kiire tee on majutatud: logige sisse app.kral.ai ja ülemine kiht on juba elus. Ettevõtte tee läheb kaugemale: platvorm, millele kral on ehitatud, saab töötada teie ettevõtte sees, natiivselt teie enda Windows Serveris. Seal ühendub sisselogimine identity provideriga, mida teie IT niikuinii käitab, andmed jäävad riistvarasse, mis kuulub teile, ja teie sisemised tööriistad jõuavad iga mudelini ühe gateway lõpp-punkti kaudu ühe võtmega.
Mõlemad teed hoiavad sama väljapääsu: alus on avatud lähtekoodiga ja teie andmed on eksporditavad. Ametlik tööriist ei tohiks kunagi vajada pantvangiklauslit, et oma kasutajaid hoida.
Paljas LibreChat vs kral, ettevõtte pilguga
| Paljas LibreChat | kral | |
|---|---|---|
| Sisselogimine | OIDC tugi, mille te ühendate ja käitate | Üks sisselogimine; IdP integratsioon isemajutatud teel |
| Meeskonnad | Kasutajad andmebaasis | Lepingud jagatud eelarvete ja omaniku kontrolliga |
| Kulude kontroll | Tokenikrediidid algprimitiivina | Ülempiirid inimese kohta, omistamine tokeni kohta |
| Kasutuse nähtavus | Logid, kui te ehitate aruandluse | Iga taotlus mõõdetud; kulu kasutaja kohta ühe pilguga |
| Haldus | Käsitsi redigeeritud YAML- ja env-failid | Üks konsool seadistab mudelid, funktsioonid ja vestluse |
| Arveldus | Pole selle ülesanne | Plaanid, krediidid, ELi käibemaks, üks arve |
| Mudelid | Teie API-võtmed, üks konto pakkuja kohta | Kaasas, iga suurem pakkuja |
| Uuendused | Te loete, liidate, testite, juurutate | Tehtud teie eest |
| Väljapääs | Avatud lähtekoodiga definitsiooni järgi | Eksporditav igal ajal, alus jääb avatud lähtekoodiga |
Küsimused, mida IT tegelikult esitab
Kas kral on lihtsalt LibreChat lisadega?
Teadlikult, jah. kral hoiab vestluse upstreamile lähedal; selle ümber istuvad gateway, arveldus, eelarved, kasutusaruandlus ja meeskonnahaldus, juhitud ühest konsoolist, täpselt see osa, mis ettevõtte kasutuselevõtul puudus.
Kas saame oma identity provideri alles jätta?
Isemajutatud platvormil jah: sisselogimine töötab IdP vastu, mida teie IT käitab. Majutatud teenus aadressil app.kral.ai kasutab kral kontosid ühe sisselogimisega üle vestluse ja arvelduse.
Mida ütleme andmekaitseametnikule?
Küsige, kuhu lähevad sisendid. Teie enda serveris lähevad need riistvarasse, mis kuulub teile, enne kui ükski mudel neid näeb. Majutatud teenuses lähevad need krali kaudu mudelipakkujatele, keda te valite, ja teie andmed jäävad igal ajal eksporditavaks. See pole advokaadi vastus; see on aus topoloogia, millele üks ehitada.
Kas meie inimesed vajavad API-võtmeid?
Ei. Iga mudel platvormil on kaasas ja arveldatakse tokenipõhiselt. Keegi ei ava pakkujate kontosid ja ükski võti ei saa lekkida, sest neid pole jagada.
Kui palju see maksab?
Kuuplaanid koos kaasas oleva kasutusega, pluss krediidid tihedateks nädalateks. Praegused numbrid on lehel kral.ai; pole kohapõhist juurdehindlust, mis oleks peidetud PDF-i, ja kolleeg, kes esitab kolm küsimust kuus, ei maksa teile peaaegu midagi.
LibreChat on teie kasutajad juba võitnud; see osa on tehtud. Järele jääb teha see ametlikuks, ilma et sellest saaks kuuekuine projekt. See on osa, mida kral haldab:
Kommentaarid (0)
Kommentaare veel pole. Olge esimene!
Kommentaari jätmiseks logige sisse.
Logi sisse Registreeru