LibreChat yritykselle: SSO, tiimit ja token-pohjainen laskutus

Pilotti tapahtui ilman sinua. Jossakin yrityksessä LibreChat on jo käynnissä: kehittäjä pystytti sen yhden iltapäivän aikana, kaksi tiimiä löysi sen, ja nyt se kantaa hiljaa oikeaa työtä. Sitten pyyntö laskeutuu IT:n pöydälle yhtenä lauseena, "voimmeko tehdä tästä virallisen?" Virallinen on siellä, missä vaikea osa alkaa: single sign-on, pääsynhallinta, budjetti, joka kuuluu jollekulle, ja lasku, jonka hankinta voi oikeasti kirjata.

Tämä artikkeli on kartta tähän askeleeseen. Mitä LibreChatin yritystason käyttöönotto todella vaatii, mitkä osat LibreChat tarjoaa valmiina ja mitkä osat jonkun on rakennettava. Täysi avoimuus heti alkuun: kral on hallittu LibreChat, rakennettu juuri tähän aukkoon, ja olemme täsmällisiä siitä, missä avoimen lähdekoodin projekti päättyy ja meidän kerroksemme alkaa.

Mitä "virallinen" oikeasti tarkoittaa

Jokainen yritys tarkoittaa samoja kuutta asiaa sanoessaan virallinen, oli työkalu mikä tahansa:

• Identiteetti. Yksi kirjautuminen, hallitut tulijat ja lähtijät, ei salasanalistoja taulukossa.
• Pääsynhallinta. Kuka saa käyttää mitäkin malleja, päätetty roolin mukaan, ei sen mukaan, kuka löysi URL-osoitteen ensin.
• Kohdistus. Käyttö, joka on jäljitettävissä henkilöön, muuten talous jäljittää sen sinuun.
• Budjetit. Katto henkilöä tai tiimiä kohti, joka pysäyttää ylikulutuksen ennen kuin se tapahtuu, ei jälkeenpäin.
• Hankintaan sopiva laskutus. Yksi lasku, oikea ALV, toimittaja, joka sopii hankintaprosessiin.
• Elinkaari. Päivitykset aikataulun mukaan, muutosloki, jota joku lukee, ja dokumentoitu ulospääsy.

Mikään tästä ei ole eksoottista. Se on sama lista, jota yrityksesi vaatii jokaiselta muulta tietojärjestelmältä. Ero on siinä, että tekoäly tuli sivuovesta, ja lista on nyt myöhässä.

Mitä LibreChat tarjoaa valmiina

Ensin tunnustus, koska se on ansaittu. LibreChat antaa yritykselle todellisen perustan, josta lähteä:

• OpenID Connect -tuki. Sovellus voi todentaa itsensä identity provideria vastaan paikallisten salasanojen sijaan.
• Käyttöliittymä, jonka käyttäjäsi ovat jo valinneet. Agentit, tiedostokeskustelu, kuvien luonti, haku; käyttöönotto ei ole sinun ongelmasi.
• MIT-lisenssi. Ei käyttäjämäärälausekkeita, ei brändiehtoja, tarkastele ja mukauta koodia vapaasti.
• Token-krediitit primitiivinä. Perusmekanismi käytön mittaamiseen on olemassa.

Ja rehellinen raja, sama jonka kuvasimme artikkelissa hallittu LibreChat-hosting: LibreChat on keskustelusovellus, ei laskutusjärjestelmä eikä hankinnan vastapuoli. Ei ole paketteja, ei laskuja, ei verokäsittelyä, ei kulutusrajoja, jotka talousosasto tunnistaisi, ja tiimit ovat olemassa käyttäjäriveinä, ei sopimuksina jaetuilla budjeteilla. Tämä ei ole kritiikkiä; se on laajuus.

Yrityskerros, jota kral pyörittää

kral pitää LibreChat-kokemuksen lähellä upstreamia ja rakentaa virallisen osan sen ympärille yhtenä kokonaisuutena: keskustelun, jonka käyttäjäsi näkevät, gatewayn, jota sisäiset työkalusi kutsuvat, hallintakonsolin, jossa IT hallinnoi, ja laskutuksen, jonka talous voi kirjata. Jopa LibreChat itse konfiguroidaan tästä konsolista; kytke malli päälle, kytke ominaisuus päälle, ja keskustelu seuraa, ilman käsin muokattua YAML:ia. Käytännössä se tarkoittaa:

• Yksi kirjautuminen. Yksi tili kantaa keskustelun, käytön ja laskutuksen. Ei API-avaimia missään yrityksessä.
• Tiimit sopimuksina. Yksi sopimus, yksi jaettu budjetti, jäsenet, joita omistaja kutsuu ja poistaa. Pääsy päättyy sillä hetkellä, kun paikka päättyy.
• Budjetit, jotka valvovat itseään. Kuukausikatot henkilöä kohti; alusta mittaa jokaista pyyntöä niitä vasten ja pysähtyy viivalle, jonka piirsit.
• Käyttö, jonka todella näet. Jokainen pyyntö mitataan: malli, tokenit sisään, tokenit ulos, kustannus. Token-kulutus käyttäjää kohti on sekuntien haku, ei kuukauden lopun rekonstruktio, ja jokaisella kulutusyksiköllä on nimi.
• Mallien hallinta. Kytke yksittäisiä malleja päälle tai pois; jokainen suuri tarjoaja on mukana ja laskutetaan tokenia kohti.
• Hankintavalmis laskutus. Paketit plus krediitit, EU:n ALV hoidettu, yksi lasku viiden toimittajaotteen sijaan.
• Elinkaari, jota et pyöritä. Kun LibreChat julkaisee version, me yhdistämme, testaamme ja otamme sen käyttöön.

Isännöity minuutissa, tai omien seiniesi sisällä

Nopea reitti on isännöity: kirjaudu app.kral.ai ja yllä oleva kerros on jo elävä. Yritysreitti menee pidemmälle: alusta, jolle kral on rakennettu, voi pyöriä yrityksesi sisällä, natiivisti omalla Windows Serverilläsi. Siellä kirjautuminen kytkeytyy identity provideriin, jota IT:si jo pyörittää, data pysyy laitteistolla, jonka omistat, ja sisäiset työkalusi tavoittavat jokaisen mallin yhden gateway-päätepisteen kautta yhdellä avaimella.

Molemmat reitit pitävät saman uloskäynnin: perusta on avointa lähdekoodia ja datasi on vietävissä. Virallisen työkalun ei pitäisi koskaan tarvita panttivankilauseketta pitääkseen käyttäjänsä.

Paljas LibreChat vs kral, yrityssilmin

Kysymykset, joita IT oikeasti esittää

Onko kral vain LibreChat lisäosilla?

Tarkoituksella, kyllä. kral pitää keskustelun lähellä upstreamia; sen ympärillä istuvat gateway, laskutus, budjetit, käyttöraportointi ja tiimien hallinta, ohjattuina yhdestä konsolista, juuri se osa, joka yritystason käyttöönotolta puuttui.

Voimmeko pitää oman identity providerimme?

Itse isännöidyllä alustalla, kyllä: kirjautuminen toimii IdP:tä vastaan, jota IT:si pyörittää. Isännöity palvelu osoitteessa app.kral.ai käyttää kral-tilejä yhdellä kirjautumisella keskustelun ja laskutuksen välillä.

Mitä sanomme tietosuojavastaavalle?

Kysy, minne kehotteet menevät. Omalla palvelimellasi ne menevät laitteistolle, jonka omistat, ennen kuin mikään malli näkee ne. Isännöidyssä palvelussa ne menevät kralin kautta valitsemillesi mallitarjoajille, ja datasi pysyy vietävissä milloin tahansa. Tämä ei ole lakimiehen vastaus; se on rehellinen topologia, jonka päälle sellainen rakennetaan.

Tarvitsevatko ihmisemme API-avaimia?

Ei. Jokainen alustan malli on mukana ja laskutetaan tokenia kohti. Kukaan ei avaa tarjoajatilejä, eikä mikään avain voi vuotaa, koska niitä ei ole jaettavaksi.

Paljonko se maksaa?

Kuukausipaketit sisältyvällä käytöllä, plus krediitit kiireisille viikoille. Nykyiset luvut ovat osoitteessa kral.ai; ei ole paikkakohtaista lisää piilotettuna PDF:ään, ja kollega, joka esittää kolme kysymystä kuukaudessa, ei maksa sinulle juuri mitään.

LibreChat on jo voittanut käyttäjäsi; se osa on tehty. Jäljelle jää tehdä siitä virallinen ilman, että siitä tulee puolen vuoden projekti. Se on osa, jota kral pyörittää:

Varaa demo

Kokeile kralia nyt