LibreChat за предприятия: SSO, екипи и таксуване на токен

Пилотният проект се случи без Вас. Някъде в компанията LibreChat вече работи: разработчик го настрои за един следобед, два екипа го откриха и сега то тихо носи реална работа. След това заявката кацва на бюрото на IT като едно изречение, "можем ли да го направим официално?" Официално е там, където започва трудната част: single sign-on, контрол на достъпа, бюджет, който има собственик, и фактура, която отделът за доставки действително може да осчетоводи.

Тази статия е картата за тази стъпка. Какво наистина изисква enterprise разгръщането на LibreChat, кои части LibreChat предлага готови и кои части някой трябва да изгради. Пълна откровеност отначало: kral е управляван LibreChat, изграден точно за тази празнина, и ще кажем точно къде свършва проектът с отворен код и къде започва нашият слой.

Какво означава "официално" наистина

Всяка компания има предвид едни и същи шест неща, когато каже официално, независимо от инструмента:

• Идентичност. Един логин, управлявани постъпвания и напускания, без списъци с пароли в електронна таблица.
• Контрол на достъпа. Кой кои модели може да ползва, решено по роля, а не по това кой първи е намерил URL.
• Атрибуция. Потребление, което може да се проследи до конкретен човек, иначе финансовият отдел ще го проследи до Вас.
• Бюджети. Таван на човек или екип, който спира прекомерното харчене, преди да се случи, а не след това.
• Фактуриране, годно за доставки. Една фактура, коректен ДДС, доставчик, който пасва на процеса по закупуване.
• Жизнен цикъл. Актуализации по график, списък с промени, който някой чете, и документиран път навън.

Нищо от това не е екзотично. Това е същият списък, който Вашата компания изисква от всяка друга основна система. Разликата е, че ИИ влезе през страничната врата, а списъкът вече е просрочен.

Какво предлага LibreChat готово

Първо признанието, защото е заслужено. LibreChat дава на едно предприятие реална основа, от която да започне:

• Поддръжка на OpenID Connect. Приложението може да се автентикира срещу identity provider вместо срещу локални пароли.
• Интерфейсът, който потребителите Ви вече избраха. Агенти, чат с файлове, генериране на изображения, търсене; приемането не е Ваш проблем.
• Лиценз MIT. Без клаузи за броя потребители, без условия за брандинг, проверявайте и адаптирайте кода свободно.
• Token кредити като примитив. Съществува базов механизъм за измерване на потреблението.

И честната граница, същата, която описахме в управляван хостинг на LibreChat: LibreChat е чат приложение, не система за фактуриране и не партньор за закупуване. Няма планове, няма фактури, няма обработка на данъци, няма лимити на разходите, които един финансов отдел би признал, а екипите съществуват като редове от потребители, а не като договори със споделени бюджети. Това не е критика; това е обхватът.

Enterprise слоят, който kral управлява

kral държи преживяването на LibreChat близо до upstream и изгражда официалната част около него като един набор: чата, който потребителите Ви виждат, gateway, който вътрешните Ви инструменти извикват, административната конзола, в която IT управлява, и фактурирането, което финансите могат да осчетоводят. Дори самият LibreChat се конфигурира от тази конзола; включете модел, превключете функция и чатът го следва, без YAML, поддържан на ръка. На практика това означава:

• Един логин. Една единствена сметка носи чат, потребление и фактуриране. Никъде в компанията API ключове.
• Екипите като договори. Един договор, един споделен бюджет, членове, които собственикът кани и премахва. Достъпът приключва в момента, в който приключва мястото.
• Бюджети, които се самоналагат. Месечни тавани на човек; платформата измерва всяка заявка срещу тях и спира на линията, която сте начертали.
• Потребление, което действително виждате. Всяка заявка се измерва: модел, токени вход, токени изход, цена. Разходът на токени на потребител е справка за секунди, а не реконструкция в края на месеца, и всяка единица разход има име.
• Управление на моделите. Включвайте или изключвайте отделни модели; всеки голям доставчик е включен и се таксува на токен.
• Фактуриране, готово за закупуване. Планове плюс кредити, обработен ДДС в ЕС, една фактура вместо пет извлечения от доставчици.
• Жизнен цикъл, който не управлявате. Когато LibreChat издаде версия, ние я сливаме, тестваме и разгръщаме.

Хостван за минута, или вътре в собствените Ви стени

Бързият път е хостван: влезте в app.kral.ai и слоят отгоре вече е налице. Enterprise пътят отива по-нататък: платформата, върху която е изграден kral, може да работи вътре във Вашата компания, нативно на Вашия собствен Windows Server. Там sign-on се включва към identity provider, който Вашето IT итака управлява, данните остават на хардуер, който Ви принадлежи, а вътрешните Ви инструменти достигат всеки модел през един gateway краен точка с един ключ.

И двата пътя запазват един и същ изход: основата е с отворен код и данните Ви са експортируеми. Един официален инструмент никога не бива да се нуждае от клауза заложник, за да задържи потребителите си.

Суров LibreChat срещу kral, през enterprise очи

Въпроси, които IT действително задава

kral само LibreChat с екстри ли е?

Нарочно, да. kral държи чата близо до upstream; около него стоят gateway, фактурирането, бюджетите, отчетността за потреблението и управлението на екипи, управлявани от една конзола, точно частта, която липсваше на enterprise разгръщането.

Можем ли да запазим нашия identity provider?

На самохостваната платформа, да: sign-on работи срещу IdP, който Вашето IT управлява. Хостваната услуга на app.kral.ai използва kral сметки с един логин за чат и фактуриране.

Какво да кажем на длъжностното лице по защита на данните?

Попитайте къде отиват входните данни. На Вашия собствен сървър те отиват на хардуер, който Ви принадлежи, преди някой модел да ги види. При хостваната услуга те отиват през kral към доставчиците на модели, които изберете, а данните Ви остават експортируеми по всяко време. Това не е отговор на юрист; това е честната топология, върху която се гради един.

Трябват ли на хората ни API ключове?

Не. Всеки модел на платформата е включен и се таксува на токен. Никой не отваря сметки при доставчиците и никой ключ не може да изтече, защото няма такива за раздаване.

Колко струва?

Месечни планове с включено потребление, плюс кредити за натоварените седмици. Актуалните цифри са на kral.ai; няма надценка на място, скрита в PDF, и колегата, който задава три въпроса на месец, Ви струва почти нищо.

LibreChat вече спечели потребителите Ви; тази част е готова. Остава да го направите официално, без да го превръщате в шестмесечен проект. Това е частта, която kral управлява:

Резервирайте демонстрация

Изпробвайте kral сега