LibreChat для підприємства: SSO, команди та оплата за токени

Пілот відбувся без Вас. Десь у компанії LibreChat уже працює: розробник налаштував його за один день, дві команди його знайшли, і тепер він тихо несе справжню роботу. Потім запит приземляється на стіл ІТ-відділу одним реченням: "чи можемо ми зробити це офіційним?" Офіційне починається там, де починається складна частина: single sign-on, контроль доступу, бюджет, який комусь належить, і рахунок, який закупівлі справді можуть провести.

Ця стаття є картою для цього кроку. Що справді вимагає корпоративне впровадження LibreChat, які частини LibreChat дає з коробки, а які частини комусь доведеться побудувати. Повна відкритість відразу: kral є керованим LibreChat, побудованим саме для цієї прогалини, і ми будемо точними щодо того, де закінчується проект із відкритим кодом і починається наш шар.

Що справді означає "офіційний"

Хай би яким був інструмент, кожна компанія має на увазі ті самі шість речей, коли каже офіційний:

• Ідентифікація. Один вхід, керовані прийом та звільнення, жодних списків паролів у таблиці.
• Контроль доступу. Хто які моделі може використовувати, вирішується за роллю, а не за тим, хто першим знайшов URL.
• Атрибуція. Використання, яке можна простежити до людини, інакше фінанси простежать його до Вас.
• Бюджети. Ліміт на людину або команду, який зупиняє надмірні витрати до того, як вони стануться, а не після.
• Білінг, придатний для закупівель. Один рахунок, правильний ПДВ, постачальник, який вписується в процес закупівлі.
• Життєвий цикл. Оновлення за графіком, журнал змін, який хтось читає, і задокументований вихід.

Нічого з цього не є екзотикою. Це той самий список, який Ваша компанія вимагає від будь-якої іншої системи обліку. Різниця в тому, що ШІ увійшов через бічні двері, і список тепер прострочений.

Що LibreChat дає з коробки

Спершу визнання, бо воно заслужене. LibreChat дає підприємству справжню основу, від якої можна відштовхнутися:

• Підтримка OpenID Connect. Додаток може автентифікуватися через identity provider замість локальних паролів.
• Інтерфейс, який Ваші користувачі вже обрали. Агенти, чат із файлами, генерація зображень, пошук; прийняття не є Вашою проблемою.
• Ліцензія MIT. Жодних положень про кількість користувачів, жодних умов брендингу, вільно вивчайте та адаптуйте код.
• Токен-кредити як примітив. Базовий механізм для вимірювання використання існує.

І чесна межа, та сама, яку ми описали в статті керований хостинг LibreChat: LibreChat є додатком для чату, а не системою білінгу та не співрозмовником для закупівель. Немає тарифів, немає рахунків, немає обробки податків, немає лімітів витрат, які визнав би фінансовий відділ, а команди існують як рядки користувачів, а не як договори зі спільними бюджетами. Це не критика; це обсяг.

Корпоративний шар, яким керує kral

kral тримає досвід LibreChat близько до upstream і будує офіційну частину навколо нього як єдиний комплекс: чат, який бачать Ваші користувачі, шлюз, який викликають Ваші внутрішні інструменти, консоль адміністратора, де керує ІТ, і білінг, який фінанси можуть провести. Навіть сам LibreChat налаштовується з цієї консолі; увімкніть модель, перемкніть функцію, і чат йде за цим, без вручну відредагованого YAML. На практиці це означає:

• Один вхід. Єдиний обліковий запис несе чат, використання та білінг. Ніде в компанії немає ключів API.
• Команди як договори. Одна угода, один спільний бюджет, учасники, яких власник запрошує та видаляє. Доступ закінчується в той момент, коли закінчується місце.
• Бюджети, які застосовуються самі. Місячні ліміти на людину; платформа вимірює кожен запит щодо них і зупиняється на лінії, яку Ви провели.
• Використання, яке Ви справді бачите. Кожен запит вимірюється: модель, вхідні токени, вихідні токени, вартість. Витрату токенів на користувача можна переглянути за секунди, а не реконструювати наприкінці місяця, і кожна одиниця витрат має ім’я.
• Керування моделями. Увімкніть або вимкніть окремі моделі; кожен великий постачальник увімкнено і тарифікується за токен.
• Білінг, готовий для закупівель. Тарифи плюс кредити, опрацьований ПДВ ЄС, один рахунок замість п’яти виписок від постачальників.
• Життєвий цикл, яким Ви не керуєте. Коли LibreChat випускає версію, ми її зливаємо, тестуємо та розгортаємо.

Розміщено за хвилину або в Ваших власних стінах

Швидкий шлях розміщено в хмарі: увійдіть на app.kral.ai, і шар зверху вже живий. Корпоративний шлях йде далі: платформа, на якій побудовано kral, може працювати всередині Вашої компанії, нативно на Вашому власному Windows Server. Там вхід під’єднується до identity provider, яким Ваш ІТ і так керує, дані залишаються на обладнанні, яким Ви володієте, а Ваші внутрішні інструменти досягають кожної моделі через одну кінцеву точку шлюзу з одним ключем.

Обидва шляхи зберігають один і той самий вихід: основа є відкритим кодом, а Ваші дані можна експортувати. Офіційному інструменту ніколи не мало б бути потрібне положення про заручника, щоб утримати своїх користувачів.

Сирий LibreChat проти kral, очима підприємства

Питання, які ІТ справді ставить

Чи kral це просто LibreChat із додатками?

Свідомо, так. kral тримає чат близько до upstream; навколо нього розташовані шлюз, білінг, бюджети, звітність про використання та керування командами, керовані з однієї консолі, саме та частина, якої бракувало корпоративному впровадженню.

Чи можемо ми зберегти свій identity provider?

На самостійно розміщеній платформі, так: вхід працює через IdP, яким керує Ваш ІТ. Розміщена послуга за адресою app.kral.ai використовує облікові записи kral із єдиним входом для чату та білінгу.

Що ми скажемо спеціалісту із захисту даних?

Запитайте, куди йдуть запити. На Вашому власному сервері вони йдуть на обладнання, яким Ви володієте, перш ніж їх побачить будь-яка модель. У розміщеній послузі вони йдуть через kral до обраних Вами постачальників моделей, а Ваші дані залишаються експортованими будь-коли. Це не відповідь юриста; це чесна топологія, на якій будується відповідь.

Чи потрібні нашим людям ключі API?

Ні. Кожна модель на платформі увімкнена і тарифікується за токен. Ніхто не відкриває облікових записів у постачальників, і жоден ключ не може витекти, бо їх немає для роздачі.

Скільки це коштує?

Місячні тарифи з увімкненим використанням, плюс кредити на напружені тижні. Актуальні цифри доступні на kral.ai; немає націнки за місце, прихованої в PDF, а колега, який ставить три питання на місяць, коштує Вам майже нічого.

LibreChat уже завоював Ваших користувачів; ця частина зроблена. Залишається зробити його офіційним, не перетворюючи це на шестимісячний проект. Це частина, якою керує kral:

Замовити демо

Спробувати kral зараз