LibreChat для предприятия: SSO, команды и оплата за токены

Пилот прошёл без Вас. Где-то в компании LibreChat уже работает: разработчик настроил его за один день, две команды его нашли, и теперь он тихо несёт настоящую работу. Затем запрос приземляется на стол ИТ-отдела одной фразой: "можем ли мы сделать это официальным?" Официальное начинается там, где начинается сложная часть: single sign-on, контроль доступа, бюджет, который кому-то принадлежит, и счёт, который закупки действительно могут провести.

Эта статья служит картой для этого шага. Что на самом деле требует корпоративное внедрение LibreChat, какие части LibreChat даёт из коробки, а какие части кому-то придётся построить. Полная открытость сразу: kral является управляемым LibreChat, созданным именно для этого пробела, и мы будем точны в том, где заканчивается проект с открытым исходным кодом и начинается наш слой.

Что на самом деле означает "официальный"

Какой бы ни был инструмент, каждая компания подразумевает одни и те же шесть вещей, когда говорит официальный:

• Идентификация. Один вход, управляемые приём и увольнение, никаких списков паролей в таблице.
• Контроль доступа. Кто какими моделями может пользоваться, решается по роли, а не по тому, кто первым нашёл URL.
• Атрибуция. Использование, которое можно проследить до человека, иначе финансы проследят его до Вас.
• Бюджеты. Лимит на человека или команду, который останавливает перерасход до того, как он произойдёт, а не после.
• Биллинг, пригодный для закупок. Один счёт, правильный НДС, поставщик, который вписывается в процесс закупки.
• Жизненный цикл. Обновления по графику, журнал изменений, который кто-то читает, и документированный выход.

Ничто из этого не экзотика. Это тот же список, который Ваша компания требует от любой другой системы учёта. Разница в том, что ИИ вошёл через боковую дверь, и список теперь просрочен.

Что LibreChat даёт из коробки

Сначала признание, потому что оно заслужено. LibreChat даёт предприятию настоящую основу, от которой можно отталкиваться:

• Поддержка OpenID Connect. Приложение может аутентифицироваться через identity provider вместо локальных паролей.
• Интерфейс, который Ваши пользователи уже выбрали. Агенты, чат с файлами, генерация изображений, поиск; принятие не является Вашей проблемой.
• Лицензия MIT. Никаких положений о числе пользователей, никаких условий брендинга, свободно изучайте и адаптируйте код.
• Токен-кредиты как примитив. Базовый механизм для измерения использования существует.

И честная граница, та же, что мы описали в статье управляемый хостинг LibreChat: LibreChat является приложением для чата, а не системой биллинга и не собеседником для закупок. Нет тарифов, нет счетов, нет обработки налогов, нет лимитов расходов, которые признал бы финансовый отдел, а команды существуют как строки пользователей, а не как договоры с общими бюджетами. Это не критика; это охват.

Корпоративный слой, которым управляет kral

kral держит опыт LibreChat близко к upstream и строит официальную часть вокруг него как единый комплекс: чат, который видят Ваши пользователи, шлюз, который вызывают Ваши внутренние инструменты, консоль администратора, где управляет ИТ, и биллинг, который финансы могут провести. Даже сам LibreChat настраивается из этой консоли; включите модель, переключите функцию, и чат следует за этим, без вручную отредактированного YAML. На практике это означает:

• Один вход. Единая учётная запись несёт чат, использование и биллинг. Нигде в компании нет ключей API.
• Команды как договоры. Одно соглашение, один общий бюджет, участники, которых владелец приглашает и удаляет. Доступ заканчивается в тот момент, когда заканчивается место.
• Бюджеты, которые применяются сами. Месячные лимиты на человека; платформа измеряет каждый запрос по ним и останавливается на линии, которую Вы провели.
• Использование, которое Вы действительно видите. Каждый запрос измеряется: модель, входные токены, выходные токены, стоимость. Расход токенов на пользователя можно посмотреть за секунды, а не восстанавливать в конце месяца, и у каждой единицы расхода есть имя.
• Управление моделями. Включайте или выключайте отдельные модели; каждый крупный поставщик включён и тарифицируется за токен.
• Биллинг, готовый для закупок. Тарифы плюс кредиты, обработанный НДС ЕС, один счёт вместо пяти выписок от поставщиков.
• Жизненный цикл, которым Вы не управляете. Когда LibreChat выпускает версию, мы её сливаем, тестируем и развёртываем.

Размещён за минуту или в Ваших собственных стенах

Быстрый путь размещён в облаке: войдите на app.kral.ai, и слой сверху уже живой. Корпоративный путь идёт дальше: платформа, на которой построен kral, может работать внутри Вашей компании, нативно на Вашем собственном Windows Server. Там вход подключается к identity provider, которым Ваш ИТ и так управляет, данные остаются на оборудовании, которым Вы владеете, а Ваши внутренние инструменты достигают каждой модели через одну конечную точку шлюза с одним ключом.

Оба пути сохраняют один и тот же выход: основа с открытым исходным кодом, а Ваши данные можно экспортировать. Официальному инструменту никогда не должно понадобиться положение о заложнике, чтобы удержать своих пользователей.

Сырой LibreChat против kral, глазами предприятия

Вопросы, которые ИТ действительно задаёт

Является ли kral просто LibreChat с дополнениями?

Намеренно, да. kral держит чат близко к upstream; вокруг него располагаются шлюз, биллинг, бюджеты, отчётность об использовании и управление командами, управляемые из одной консоли, именно та часть, которой не хватало корпоративному внедрению.

Можем ли мы сохранить свой identity provider?

На самостоятельно размещённой платформе, да: вход работает через IdP, которым управляет Ваш ИТ. Размещённый сервис по адресу app.kral.ai использует учётные записи kral с единым входом для чата и биллинга.

Что мы скажем специалисту по защите данных?

Спросите, куда идут запросы. На Вашем собственном сервере они идут на оборудование, которым Вы владеете, прежде чем их увидит какая-либо модель. В размещённом сервисе они идут через kral к выбранным Вами поставщикам моделей, а Ваши данные остаются экспортируемыми в любое время. Это не ответ юриста; это честная топология, на которой строится ответ.

Нужны ли нашим людям ключи API?

Нет. Каждая модель на платформе включена и тарифицируется за токен. Никто не открывает аккаунты у поставщиков, и ни один ключ не может утечь, потому что их нет для раздачи.

Сколько это стоит?

Месячные тарифы с включённым использованием, плюс кредиты на напряжённые недели. Актуальные цифры доступны на kral.ai; нет наценки за место, спрятанной в PDF, а коллега, задающий три вопроса в месяц, обходится Вам почти бесплатно.

LibreChat уже завоевал Ваших пользователей; эта часть сделана. Остаётся сделать его официальным, не превращая это в шестимесячный проект. Это часть, которой управляет kral:

Заказать демо

Попробовать kral сейчас