Kurumsal LibreChat: SSO, ekipler ve token başına faturalandırma

Pilot sizsiz gerçekleşti. Şirketin bir yerinde LibreChat zaten çalışıyor: bir geliştirici onu bir öğleden sonra kurdu, iki ekip onu buldu ve şimdi sessizce gerçek iş taşıyor. Sonra talep BT'nin masasına tek bir cümle olarak düşer: "bunu resmi hale getirebilir miyiz?" Resmi, zor kısmın başladığı yerdir: single sign-on, erişim denetimi, birine ait bir bütçe ve satın almanın gerçekten muhasebeleştirebileceği bir fatura.

Bu makale o adım için bir haritadır. LibreChat'in kurumsal dağıtımının gerçekte neyi gerektirdiği, LibreChat'in hangi parçaları hazır sunduğu ve hangi parçaları birinin inşa etmesi gerektiği. Baştan tam açıklık: kral, tam da bu boşluk için inşa edilmiş yönetilen bir LibreChat'tir ve açık kaynak projesinin nerede bittiği ile katmanımızın nerede başladığı konusunda net olacağız.

"Resmi" gerçekte ne demek

Araç ne olursa olsun, her şirket resmi dediğinde aynı altı şeyi kasteder:

• Kimlik. Tek bir oturum açma, yönetilen giriş ve çıkışlar, bir elektronik tabloda parola listeleri yok.
• Erişim denetimi. Kimin hangi modelleri kullanabileceği, URL'yi ilk kimin bulduğuna göre değil, role göre kararlaştırılır.
• Atıf. Bir kişiye kadar izlenebilen kullanım, aksi halde finans onu size kadar izler.
• Bütçeler. Aşırı harcamayı gerçekleşmeden önce durduran, sonrasında değil, kişi veya ekip başına bir üst sınır.
• Satın almaya uygun faturalandırma. Tek fatura, doğru KDV, satın alma sürecine uyan bir tedarikçi.
• Bir yaşam döngüsü. Bir takvime göre güncellemeler, birinin okuduğu bir değişiklik günlüğü ve belgelenmiş bir çıkış.

Bunların hiçbiri egzotik değil. Bu, şirketinizin diğer her kayıt sisteminden talep ettiği aynı listedir. Fark, yapay zekânın yan kapıdan girmiş olması ve listenin artık gecikmiş olmasıdır.

LibreChat'in hazır sunduğu

Önce takdir, çünkü hak edilmiş. LibreChat bir kuruluşa başlamak için gerçek bir temel verir:

• OpenID Connect desteği. Uygulama, yerel parolalar yerine bir identity provider'a karşı kimlik doğrulayabilir.
• Kullanıcılarınızın zaten seçtiği arayüz. Ajanlar, dosyayla sohbet, görsel üretimi, arama; benimseme sizin sorununuz değil.
• Bir MIT lisansı. Kullanıcı sayısı maddeleri yok, marka koşulları yok, kodu özgürce inceleyin ve uyarlayın.
• İlkel bir öğe olarak token kredileri. Kullanımı ölçmek için temel bir mekanizma vardır.

Ve dürüst sınır, yönetilen LibreChat barındırma yazısında anlattığımızın aynısı: LibreChat bir sohbet uygulamasıdır, bir faturalandırma sistemi ve satın alma muhatabı değildir. Plan yok, fatura yok, vergi işleme yok, bir finans ekibinin tanıyacağı harcama üst sınırları yok ve ekipler paylaşılan bütçeli sözleşmeler olarak değil, kullanıcı satırları olarak var olur. Bu bir eleştiri değil; kapsamdır.

kral'ın işlettiği kurumsal katman

kral, LibreChat deneyimini upstream'e yakın tutar ve resmi kısmı onun etrafında tek bir paket olarak inşa eder: kullanıcılarınızın gördüğü sohbet, iç araçlarınızın çağırdığı gateway, BT'nin yönettiği yönetim konsolu ve finansın muhasebeleştirebileceği faturalandırma. LibreChat'in kendisi bile o konsoldan yapılandırılır; bir modeli açın, bir özelliği değiştirin, ve sohbet takip eder, elle düzenlenen YAML olmadan. Pratikte bu şu anlama gelir:

• Tek bir oturum açma. Tek bir hesap sohbeti, kullanımı ve faturalandırmayı taşır. Şirkette hiçbir yerde API anahtarı yok.
• Sözleşmeler olarak ekipler. Bir anlaşma, bir paylaşılan bütçe, sahibin davet ettiği ve çıkardığı üyeler. Erişim, koltuk bittiği anda biter.
• Kendilerini uygulayan bütçeler. Kişi başına aylık üst sınırlar; platform her isteği bunlara göre ölçer ve çizdiğiniz çizgide durur.
• Gerçekten gördüğünüz kullanım. Her istek ölçülür: model, giriş token'ları, çıkış token'ları, maliyet. Kullanıcı başına token harcaması saniyeler süren bir sorgudur, ay sonu yeniden yapılandırma değil, ve her harcama biriminin bir adı vardır.
• Model yönetişimi. Tek tek modelleri açın veya kapatın; her büyük sağlayıcı dahildir ve token başına faturalandırılır.
• Satın almaya hazır faturalandırma. Planlar artı krediler, AB KDV'si hallolmuş, beş sağlayıcı ekstresi yerine tek fatura.
• İşletmediğiniz bir yaşam döngüsü. LibreChat bir sürüm yayınladığında, onu birleştirir, test eder ve dağıtırız.

Bir dakikada barındırılmış veya kendi duvarlarınızın içinde

Hızlı yol barındırılmıştır: app.kral.ai'ye giriş yapın ve üstteki katman zaten canlı. Kurumsal yol daha da ileri gider: kral'ın üzerine inşa edildiği platform, şirketinizin içinde, kendi Windows Server'ınızda yerel olarak çalışabilir. Orada oturum açma, BT'nizin zaten işlettiği identity provider'a bağlanır, veriler sahip olduğunuz donanımda kalır ve iç araçlarınız her modele tek bir anahtarla tek bir gateway uç noktası üzerinden ulaşır.

Her iki yol da aynı çıkışı korur: temel açık kaynaktır ve verileriniz dışa aktarılabilir. Resmi bir aracın kullanıcılarını tutmak için asla bir rehin maddesine ihtiyacı olmamalı.

Ham LibreChat karşı kral, kurumsal gözlerle

BT'nin gerçekten sorduğu sorular

kral sadece eklentileri olan LibreChat mi?

Bilinçli olarak, evet. kral sohbeti upstream'e yakın tutar; etrafında gateway, faturalandırma, bütçeler, kullanım raporlaması ve ekip yönetimi bulunur, tek bir konsoldan yönetilir, tam da kurumsal bir dağıtımın eksik olan kısmı.

Kendi identity provider'ımızı tutabilir miyiz?

Kendi kendine barındırılan platformda, evet: oturum açma, BT'nizin işlettiği IdP'ye karşı çalışır. app.kral.ai'deki barındırılan hizmet, sohbet ve faturalandırma boyunca tek bir oturum açmayla kral hesaplarını kullanır.

Veri koruma görevlisine ne söyleriz?

İstemlerin nereye gittiğini sorun. Kendi sunucunuzda, herhangi bir model onları görmeden önce sahip olduğunuz donanıma giderler. Barındırılan hizmette, seçtiğiniz model sağlayıcılarına kral üzerinden giderler ve verileriniz istediğiniz zaman dışa aktarılabilir kalır. Bu bir avukat cevabı değil; üzerine bir tane inşa edilecek dürüst topolojidir.

İnsanlarımızın API anahtarına ihtiyacı var mı?

Hayır. Platformdaki her model dahildir ve token başına faturalandırılır. Kimse sağlayıcı hesabı açmaz ve hiçbir anahtar sızamaz, çünkü dağıtılacak hiçbir anahtar yok.

Maliyeti ne kadar?

Dahil kullanımlı aylık planlar, artı yoğun haftalar için krediler. Güncel rakamlar kral.ai'de; bir PDF'e gizlenmiş koltuk başına ek ücret yok ve ayda üç soru soran meslektaş size neredeyse hiçbir şeye mal olmaz.

LibreChat kullanıcılarınızı zaten kazandı; o kısım tamam. Geriye kalan, onu altı aylık bir projeye dönüştürmeden resmi hale getirmek. Bu, kral'ın işlettiği kısımdır:

Bir demo ayarlayın

kral'ı şimdi deneyin