マネージドLibreChatホスティング。全モデル込み、運用の手間なし

あなたはLibreChatを見つけ、docker compose upを実行し、その1時間後にはチーム全員がClaude、GPT、Geminiを1つの洗練されたインターフェースで使えるようになりました。3か月後まで早送りしてみましょう。あなたは本番システムを無償で運用する担当者になっています。Mongoはバックアップを求めます。RAG APIはアップデート後に壊れました。誰かが共有のOpenAIキーをSlackのチャンネルに貼り付けました。そして経理は、3月に誰がトークンに400ドルを使ったのかと何度も尋ねてきます。

どれもLibreChatのせいではありません。マルチユーザーのAIプラットフォームを運用すれば、実際にかかるコストなのです。唯一の問いは、その作業があなたの担当であるべきかどうかです。

"docker compose up"は簡単な部分にすぎない

LibreChatは、その評判を正当に築いてきました。現存する最高のオープンソースAIチャットです。主要なモデルすべて、エージェント、ファイルチャット、画像生成、そしてチームがすでに使い方を知っているインターフェースを備えています。

本番運用は、別の仕事です。本格的なLibreChatの導入は、1つの小さなプラットフォームです。

• 会話を保存するMongoDB。誰かがバックアップを取り、リストアのテストをしなければなりません。
• 検索のためのMeilisearch。
• ファイルのアップロードとドキュメントチャットが必要なら、別途RAG APIとベクトルデータベース。
• リバースプロキシ、TLS、ドメイン、そしてユーザーより先に停止を知らせてくれる監視。
• 有効にする機能が増えるほど重要性を増していく.envファイルとlibrechat.yaml。
• そして、接続するプロバイダーごとのAPIキー。OpenAI、Anthropic、Google、さらにはチームが初日から使いたい次のモデルを出す、どこかのプロバイダーの分まで。

そして、アップデートが始まります。LibreChatの開発は速く、それはユーザーとしては朗報ですが、運用担当者としては繰り返し発生する作業です。リリースのたびに、読むべき変更履歴、テストすべきマージ、確保すべきメンテナンス枠が生じます。いくつか飛ばせば、次の更新は怖くなります。すべて適用すれば、それはパートタイムの仕事です。

私たちがまさにこれを実践しているから、よく分かります。kralは毎日LibreChatを本番環境で運用しています。上記のリストは脅しの話ではなく、私たちの実際の運用手順書です。

誰も警告してくれない部分。ユーザー、キー、そしてお金

ユーザーが1人なら、セルフホスティングは本当に問題ありません。苦労が始まるのは、2人目のユーザーからです。

マルチユーザーとは、誰かが3つの問いに答えなければならないということです。誰にアクセスを許すのか。何を使ってよいのか。誰が何の費用を払うのか。素のAPIキーでは、2つの悪い選択肢しかありません。1つの共有キー(利用者を特定できず、1度の漏洩で予算全体が消し飛びます)か、1人につき1つのキー(オンボーディングの手間、オフボーディングのリスク、そして経理が突き合わせなければならないプロバイダー請求書の山)です。

LibreChatは基本的なトークンクレジットを備えていますが、これはチャットアプリであって、課金システムではありません。プランも、請求書も、税務処理も、ユーザーが自分で購入できるチャージもありません。企業全体への展開では、障害になるのは通常、サーバーではなく、この欠落なのです。

マネージドLibreChatホスティングがカバーすべきこと

マネージドホスティングに意味があるのは、コンテナだけでなく、リスト全体を取り除いてくれる場合だけです。私たちを含め、どこを選ぶにせよ、次の基準で見極めてください。

• 最新のLibreChatベース。アップデートはあなたの関与なしに届き、製品は凍結されたプライベートクローンに陥ることなく、オープンソースプロジェクトを追い続けます。
• モデル込み。主要なモデルすべてを1つの入口から。取得も配布もローテーションも必要なAPIキーはありません。
• 本物のコスト管理。ユーザーごとの予算、個人に紐づけられる利用状況、そして5枚ではなく1枚の請求書。
• チーム管理。招待し、削除する、それで完了です。アクセスは契約の終了とともに終わります。
• フル機能。ファイルチャット、画像生成、Web検索は初日から動くべきです。これらこそ、構成が複雑になる理由の半分なのですから。
• 出口。会話はエクスポート可能で、基盤となるソフトウェアはオープンソースです。離脱が難しいなら、あなたは顧客ではなく人質です。

kralはどのように運用しているか

kralは、完成したプラットフォームとして運用されるLibreChatです。app.kral.aiでサインインすれば、まさにセルフホストしようとしていたインターフェースを、運用レイヤーがすでに構築された状態で手に入れられます。

• Claude、GPT、Gemini、DeepSeek、Perplexity、そしてさらに多くを、1つのアプリで。APIキーはどこにも要りません。
• 月額プランとチャージ式クレジットによるトークン単位の課金。だから利用は、それを生じさせた本人に紐づきます。
• チームプラン。1つの契約、共有の予算、自分で管理するメンバー。
• ドキュメント検索付きのファイルアップロード、画像生成、Web検索がすでに組み込み済み。
• 29言語に対応したインターフェース。
• アップデートはお任せ。LibreChatがリリースを出せば、私たちがマージし、テストし、展開します。

正直にお伝えすると、kralは保守されたLibreChatのフォークを運用しており、パッチはまさに上で述べたもののために存在します(ゲートウェイ、課金、チーム)。私たちは意図的にアップストリームのリリースを追っています。LibreChatでなくなったホスト型のLibreChatは、本来の目的を見失っているからです。

そして、それがLibreChatであるからこそ、出口は開かれたままです。いつでもデータをエクスポートし、オープンソースのスタックを自分で運用できます。私たちは、あなたが抜け出せずにいる選択肢ではなく、あなたが選び続けてくれる選択肢でありたいのです。

セルフホストか、マネージドか。正直な比較

セルフホスティングが勝る点が1つあり、それは大きな点です。データが建物の外に出ることは決してありません。インフラチームがあり、厳格なデータ所在地の要件があるなら、セルフホストしてください。それは正しい判断であり、このプロジェクトはGitHubであなたのスターに値します。

3つ目の道もあります。kralが構築されている基盤は、自社内で、さらには自社のWindows Server上でネイティブに動かすことができます。オンプレミスの要件があっても、話はそこで終わりません。

チームが実際に尋ねる質問

kralはLibreChatと同じですか？

チャット体験はLibreChatそのもので、アップストリームに近い状態に保たれています。その周りに、kralは企業展開に必要なものを加えます。モデルゲートウェイ、課金、予算、そしてチーム管理です。

自分たちのAPIキーは必要ですか？

いいえ。プラットフォーム上のすべてのモデルが込みで、トークン単位で課金されます。誰もOpenAIのアカウントを開設する必要はなく、配布すべきキーが存在しないため、キーが漏れることもありません。

あとでセルフホスティングに戻れますか？

はい。会話はエクスポート可能で、ソフトウェアはオープンソースです。出口は本物です。だからこそ私たちは、あなたを引き留めるためにロックインに頼りません。

チームでも使えますか？

はい。チームプランは、共有予算を持つ1つの契約です。オーナーがメンバーを招待し、全員が同じプールから利用し、誰かを削除した瞬間にそのアクセスは終わります。

費用はいくらですか？

利用分が含まれた月額プランに加え、必要に応じてチャージできるクレジット。最新の金額はkral.aiに掲載しています。PDFに隠された座席単位の上乗せ料金はありません。

LibreChatは、チームの時間をかける価値があります。それがあなたの夜の時間までかける価値があるかどうかは、別の問題です。その答えがノーなら。

今すぐkralを試す