Langfuse - オープンソース LLMOps プラットフォーム - 日本語概要
注:Langfuse は、日本のユーザーとお客様に感謝し、母国語で Langfuse をわかりやすく紹介したいと考えています。 その他の Langfuse のウェブサイトリソースはすべて英語のみで提供されていますが、Google Chrome の内蔵トランスレーターなどのツールを使用することで、他の言語でもご利用いただけます。
🇯🇵 🤝 🪢
Langfuse ユーザーのコミュニティが日本で大きく成長していることを嬉しく思います。皆様のサポートとフィードバックは私たちにとってかけがえのないものです。皆様からのご連絡をお待ちしております。いつでもお気軽にご連絡ください。
Langfuse をご利用いただき、私たちの製品とコミュニティをご支援いただき、ありがとうございます。
Langfuse とは?
Langfuse は、大規模言語モデル(LLM)を利用したアプリケーションのために特別に設計された、オープンソースの観測・分析プラットフォームです。私たちは、開発者や組織が LLM アプリケーションの構築や改善を支援することを目的としており、高度なトレース&分析モジュールを通じて、モデルのコスト、品質、レイテンシに関する深い洞察を提供します。
公開デモのトレース例を見る
Langfuse を選ぶ理由
Langfuse は、市場で最も人気のあるオープンソースの LLMOps ツールであり、最新のフレームワークとの統合を構築・維持する大規模なコミュニティを持っています。
Langfuse はセルフホストが簡単で、数分でセットアップが完了します。これは、規制業界の企業顧客にとっても特に興味深いものです。
Langfuse はクラス最高のトレースを提供し、お客様の製品開発と改良を支援します。
注:Langfuse を選ぶべき理由については、こちらをお読みください。
主な特徴
Langfuse は、生成 AI プロダクトの全サイクルをサポートする一連の機能を提供します:開発からテスト、大規模なモニタリングやデバッグまで、お客様の生成 AI プロダクトの全サイクルをサポートします。
モニタリング
- トレース:外部 API やツールの呼び出し、コンテキスト、プロンプトなど、製品の完全なコンテキストをキャプチャします。
- リアルタイム・メトリクス:応答時間、エラー率、スループットなどの主要なパフォーマンス指標を監視します。
- フィードバック:アプリケーションのパフォーマンスとユーザーエクスペリエンスを向上させるために、ユーザーからのフィードバックを収集します。
アナリティクス
- 評価:LLM-as-a-judgeによる評価、または人的なアノテーションワークフローを設定することにより、異なるモデル、プロンプト、構成のパフォーマンスを比較を可能にします。
- テスト:テストとプロンプト管理を通じて、最も効果的なソリューションを決定するために、アプリの異なるバージョン(A/B)で実験します。
- ユーザーの行動:ユーザーフィードバックにより、AI アプリケーションをどのように操作するかを理解します。
デバッグ
- 詳細なデバッグログ:トラブルシューティングのために、すべてのアプリケーション・アクティビティの包括的なログにアクセスできます。
- エラートラッキング:アプリケーション内のエラーや異常を検出し、追跡します。
統合
- フレームワークのサポート:LangChain、LlamaIndex、AWS Bedrock など の一般的な LLM フレームワークと統合。
- ツールのサポート:Dify やLangflowのようなノーコードビルダーと統合できます。
- API:カスタム統合やワークフロー自動化のためのオープンで強力なAPIをご利用ください。
Langfuse を使い始める
Langfuse のご利用は簡単です:
サインアップ
Langfuse Cloud にアクセスして無料アカウントを作成するか、数分で Langfuse をセルフホストしてください。新しいプロジェクトを作成し、Langfuse API キーを取得してデータの取り込みを開始します。
ドキュメンテーションを調べる
OpenAI やLangchain などのネイティブインテグレーションと Langfuse のセットアップガイド、または API やローレベル SDKを使用して任意のモデルをトレースするためのガイドについては、当社のドキュメントにアクセスしてください。
アプリケーションと統合する:
Langfuse はインテグレーションや SDK を通して統合できます。Langfuse は Dify やLangflowのようなノーコード LLM ビルダーとも統合できます。
モニタリングを開始する:
データの収集、パフォーマンスの監視を開始し、貴重な洞察を得ましょう。Langfuse はアプリケーションの動作をトレースとして表示します。Langfuse のダッシュボードでは、モデルコスト、評価スコア、ユーザフィードバックなどの概要を見ることができます。
日本語の外部リソース:
- 書籍:俺たちと探究する LLM アプリケーションのオブザーバビリティ
- Blog 記事: 生成 AI アプリの出力を Ragas で評価して、Langfuse で GUI 監視しよう!
- Blog 記事: Google Cloud で LLM アプリ監視ツール Langfuse をセルフホスティングする方法
- Youtube: LLMアプリの料金設計とLangfuseを活用した分析設計 | 山下 徳光 / 株式会社グランドリームさん
- Blog 記事: ペアーズにおける評価ドリブンなリリースサイクル:Langfuseをフル活用したLLMOps基盤
- YouTube: Difyで作ったリモ研RAGのデータを、LangFuseから出力し、マクロで整形して、LLMとMapifyで可視化し、そこからリモ研RAGのキャッチコピーに
リソースを追加したい場合は、プルリクエストを上げてください。
カスタマーサポート
私たちは、お客様のご希望の言語でサポートを提供することの重要性を理解しています。しかしながら、私たちは小さなチームですので、英語でのサポートしか提供することができません。
- チャットボット(日本語を話す)
- GitHub : github.com/langfuse/discussions - GitHub の公開ディスカッションボード(英語)で質問してください。
- E メール : support@langfuse.com までご連絡ください。
- 企業向けサポート: ガオ株式会社(GAO,inc.)を通じて、Langfuse Enterprise プランを日本円で購入し、日本語でサポートを受けることが可能です。ご興味のある方は contact@gao-ai.com までご連絡ください。
- Twitter (Langfuse チームによって保守されていない)
Langfuse コミュニティに参加
成長し続けるグローバル・コミュニティの一員になりませんか:
- ⭐️ GitHubでスターをつけると、アップデートが届く。
- 🤷♂️ 連絡を取り合う:ソーシャルメディアで最新情報をご覧ください。
- 🖼️ ラングフューズのステッカーを受け取る