Langfuse
Langfuse 是一個開源的 LLM 可觀測性平台。它為 AI 應用程式提供追蹤和監控功能,幫助開發人員除錯、分析和優化他們的 AI 系統。Langfuse 與各種工具和框架整合,包括像 AgentBuilder 這樣的 workflow 建構器和運行時。
本指南說明如何配置 AgentBuilder 以收集有關您的FLOW執行的追蹤數據,並自動將數據發送到 Langfuse。
先決條件
- Langfuse Cloud 或 Langfuse 自託管 實例中的帳戶
- 運行中的 AgentBuilder 伺服器
如果您需要測試 Langfuse 整合的FLOW,請參閱 AgentBuilder 快速入門。
將 Langfuse 憑證設定為環境變數
-
建立一組 Langfuse API 金鑰。
-
複製以下 API 金鑰資訊:
- Secret Key
- Public Key
- Host URL
-
在您運行 AgentBuilder 的相同環境中,將您的 Langfuse 專案憑證設定為環境變數。
在以下範例中,將
SECRET_KEY、PUBLIC_KEY和HOST_URL替換為來自 Langfuse 的 API 金鑰詳細資訊。- Linux 或 macOS
- Windows
這些命令在 Linux 或 macOS 終端機會話中設定環境變數:
_10export LANGFUSE_SECRET_KEY=SECRET_KEY_10export LANGFUSE_PUBLIC_KEY=PUBLIC_KEY_10export LANGFUSE_HOST=HOST_URL這些命令在 Windows 命令提示字元會話中設定環境變數:
_10set LANGFUSE_SECRET_KEY=SECRET_KEY_10set LANGFUSE_PUBLIC_KEY=PUBLIC_KEY_10set LANGFUSE_HOST=HOST_URL
啟動 AgentBuilder 並在 Langfuse 中查看追蹤
-
在您設定 Langfuse 環境變數的相同環境中啟動 AgentBuilder:
_10uv run langflow run -
執行FLOW。
AgentBuilder 會自動收集並將有關FLOW執 行的追蹤數據發送到 Langfuse。
-
在您的 Langfuse 儀表板 中查看收集的數據。
Langfuse 還提供 公開的即時追蹤範例儀表板。
停用 Langfuse 追蹤
要停用 Langfuse 整合,請移除 Langfuse 環境變數,然後重新啟動 AgentBuilder。
使用 Docker Compose 運行 Langfuse 和 AgentBuilder
作為先前設定的替代方案,特別是對於自託管 Langfuse,您可以使用 Docker Compose 運行這兩個服務。
-
建立一組 Langfuse API 金鑰。
-
複製以下 API 金鑰資訊:
- Secret Key
- Public Key
- Host URL
-
在
environment部分將您的 AgentBuilder 憑證添加到您的 AgentBuilderdocker-compose.yml檔案中。以下範例基於範例
docker-compose.yml。_32services:_32langflow:_32image: langflowai/langflow:latest # 或 https://hub.docker.com/r/langflowai/langflow 上的其他版本標籤_32pull_policy: always # 使用 'latest' 映像時設定為 'always'_32ports:_32- "7860:7860"_32depends_on:_32- postgres_32environment:_32- LANGFLOW_DATABASE_URL=postgresql://langflow:langflow@postgres:5432/langflow_32# 此變數定義日誌、檔案儲存、監控數據和密鑰的儲存位置。_32- LANGFLOW_CONFIG_DIR=app/langflow_32- LANGFUSE_SECRET_KEY=sk-..._32- LANGFUSE_PUBLIC_KEY=pk-..._32- LANGFUSE_HOST=https://us.cloud.langfuse.com_32volumes:_32- langflow-data:/app/langflow_32_32postgres:_32image: postgres:16_32environment:_32POSTGRES_USER: langflow_32POSTGRES_PASSWORD: langflow_32POSTGRES_DB: langflow_32ports:_32- "5432:5432"_32volumes:_32- langflow-postgres:/var/lib/postgresql/data_32_32volumes:_32langflow-postgres:_32langflow-data: -
啟動 Docker 容器:
_10docker-compose up -
要確認 Langfuse 已連接到您的 AgentBuilder 容器,請運行以下命令:
_10docker compose exec langflow python -c "import requests, os; addr = os.environ.get('LANGFUSE_HOST'); print(addr); res = requests.get(addr, timeout=5); print(res.status_code)"如果有錯誤,請確保您已在終端機會話中設定了
LANGFUSE_HOST環境變數。類似以下的輸出表示成功:
_10https://us.cloud.langfuse.com_10200