Skip to main content

Langfuse

Langfuse 是一個開源的 LLM 可觀測性平台。它為 AI 應用程式提供追蹤和監控功能,幫助開發人員除錯、分析和優化他們的 AI 系統。Langfuse 與各種工具和框架整合,包括像 AgentBuilder 這樣的 workflow 建構器和運行時。

本指南說明如何配置 AgentBuilder 以收集有關您的FLOW執行的追蹤數據,並自動將數據發送到 Langfuse。

先決條件

tip

如果您需要測試 Langfuse 整合的FLOW,請參閱 AgentBuilder 快速入門

將 Langfuse 憑證設定為環境變數

  1. 建立一組 Langfuse API 金鑰

  2. 複製以下 API 金鑰資訊:

    • Secret Key
    • Public Key
    • Host URL
  3. 在您運行 AgentBuilder 的相同環境中,將您的 Langfuse 專案憑證設定為環境變數。

    在以下範例中,將 SECRET_KEYPUBLIC_KEYHOST_URL 替換為來自 Langfuse 的 API 金鑰詳細資訊。

    這些命令在 Linux 或 macOS 終端機會話中設定環境變數:


    _10
    export LANGFUSE_SECRET_KEY=SECRET_KEY
    _10
    export LANGFUSE_PUBLIC_KEY=PUBLIC_KEY
    _10
    export LANGFUSE_HOST=HOST_URL

啟動 AgentBuilder 並在 Langfuse 中查看追蹤

  1. 在您設定 Langfuse 環境變數的相同環境中啟動 AgentBuilder:


    _10
    uv run langflow run

  2. 執行FLOW。

    AgentBuilder 會自動收集並將有關FLOW執行的追蹤數據發送到 Langfuse。

  3. 在您的 Langfuse 儀表板 中查看收集的數據。

    Langfuse 還提供 公開的即時追蹤範例儀表板

停用 Langfuse 追蹤

要停用 Langfuse 整合,請移除 Langfuse 環境變數,然後重新啟動 AgentBuilder。

使用 Docker Compose 運行 Langfuse 和 AgentBuilder

作為先前設定的替代方案,特別是對於自託管 Langfuse,您可以使用 Docker Compose 運行這兩個服務。

  1. 建立一組 Langfuse API 金鑰

  2. 複製以下 API 金鑰資訊:

    • Secret Key
    • Public Key
    • Host URL
  3. environment 部分將您的 AgentBuilder 憑證添加到您的 AgentBuilder docker-compose.yml 檔案中。

    以下範例基於範例 docker-compose.yml


    _32
    services:
    _32
    langflow:
    _32
    image: langflowai/langflow:latest # 或 https://hub.docker.com/r/langflowai/langflow 上的其他版本標籤
    _32
    pull_policy: always # 使用 'latest' 映像時設定為 'always'
    _32
    ports:
    _32
    - "7860:7860"
    _32
    depends_on:
    _32
    - postgres
    _32
    environment:
    _32
    - LANGFLOW_DATABASE_URL=postgresql://langflow:langflow@postgres:5432/langflow
    _32
    # 此變數定義日誌、檔案儲存、監控數據和密鑰的儲存位置。
    _32
    - LANGFLOW_CONFIG_DIR=app/langflow
    _32
    - LANGFUSE_SECRET_KEY=sk-...
    _32
    - LANGFUSE_PUBLIC_KEY=pk-...
    _32
    - LANGFUSE_HOST=https://us.cloud.langfuse.com
    _32
    volumes:
    _32
    - langflow-data:/app/langflow
    _32
    _32
    postgres:
    _32
    image: postgres:16
    _32
    environment:
    _32
    POSTGRES_USER: langflow
    _32
    POSTGRES_PASSWORD: langflow
    _32
    POSTGRES_DB: langflow
    _32
    ports:
    _32
    - "5432:5432"
    _32
    volumes:
    _32
    - langflow-postgres:/var/lib/postgresql/data
    _32
    _32
    volumes:
    _32
    langflow-postgres:
    _32
    langflow-data:

  4. 啟動 Docker 容器:


    _10
    docker-compose up

  5. 要確認 Langfuse 已連接到您的 AgentBuilder 容器,請運行以下命令:


    _10
    docker compose exec langflow python -c "import requests, os; addr = os.environ.get('LANGFUSE_HOST'); print(addr); res = requests.get(addr, timeout=5); print(res.status_code)"

    如果有錯誤,請確保您已在終端機會話中設定了 LANGFUSE_HOST 環境變數。

    類似以下的輸出表示成功:


    _10
    https://us.cloud.langfuse.com
    _10
    200

另請參閱

Search