Vertex AI

Bundles 包含支援特定第三方整合的自訂Components，與 AgentBuilder 搭配使用。

此頁面描述 Vertex AI bundle 中可用的Components。

如需 Vertex AI 功能和 Vertex AI Components所使用功能的詳細資訊，請參閱 Vertex AI 文件。

如需其他 Google Components，請參閱 Google bundle。

Vertex AI 文字生成

Vertex AI Components使用 Google Vertex AI 模型生成文字。

它可以輸出 Model Response（Message）或 Language Model（LanguageModel）。

當您想要將 Vertex AI 模型用作另一個 LLM 驅動Components的 LLM 時，請使用 Language Model 輸出，例如 Agent 或 Smart Function Components。

如需詳細資訊，請參閱語言模型Components。

某些參數在視覺編輯器中預設為隱藏。您可以透過 Components的標頭選單中的 Controls 修改所有參數。

Name	Type	Description
credentials	File	輸入參數。JSON 認證檔案。留空以回退到環境變數。檔案類型：JSON。如需詳細資訊，請參閱建立 Vertex AI 驗證的服務帳戶。
model_name	String	輸入參數。要使用的 Vertex AI 模型名稱。預設："gemini-1.5-pro"。
project	String	輸入參數。專案 ID。
location	String	輸入參數。Vertex AI API 的位置。預設："us-central1"。
max_output_tokens	Integer	輸入參數。要生成的最大權杖數。
max_retries	Integer	輸入參數。API 呼叫的最大重試次數。預設：1。
temperature	Float	輸入參數。控制輸出中的隨機性。預設：0.0。
top_k	Integer	輸入參數。為 top-k 篩選保留的最高機率詞彙權杖數量。
top_p	Float	輸入參數。為核心取樣保留的所有最高機率詞彙權杖的累積機率。預設：0.95。
verbose	Boolean	輸入參數。是否列印詳細輸出。預設：`false`。

如需 Vertex AI 文字生成參數的詳細資訊，請參閱 Vertex AI 內容生成參數文件。

Vertex AI 嵌入Components是 Google Vertex AI 嵌入 API 的包裝器，用於嵌入生成。

如需在 Flow中使用嵌入模型Components的詳細資訊，請參閱嵌入模型Components。

某些參數在視覺編輯器中預設為隱藏。您可以透過 Components的標頭選單中的 Controls 修改所有參數。

Name	Type	Description
credentials	Credentials	輸入參數。JSON 認證檔案。留空以回退到環境變數。檔案類型：JSON。如需詳細資訊，請參閱建立 Vertex AI 驗證的服務帳戶。
location	String	輸入參數。進行 API 呼叫時使用的預設位置。預設：`us-central1`。
max_output_tokens	Integer	輸入參數。權杖限制決定從一個提示輸出的最大文字量。預設：`128`。
model_name	String	輸入參數。Vertex AI 大型語言模型的名稱。預設：`text-bison`。
project	String	輸入參數。進行 Vertex API 呼叫時使用的預設 GCP 專案。
request_parallelism	Integer	輸入參數。允許對 Vertex AI 模型發出的請求的並行量。預設：`5`。
temperature	Float	輸入參數。調整文字生成中隨機性的程度。應為非負值。預設：`0`。
top_k	Integer	輸入參數。模型如何選擇輸出權杖。從前 `k` 個權杖中選擇下一個權杖。預設：`40`。
top_p	Float	輸入參數。權杖從最可能到最不可能選擇，直到其機率的總和超過 top `p` 值。預設：`0.95`。
tuned_model_name	String	輸入參數。調整模型的名稱。如果提供，則忽略 `model_name`。
verbose	Boolean	輸入參數。此參數控制輸出的詳細程度。設定為 `true` 時，它會列印鏈的內部狀態以幫助除錯。預設：`false`。
embeddings	Embeddings	輸出參數。使用 Vertex AI 生成嵌入的實例。

Vertex AI 嵌入和 Vertex AI Components使用服務帳戶 JSON 檔案向 Google Vertex AI API 進行驗證。

這些Components要求您在 Credentials 參數 (credentials) 中提供服務帳戶 JSON 檔案。您可以直接在Components設定中提供檔案，或者使用 GOOGLE_APPLICATION_CREDENTIALS 環境變數來參考 JSON 檔案的路徑。

以下步驟說明如何為 AgentBuilder 建立服務帳戶、建立服務帳戶 JSON 金鑰檔案，然後在 AgentBuilder 中使用 JSON 金鑰檔案：

如果您尚未這樣做，請在您的 Google Cloud 專案中啟用 Vertex AI API。
在您的 Google Cloud 專案中建立服務帳戶。

建議您為 Vertex AI 建立自訂服務帳戶，因為 AgentBuilder 使用此帳戶存取 Vertex AI API。
將 Vertex AI Service Agent 角色指派給服務帳戶。

此角色允許 AgentBuilder 存取 Vertex AI 資源。如需詳細資訊，請參閱使用 IAM 的 Vertex AI 存取控制。
為您的 AgentBuilder Vertex AI 服務帳戶建立 JSON 格式的服務帳戶金鑰。

當您點擊 Create 時，JSON 金鑰檔案會被下載。
在 AgentBuilder 中，建立或開啟包含 Vertex AI 或 Vertex AI 嵌入 Components的 Flow。
在Components的 Credentials 欄位中，執行以下其中一項：
- 直接選取您的服務帳戶 JSON 檔案。
- 如果您想要從環境變數提取金鑰檔案，請將 Credentials 欄位留空。然後，您必須在相對於您的 AgentBuilder 實例的某處設定 GOOGLE_APPLICATION_CREDENTIALS 環境變數，提供 JSON 檔案的路徑。例如，您可以在終端機、AgentBuilder .env 檔案中設定環境變數，或在執行 AgentBuilder 伺服器或應用程式的環境中設定。
執行您的 Flow以驗證 AgentBuilder 是否可以成功使用服務帳戶認證。

例如，在包含 Chat Input、Chat Output 和 Vertex AI Components的 Flow中，您可以開啟 Playground 並嘗試與 LLM 聊天。如果 LLM 回應，則認證已正確配置。