IBM
Bundles 包含支援特定第三方整合的自訂Components,與 AgentBuilder 搭配使用。
IBM bundle 提供存取 IBM watsonx.ai 模型,用於文字和嵌入生成。 這些Components需要 IBM watsonx.ai 部署和 watsonx API 認證。
IBM watsonx.ai
IBM watsonx.ai Components使用 IBM watsonx.ai 中的支援基礎模型生成文字。 要使用閘道模型,請使用 OpenAI 文字生成Components搭配閘道模型的 OpenAI 相容端點。
您可以在 Flow 中任何需要語言模型的地方使用 IBM watsonx.ai Components。

IBM watsonx.ai 參數
某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。
| Name | Type | Description |
|---|---|---|
| url | String | 輸入參數。您部署和區域的 watsonx API 基礎 URL。 |
| project_id | String | 輸入參數。您的 watsonx 專案 ID。 |
| api_key | SecretString | 輸入參數。watsonx API 金鑰,用於驗證對指定 watsonx.ai 部署和模型的 watsonx API 存取。 |
| model_name | String | 輸入參數。要使用的 watsonx 模型名稱。選項會從 API 動態獲取。 |
| max_tokens | Integer | 輸入參數。要生成的最大權杖數。預設值:1000。 |
| stop_sequence | String | 輸入參數。生成應停止的序列。 |
| temperature | Float | 輸入參數。控制輸出的隨機性。預設值:0.1。 |
| top_p | Float | 輸入參數。控制核心取樣,將模型限制在機率低於 top_p 值的權杖。範圍:預設值:0.9。 |
| frequency_penalty | Float | 輸入參數。控制頻率懲罰。正值會降低重複權杖的機率,負值會增加機率。範 圍:預設值:0.5。 |
| presence_penalty | Float | 輸入參數。控制存在懲罰。正值會增加引入新主題的可能性。預設值:0.3。 |
| seed | Integer | 輸入參數。模型的隨機種子。預設值:8。 |
| logprobs | Boolean | 輸入參數。是否返回輸出權杖的對數機率。預設值:true。 |
| top_logprobs | Integer | 輸入參數。在每個位置返回最可能權杖的數量。預設值:3。 |
| logit_bias | String | 輸入參數。要偏置或抑制權杖 ID 的 JSON 字串。 |
IBM watsonx.ai 輸出
IBM watsonx.ai Components可以輸出 Model Response (Message) 或 Language Model (LanguageModel)。
當您想要將 IBM watsonx.ai 模型用作另一個 LLM 驅動Components的 LLM 時,請使用 Language Model 輸出,例如 Agent 或 Smart Function Components。 如需詳細資訊,請參閱語言模型Components。
IBM watsonx.ai Components的 LanguageModel 輸出是根據Components參數配置的 [ChatWatsonx](https://docs.langchain.com/oss/python/integrations/chat/ibm_watsonx) 實例。
IBM watsonx.ai Embeddings
IBM watsonx.ai Embeddings Components使用 IBM watsonx.ai 中的支援基礎模型進行嵌入生成。
輸出是使用 WatsonxEmbeddings 生成的 Embeddings。
如需在 Flow 中使用嵌入模型Components的詳細資訊,請參閱嵌入模型Components。

IBM watsonx.ai Embeddings 參數
某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。
| Name | Display Name | Info |
|---|---|---|
| url | watsonx API Endpoint | 輸入參數。您部署和區域的 watsonx API 基礎 URL。 |
| project_id | watsonx project id | 輸入參數。您的 watsonx 專案 ID。 |
| api_key | API Key | 輸入參數。watsonx API 金鑰,用於驗證對指定 watsonx.ai 部署和模型的 watsonx API 存取。 |
| model_name | Model Name | 輸入參數。要使用的嵌入模型名稱。支援預設嵌入模型,並在連接到您的 watsonx.ai 部署後自動更新。 |
| truncate_input_tokens | Truncate Input Tokens | 輸入參數。要處理的最大權杖數。預設值:200。 |
| input_text | Include the original text in the output | 輸入參數。決定原始文字是否包含在輸出中。預設值:true。 |
預設嵌入模型
預設情況下,IBM watsonx.ai Embeddings Components支援以下預設模型:
sentence-transformers/all-minilm-l12-v2:384 維嵌入ibm/slate-125m-english-rtrvr-v2:768 維嵌入ibm/slate-30m-english-rtrvr-v2:768 維嵌入intfloat/multilingual-e5-large:1024 維嵌入
輸入您的 API 端點和認證後,Components會自動從您的 watsonx.ai 部署獲取可用模型列表。