Skip to main content

IBM

Bundles 包含支援特定第三方整合的自訂Components,與 AgentBuilder 搭配使用。

IBM bundle 提供存取 IBM watsonx.ai 模型,用於文字和嵌入生成。 這些Components需要 IBM watsonx.ai 部署和 watsonx API 認證。

IBM watsonx.ai​

IBM watsonx.ai Components使用 IBM watsonx.ai 中的支援基礎模型生成文字。 要使用閘道模型,請使用 OpenAI 文字生成Components搭配閘道模型的 OpenAI 相容端點。

您可以在 Flow 中任何需要語言模型的地方使用 IBM watsonx.ai Components。

A basic prompting flow using the IBM watsonx.ai component as the central Language Model component.

IBM watsonx.ai 參數​

某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。

NameTypeDescription
urlString輸入參數。您部署和區域的 watsonx API 基礎 URL。
project_idString輸入參數。您的 watsonx 專案 ID。
api_keySecretString輸入參數。watsonx API 金鑰,用於驗證對指定 watsonx.ai 部署和模型的 watsonx API 存取。
model_nameString輸入參數。要使用的 watsonx 模型名稱。選項會從 API 動態獲取。
max_tokensInteger輸入參數。要生成的最大權杖數。預設值:1000。
stop_sequenceString輸入參數。生成應停止的序列。
temperatureFloat輸入參數。控制輸出的隨機性。預設值:0.1。
top_pFloat輸入參數。控制核心取樣,將模型限制在機率低於 top_p 值的權杖。範圍:預設值:0.9。
frequency_penaltyFloat輸入參數。控制頻率懲罰。正值會降低重複權杖的機率,負值會增加機率。範圍:預設值:0.5。
presence_penaltyFloat輸入參數。控制存在懲罰。正值會增加引入新主題的可能性。預設值:0.3。
seedInteger輸入參數。模型的隨機種子。預設值:8。
logprobsBoolean輸入參數。是否返回輸出權杖的對數機率。預設值:true。
top_logprobsInteger輸入參數。在每個位置返回最可能權杖的數量。預設值:3。
logit_biasString輸入參數。要偏置或抑制權杖 ID 的 JSON 字串。

IBM watsonx.ai 輸出​

IBM watsonx.ai Components可以輸出 Model Response (Message) 或 Language Model (LanguageModel)。

當您想要將 IBM watsonx.ai 模型用作另一個 LLM 驅動Components的 LLM 時,請使用 Language Model 輸出,例如 Agent 或 Smart Function Components。 如需詳細資訊,請參閱語言模型Components。

IBM watsonx.ai Components的 LanguageModel 輸出是根據Components參數配置的 [ChatWatsonx](https://docs.langchain.com/oss/python/integrations/chat/ibm_watsonx) 實例。

IBM watsonx.ai Embeddings​

IBM watsonx.ai Embeddings Components使用 IBM watsonx.ai 中的支援基礎模型進行嵌入生成。

輸出是使用 WatsonxEmbeddings 生成的 Embeddings。

如需在 Flow 中使用嵌入模型Components的詳細資訊,請參閱嵌入模型Components。

A basic embedding generation flow using the IBM watsonx.ai Embeddings component

IBM watsonx.ai Embeddings 參數​

某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。

NameDisplay NameInfo
urlwatsonx API Endpoint輸入參數。您部署和區域的 watsonx API 基礎 URL。
project_idwatsonx project id輸入參數。您的 watsonx 專案 ID。
api_keyAPI Key輸入參數。watsonx API 金鑰,用於驗證對指定 watsonx.ai 部署和模型的 watsonx API 存取。
model_nameModel Name輸入參數。要使用的嵌入模型名稱。支援預設嵌入模型,並在連接到您的 watsonx.ai 部署後自動更新。
truncate_input_tokensTruncate Input Tokens輸入參數。要處理的最大權杖數。預設值:200。
input_textInclude the original text in the output輸入參數。決定原始文字是否包含在輸出中。預設值:true。

預設嵌入模型​

預設情況下,IBM watsonx.ai Embeddings Components支援以下預設模型:

  • sentence-transformers/all-minilm-l12-v2:384 維嵌入
  • ibm/slate-125m-english-rtrvr-v2:768 維嵌入
  • ibm/slate-30m-english-rtrvr-v2:768 維嵌入
  • intfloat/multilingual-e5-large:1024 維嵌入

輸入您的 API 端點和認證後,Components會自動從您的 watsonx.ai 部署獲取可用模型列表。

另請參閱​

Search