Skip to main content

IBM

Bundles 包含支援特定第三方整合的自訂Components,與 AgentBuilder 搭配使用。

IBM bundle 提供存取 IBM watsonx.ai 模型,用於文字和嵌入生成。 這些Components需要 IBM watsonx.ai 部署和 watsonx API 認證。

IBM watsonx.ai

IBM watsonx.ai Components使用 IBM watsonx.ai 中的支援基礎模型生成文字。 要使用閘道模型,請使用 OpenAI 文字生成Components搭配閘道模型的 OpenAI 相容端點。

您可以在 Flow 中任何需要語言模型的地方使用 IBM watsonx.ai Components。

A basic prompting flow using the IBM watsonx.ai component as the central Language Model component.

IBM watsonx.ai 參數

某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。

NameTypeDescription
urlString輸入參數。您部署和區域的 watsonx API 基礎 URL
project_idString輸入參數。您的 watsonx 專案 ID
api_keySecretString輸入參數。watsonx API 金鑰,用於驗證對指定 watsonx.ai 部署和模型的 watsonx API 存取。
model_nameString輸入參數。要使用的 watsonx 模型名稱。選項會從 API 動態獲取。
max_tokensInteger輸入參數。要生成的最大權杖數。預設值:1000
stop_sequenceString輸入參數。生成應停止的序列。
temperatureFloat輸入參數。控制輸出的隨機性。預設值:0.1
top_pFloat輸入參數。控制核心取樣,將模型限制在機率低於 top_p 值的權杖。範圍:預設值:0.9
frequency_penaltyFloat輸入參數。控制頻率懲罰。正值會降低重複權杖的機率,負值會增加機率。範圍:預設值:0.5
presence_penaltyFloat輸入參數。控制存在懲罰。正值會增加引入新主題的可能性。預設值:0.3
seedInteger輸入參數。模型的隨機種子。預設值:8
logprobsBoolean輸入參數。是否返回輸出權杖的對數機率。預設值:true
top_logprobsInteger輸入參數。在每個位置返回最可能權杖的數量。預設值:3
logit_biasString輸入參數。要偏置或抑制權杖 ID 的 JSON 字串。

IBM watsonx.ai 輸出

IBM watsonx.ai Components可以輸出 Model Response (Message) 或 Language Model (LanguageModel)。

當您想要將 IBM watsonx.ai 模型用作另一個 LLM 驅動Components的 LLM 時,請使用 Language Model 輸出,例如 AgentSmart Function Components。 如需詳細資訊,請參閱語言模型Components

IBM watsonx.ai Components的 LanguageModel 輸出是根據Components參數配置的 [ChatWatsonx](https://docs.langchain.com/oss/python/integrations/chat/ibm_watsonx) 實例。

IBM watsonx.ai Embeddings

IBM watsonx.ai Embeddings Components使用 IBM watsonx.ai 中的支援基礎模型進行嵌入生成。

輸出是使用 WatsonxEmbeddings 生成的 Embeddings

如需在 Flow 中使用嵌入模型Components的詳細資訊,請參閱嵌入模型Components

A basic embedding generation flow using the IBM watsonx.ai Embeddings component

IBM watsonx.ai Embeddings 參數

某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。

NameDisplay NameInfo
urlwatsonx API Endpoint輸入參數。您部署和區域的 watsonx API 基礎 URL
project_idwatsonx project id輸入參數。您的 watsonx 專案 ID
api_keyAPI Key輸入參數。watsonx API 金鑰,用於驗證對指定 watsonx.ai 部署和模型的 watsonx API 存取。
model_nameModel Name輸入參數。要使用的嵌入模型名稱。支援預設嵌入模型,並在連接到您的 watsonx.ai 部署後自動更新。
truncate_input_tokensTruncate Input Tokens輸入參數。要處理的最大權杖數。預設值:200
input_textInclude the original text in the output輸入參數。決定原始文字是否包含在輸出中。預設值:true

預設嵌入模型

預設情況下,IBM watsonx.ai Embeddings Components支援以下預設模型:

  • sentence-transformers/all-minilm-l12-v2:384 維嵌入
  • ibm/slate-125m-english-rtrvr-v2:768 維嵌入
  • ibm/slate-30m-english-rtrvr-v2:768 維嵌入
  • intfloat/multilingual-e5-large:1024 維嵌入

輸入您的 API 端點和認證後,Components會自動從您的 watsonx.ai 部署獲取可用模型列表。

另請參閱

Search