Skip to main content

LM Studio

Bundles 包含支援與 AgentBuilder 特定第三方整合的自訂Components。

LM Studio bundle 中的Components讓您可以使用來自本機或託管 LM Studio 實例的模型。 Components可能需要使用 LM Studio API 金鑰進行驗證。如需 LM Studio 模型、連接和憑證的資訊,請參閱 LM Studio 文件

LM Studio 文字產生

LM Studio Components使用 LM Studio 的本機語言模型產生文字。

它可以輸出 Model Response (Message) 或 Language Model (LanguageModel)。

當您想要將 LM Studio 模型用作另一個 LLM 驅動Components的 LLM 時,請使用 Language Model 輸出,例如 AgentSmart Function Components。

如需詳細資訊,請參閱語言模型Components

LM Studio 文字產生參數

某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。

NameTypeDescription
base_urlString輸入參數。LM Studio 運行的 URL。預設值:"http://localhost:1234"
api_keyLM Studio API Key輸入參數。LM Studio 驗證的 API 金鑰(如果需要)。
max_tokensInteger輸入參數。在回應中產生的最大 token 數。預設值:512
temperatureFloat輸入參數。控制輸出中的隨機性。範圍:[0.0, 2.0]。預設值:0.7
top_pFloat輸入參數。使用核取樣控制多樣性。範圍:[0.0, 1.0]。預設值:1.0
stopList[String]輸入參數。遇到時停止產生的字串清單。
streamBoolean輸入參數。是否串流回應。預設值:false
presence_penaltyFloat輸入參數。懲罰重複的 token。範圍:[-2.0, 2.0]。預設值:0.0
frequency_penaltyFloat輸入參數。懲罰頻繁的 token。範圍:[-2.0, 2.0]。預設值:0.0

LM Studio Embeddings

LM Studio Embeddings Components使用 LM Studio 模型產生嵌入。

如需在 Flow 中使用嵌入模型Components的詳細資訊,請參閱嵌入模型Components

LM Studio Embeddings 參數

某些參數在視覺編輯器中預設為隱藏。 您可以透過 Components的標頭選單 中的 Controls 修改所有參數。

NameDisplay NameInfo
modelModel輸入參數。用於產生嵌入的 LM Studio 模型。
base_urlLM Studio Base URL輸入參數。LM Studio API 的基礎 URL。
api_keyLM Studio API Key輸入參數。LM Studio 驗證的 API 金鑰。
temperatureModel Temperature輸入參數。模型的溫度設定。
Search