語言EN
首頁
文件
主要功能 / 模型 Provider

模型 Provider

Heddle 不只支援 OpenAI 或 Anthropic。你可以使用 hosted、本機、自架與 gateway-routed 的多種模型堆疊,依照工作流程、資料邊界、成本與速度選擇適合的模型。

支援的 Provider 與模型家族

Provider / 模型家族模型前綴存取方式模型清單來源驗證指令
OpenAIgpt-*, o*OpenAI 帳號登入或 OPENAI_API_KEY內建精選清單一般 heddle --model ... ask 執行
Anthropic Claudeclaude-*ANTHROPIC_API_KEY內建精選清單一般 heddle --model ... ask 執行
Ollamaollama/ollama:本機 endpoint,不需要 hosted keyOllama 原生 /api/tagsyarn smoke:ollama
LM Studiolmstudio/本機 OpenAI-compatible endpointserver 執行時查詢 /modelsyarn smoke:lmstudio
LiteLLMlitellm/OpenAI-compatible gateway,可選 gateway keygateway 可連線時查詢 /modelsyarn smoke:litellm
vLLMvllm/自架 OpenAI-compatible endpoint,可選 server keyserver 執行時查詢 /modelsyarn smoke:vllm
Hugging Face routerhuggingface/hf/HF_TOKENHUGGINGFACE_API_KEYAPI key 設定後查詢 /modelsyarn smoke:huggingface
OpenRouteropenrouter/OPENROUTER_API_KEYAPI key 設定後查詢 /modelsyarn smoke:openrouter
Together AItogether/TOGETHER_API_KEYAPI key 設定後查詢 /modelsyarn smoke:together
Groqgroq/GROQ_API_KEYAPI key 設定後查詢 /modelsyarn smoke:groq

模型選擇範例

heddle --model gpt-5.4-mini ask "Summarize this repository"
heddle --model claude-sonnet-4-6 ask "Summarize this repository"
heddle --model ollama/llama3.2:latest ask "Summarize this repository"
heddle --model lmstudio/local-model ask "Summarize this repository"
heddle --model openrouter/meta-llama/llama-3.3-70b-instruct ask "Summarize this repository"

/model set llama
/model ollama/llama3.2:latest
/model openrouter/meta-llama/llama-3.3-70b-instruct

品質注意事項

Provider compatibility 代表 Heddle 能把 request 與 tool definitions route 到該 provider;這不代表 provider 後面的每個模型都同樣適合 coding-agent 工作。

  • 較小、較舊、高度量化、本機或 aggressively routed 的模型可能漏掉 tool calls。
  • 有些模型會正確呼叫工具,但忽略 tool result。
  • 有些模型會對 repository facts 給出有信心但錯誤的回答。
  • 較慢的本機執行可能觸發 request timeout。

相關設定

環境變數、auth commands、default models 與 picker behavior 請看 Provider 與 Model 設定。

Provider 與 Model