主要功能 / 模型 Provider
模型 Provider
Heddle 不只支援 OpenAI 或 Anthropic。你可以使用 hosted、本機、自架與 gateway-routed 的多種模型堆疊,依照工作流程、資料邊界、成本與速度選擇適合的模型。
支援的 Provider 與模型家族
| Provider / 模型家族 | 模型前綴 | 存取方式 | 模型清單來源 | 驗證指令 |
|---|---|---|---|---|
| OpenAI | gpt-*, o* | OpenAI 帳號登入或 OPENAI_API_KEY | 內建精選清單 | 一般 heddle --model ... ask 執行 |
| Anthropic Claude | claude-* | ANTHROPIC_API_KEY | 內建精選清單 | 一般 heddle --model ... ask 執行 |
| Ollama | ollama/ 或 ollama: | 本機 endpoint,不需要 hosted key | Ollama 原生 /api/tags | yarn smoke:ollama |
| LM Studio | lmstudio/ | 本機 OpenAI-compatible endpoint | server 執行時查詢 /models | yarn smoke:lmstudio |
| LiteLLM | litellm/ | OpenAI-compatible gateway,可選 gateway key | gateway 可連線時查詢 /models | yarn smoke:litellm |
| vLLM | vllm/ | 自架 OpenAI-compatible endpoint,可選 server key | server 執行時查詢 /models | yarn smoke:vllm |
| Hugging Face router | huggingface/ 或 hf/ | HF_TOKEN 或 HUGGINGFACE_API_KEY | API key 設定後查詢 /models | yarn smoke:huggingface |
| OpenRouter | openrouter/ | OPENROUTER_API_KEY | API key 設定後查詢 /models | yarn smoke:openrouter |
| Together AI | together/ | TOGETHER_API_KEY | API key 設定後查詢 /models | yarn smoke:together |
| Groq | groq/ | GROQ_API_KEY | API key 設定後查詢 /models | yarn smoke:groq |
模型選擇範例
heddle --model gpt-5.4-mini ask "Summarize this repository"
heddle --model claude-sonnet-4-6 ask "Summarize this repository"
heddle --model ollama/llama3.2:latest ask "Summarize this repository"
heddle --model lmstudio/local-model ask "Summarize this repository"
heddle --model openrouter/meta-llama/llama-3.3-70b-instruct ask "Summarize this repository"
/model set llama
/model ollama/llama3.2:latest
/model openrouter/meta-llama/llama-3.3-70b-instruct品質注意事項
Provider compatibility 代表 Heddle 能把 request 與 tool definitions route 到該 provider;這不代表 provider 後面的每個模型都同樣適合 coding-agent 工作。
- 較小、較舊、高度量化、本機或 aggressively routed 的模型可能漏掉 tool calls。
- 有些模型會正確呼叫工具,但忽略 tool result。
- 有些模型會對 repository facts 給出有信心但錯誤的回答。
- 較慢的本機執行可能觸發 request timeout。
相關設定
環境變數、auth commands、default models 與 picker behavior 請看 Provider 與 Model 設定。
Provider 與 Model