在 LM Studio 里跑 Qwen3.6：那个必须关掉的开关

本机用 LM Studio(一个本地跑大模型的桌面工具)跑通义千问 Qwen3.6-35B-A3B,把全部旋钮摸了一遍。最关键的一条值得单独拎出来:

「启用思考」(Enable Thinking)必须关掉。 开着的时候,模型经常输出空内容、或者格式不合规,尤其是想让它吐结构化的工具调用(tool_use)时。关掉之后,经过 LiteLLM(统一各家 API 的中间层)转发,就能正确产出 Anthropic 风格的 tool_use 结构。

其余调参速查:上下文长度最大能拉到 262144,按需给;闪存注意力(Flash Attention)打开;温度(temperature)0.2,要它稳定可复现。

本地模型的价值是可控、不花钱,但前提是先把这些藏得不显眼的开关调对——不然很容易把配置问题错怪到模型头上。