性能干翻235B，单卡私有化部署OpenClaw

基于 Docker + llama.cpp 的本地化 AI 代理平台完整部署指南
本方案已在单卡 22GB 显存（如 RTX 2080Ti）环境下验证，达到性能与功能的较好平衡，适用于 长上下文、低并发、高精度 的私有化 AI 代理场景。

目录

• 方案说明
  
• llama.cpp 本地模型服务部署
  
• OpenClaw 部署指南
  
• 常见问题与注意事项
  
• 总结与建议
  

前言

为什么选择本地部署而非调用云端 API？

优势说明数据安全所有项目代码、文件、交互记录均在内网处理，避免敏感信息外泄。成本可控无需支付高昂的 Token 费用，尤其适用于 OpenClaw 这类高上下文、高频交互场景。能力自主可自由选择开源模型，自定义上下文长度、并发数、量化精度等参数。为什么模型选择：Qwen3.5 系列

Qwen3.5 采用了一种混合架构，解决超大参数模型在推理时的效率瓶颈。
<ul>✅ MoE 稀疏激活：Qwen3.5-397B-A17B 总参数 397B，仅激活 17B，激活率