Harry33t opened a new pull request, #1099:
URL: https://github.com/apache/dubbo-go-samples/pull/1099

    ## 背景
   
     收到 maintainer 反馈:默认 `LLM_MODEL=qwq` 是有意为之,因为本示例的设计目标是演示**多模态 
Agent**——`proto/chat.proto` 里的 `bytes bin`
     字段允许在聊天消息里附图。`qwq` 是当时 Ollama 上能找到的、同时满足 ReAct 推理质量和多模态输入的最小模型,且它在 Ollama 
中的实际占用并不算重。     
   
     但 README 里没解释这个设计意图,导致用户:
   
     - 看到 `qwq` 直觉上认为太重就换成更小的模型(如 `qwen3:4b`)
     - 小模型无法稳定遵循 ReAct prompt,把请求误判为 `TaskUnrelated`,根本不调用查询工具
     - 看起来像是代码有 bug,实际是模型能力问题
   
     ## 修复
   
     **不动默认配置(保留 `qwq`)**,只更新中英文 README,新增"模型选择建议"章节:
   
     1. **解释 `qwq` 为什么是默认**:多模态 + ReAct 的最小可行模型,Ollama 下占用其实不重。
     2. **提供降级选项**:如果不需要多模态,给出 `qwen2.5:14b` / `qwen2.5:7b` 两档纯文本替代。
     3. **不依赖 LLM 的 fallback**:直接跑 `go test 
./go-server/tools/bookingflight/...` 验证查询/购买工具。
     4. **加排错提示**:模型 <~7B 大概率会误判任务,看到 agent 不调任何工具时先换更大的模型,再去查代码。
   
     ## 验证
   
     只改文档,无代码改动。
   
     Closes #1085
   


-- 
This is an automated message from the Apache Git Service.
To respond to the message, please log on to GitHub and use the
URL above to go to the specific comment.

To unsubscribe, e-mail: [email protected]

For queries about this service, please contact Infrastructure at:
[email protected]


---------------------------------------------------------------------
To unsubscribe, e-mail: [email protected]
For additional commands, e-mail: [email protected]

Reply via email to