Skip to content

fix(adapter): keep the text answer when the model writes an undeclared or malformed tool call - #24

Closed
solei1996 wants to merge 1 commit into
Mag1cFall:mainfrom
solei1996:fix/tool-protocol-invalid-calls
Closed

solei1996 wants to merge 1 commit into
Mag1cFall:mainfrom
solei1996:fix/tool-protocol-invalid-calls

Conversation

@solei1996

Copy link
Copy Markdown
Contributor

问题

模型把工具调用块写坏、或者写出了官网内置工具的调用(例如 google:search)时,ToolBridge.Parse 直接返回错误,stream.go 把它转成 502,整条已经产出正文的请求被判失败,before 正文被丢弃。

实测(v0.2.0):

收到首个输出 | 正文 | 等待=22.477s
账号切换 | 状态=502 | 原因: 工具 "mcp__node_repl.js" 的调用块不完整
guest 账号切换 | 状态=400 | 原因: 账号上下文窗口为 32768 tokens,当前请求需要 56508 tokens
请求失败 | 502

影响:

  • 客户端把一条 4 万 token 的请求当作「上游故障」重试,配额被放大消耗;
  • 调用块之前的正文被丢弃,用户看到「有正文然后中断」;
  • 带工具的 agent 长任务最容易命中。

改动

把「解析失败」从致命错误降级为「丢弃该调用块、按正文结束」,但只在请求没有强制工具调用时:

tool_choice 未声明的调用 / 写坏的调用块
auto / 未设置 丢弃调用块,返回 before 正文(新增 WARN 日志)
required / any 保持原错误
function:<name>(指定函数) 保持原错误
none 保持原错误
任意情况但 before 为空 保持原错误(不把「本该调工具」和「空回答」洗成 200)

测试

新增 TestToolBridgeToleratesInvalidCalls(internal/adapter/tool_protocol_test.go)。先在未打补丁的代码上确认它会失败:

--- FAIL: TestToolBridgeToleratesInvalidCalls
    tool_protocol_test.go:206: 未声明的工具:正文 "" 调用 [] 错误 模型返回了未声明的工具 "google:search"

打补丁后通过,且原有 6 个工具协议用例、go test ./... 全绿。

覆盖场景:auto 下未声明/写坏均按正文返回;required 与指定工具仍报错;调用块前无正文仍报错;合法调用照常解析。

兼容性

  • 不改变对合法工具调用的行为;
  • 不改变 required/指定函数语义;
  • 仅新增一条 WARN 日志。

@Mag1cFall Mag1cFall closed this Nov 21, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants