题目
如何处理模型输出格式错误、内容截断和拒绝回答?
答案
先读取接口返回的结束原因和错误类型,不要把所有异常都当成 JSON 解析失败。
- 格式错误:优先使用结构化输出约束;解析失败时提供精简的校验错误,有限次重新生成。
- 内容截断:检查输出预算和上下文长度;必要时减少输入、拆分任务或重新生成完整对象。不能把半截 JSON 修补后当作可靠结果。
- 拒绝回答:保留明确的拒绝状态,向用户说明可处理的范围,或转人工;不要无限改写提示词强迫继续。
还要区分模型拒绝、内容过滤、网络故障和业务拒绝,它们的恢复方式不同。系统应保存请求标识和失败原因,并向前端返回稳定的错误结构,避免异常堆栈或敏感提示词直接展示给用户。
