及时削弱和参数锁定：为什么人工智能用户感觉模型变得更糟
即时削弱是一种面向用户的感觉，即模型或产品在更改后变得响应能力降低、直接程度降低或能力降低。有时它是真实的。有时它是默认值、参数、安全行为、工具和期望之间的相互作用。
谈话中发生了什么变化
有关 Opus 4.7 的社区帖子包括声称非默认温度、top_p 或 top_k 值被拒绝的说法。这些说法需要官方确认，但用户的担忧是真实的：当默认值变得更严格时，专家用户会感觉模型被削弱了。
迅速削弱不是一回事
感知的退化可能来自模型路由、安全调整、系统提示更改、隐藏上下文、速率限制压力、工具故障或参数限制。一个严肃的团队不应该依赖氛围。它应该重新运行代表性任务、比较工件并测量重试、延迟、编辑和最终质量。
如何测试
- 保持稳定的基准提示设置。
- 记录模型、工具和参数设置。
- 比较最终的工件，而不仅仅是主观感觉。
- 将模型质量与代理线束行为分开。
- 跟踪每个已接受工件的令牌使用情况。
TRH角
如果用户感觉模型变得更糟，他们通常会通过更多提示、更多重试和添加更多上下文来进行补偿。即使实际根本原因尚不清楚，这也会增加代币浪费。令牌恢复有助于将投诉转化为可衡量的工作流程证据。