https://inkeast.github.io/MessageDaily/tags/%E6%A0%A1%E5%87%86/Recent content in 校准 on MessageDailyHugozh-cnFri, 11 Sep 2026 00:00:00 +0000https://inkeast.github.io/MessageDaily/posts/2026-09-11-agent-confidence-internal-representations-paper-reading/Fri, 11 Sep 2026 00:00:00 +0000https://inkeast.github.io/MessageDaily/posts/2026-09-11-agent-confidence-internal-representations-paper-reading/UMass Amherst 的这篇论文利用 LLM 内部表征预测智能体任务成败：Latent Trajectory Dynamics（LTD）总结交互轨迹上残差流表征的变化动态，Action Representation Probe（ARP）在动作决策点读取表征预测成功。在 InterCode 的 Bash/SQL/Python 三个交互基准 × Qwen-14B/Qwen-7B/DeepSeek-6.7B 三个模型家族上，两方法全面超越表层 token 概率与序列校准基线（漏损泄漏的交叉验证协议），且零额外开销——不改提示、不需多样本 rollout。智能体安全关键应用第一次有了’从模型内部读出置信度’的免费监视器。