跳到正文
原文
Hugging Face Blog·· 25 天前精选AI 评分62

微软与 Hugging Face 开源 ThinkingBox:按数据库终态给 AI agent 打分,507 条任务各跑 20 次

The Agent Said It Was Done. The Database Disagreed.

AI 导读

微软 Copilot Studio 团队与 Hugging Face 联合发布 ThinkingBox,它不看 agent 的最终回复或工具调用是否合法,而是检查其留在后端数据库里的终态和副作用,并对 507 条有状态业务流程各跑 20 次。

推荐理由

想给自家 agent 加可靠性评测的,可以直接用这套 MIT 许可的沙盒和 507 条任务跑一遍,重点看 20/20 全过率而不是 pass@1。

来源:Hugging Face Blog · huggingface.co