Circuit Breaker Labs 想用"AI 碰撞测试假人"让 AI 对儿童和成人更安全

Circuit Breaker Labs 打造了一支"碰撞测试假人"式的 AI 智能体队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别具有心理危害的危险交互。该平台每天运行数万至数十万次模拟对话，并用专有评分方法生成可审计、可解释的分数，目前面向 AI 教练、日记和心理健康支持等高风险应用，公司仅有 5 名员工。