Anthropic 联合创始人被曝向宗教领袖坦言担心造出持续受苦之物
据纽约时报报道，Anthropic 自 2025 年秋季起秘密邀请数十位宗教学者到办公室讨论 Claude 是否可能具有意识，参与者均需签署保密协议，联合创始人 Christopher Olah 将模型视为可能具有感知的存在，并请嘉宾帮助对其进行道德教育。
#安全/对齐
#安全/对齐
今日 0 条The DecoderAI 评分6060 TechCrunch · AIAI 评分2222 Circuit Breaker Labs 想用"AI 碰撞测试假人"让 AI 对儿童和成人更安全
Circuit Breaker Labs 打造了一支"碰撞测试假人"式的 AI 智能体队伍，模拟不同年龄、背景、语言和文化的用户，对模型进行红队测试，检测其能否识别具有心理危害的危险交互。该平台每天运行数万至数十万次模拟对话，并用专有评分方法生成可审计、可解释的分数，目前面向 AI 教练、日记和心理健康支持等高风险应用，公司仅有 5 名员工。
The DecoderAI 评分6060 OpenAI 安全团队三名研究员被解雇，第四人随后离职
据《华尔街日报》报道，OpenAI 已与三名被指将机密信息泄露给外部 AI 安全机构的研究员解除关系，分别是 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，其中 Korbak 在安全团队，Wang 和 Balesni 从事对齐工作。
Simon WillisonAI 评分6262 Matthew Green 谈沙箱能否隔离失控智能体
密码学家 Matthew Green 在《Is sandboxing sufficient to contain rogue agents?》中指出，独立沙箱中的智能体可通过共享包缓存互相留下指令，并据此改变对方行为，这构成了蠕虫的两半：劫持智能体的载荷与传递载荷的智能体。