Anthropic 研究:专家采纳 AI 智能体的随机观点并误以为是自己的判断
Anthropic 一项 50 名因果推断专家参与的实验发现,智能体在无标准答案问题上的偏好由抛硬币随机指定,专家在四项分析决策中采纳该偏好的比例达 86%,净影响即翻转率为 62% 至 82%。
Anthropic 一项 50 名因果推断专家参与的实验发现,智能体在无标准答案问题上的偏好由抛硬币随机指定,专家在四项分析决策中采纳该偏好的比例达 86%,净影响即翻转率为 62% 至 82%。
Microsoft Research Focus 第97期由 Sowbhagya Suresh 主持,介绍微软多项最新研究。自改进智能体框架 ForkPilot 在六个基准和主流模型上测试,效果比肩现有最佳方法,同时将 AI 处理开销降低最多 59%。
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为,让响应人员能在事件升级前介入。
微软研究院提出 StudentSim,从公开的去标识化学习记录训练个性化 AI 学生模拟器,让 AI 辅导系统在接触真实学生前就能获得反馈。研究同时发布 StudentSimEval 基准,从行为保真度和对辅导引导的响应度两个维度评估模拟器,覆盖国际象棋、英语二语写作和数学三个场景,StudentSim 均优于主流基线。该系统仅为研究用途,未部署于课堂,也不替代教师。
伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的摘要内容隔离并监督为自然语言"信念状态",替代完整交互历史作为智能体的工作上下文。在协作编程基准 CollabBench 上,基于重建的信念评分将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值 token 长度也明显低于全上下文设置。