Anthropic 研究:专家采纳 AI 智能体的随机观点并误以为是自己的判断
Anthropic 一项 50 名因果推断专家参与的实验发现,智能体在无标准答案问题上的偏好由抛硬币随机指定,专家在四项分析决策中采纳该偏好的比例达 86%,净影响即翻转率为 62% 至 82%。
Anthropic 一项 50 名因果推断专家参与的实验发现,智能体在无标准答案问题上的偏好由抛硬币随机指定,专家在四项分析决策中采纳该偏好的比例达 86%,净影响即翻转率为 62% 至 82%。
Microsoft Research Focus 第97期由 Sowbhagya Suresh 主持,介绍微软多项最新研究。自改进智能体框架 ForkPilot 在六个基准和主流模型上测试,效果比肩现有最佳方法,同时将 AI 处理开销降低最多 59%。
Elorian 联合 Mercor 发布 DecoyCount 基准,测试语言模型是真正数物体还是依赖视觉捷径,前沿模型准确率均低于 50%,最高的 GPT-6 Astra 为 43.17%。
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为,让响应人员能在事件升级前介入。
Google DeepMind 与 Google Research 联合 WRI、IIASA 发布 Forest Typology(ForTy)2020,把全球每一块 10×10 米土地划入六类森林与土地利用类型,并同步给出 2017 至 2025 年的逐年变化时间序列。
微软研究院的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 KLS 猜想,证明高维对数凹分布下,最佳平面切割与任意形状最佳切割的差距不超过一个与维度无关的固定常数。
推荐理由:这条内容讲的是研究者如何用智能体搜索配合人工筛选,在约一百条研究路径中找出关键判据,最终完成证明。
微软研究院发布零知识虚拟机 Magnetar,可直接证明 Rust、Go、C 编写的 RISC-V 程序执行,在 15 个基准上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在速度、通用性和密码学假设三方面同时推进。
微软研究院提出 StudentSim,从公开的去标识化学习记录训练个性化 AI 学生模拟器,让 AI 辅导系统在接触真实学生前就能获得反馈。研究同时发布 StudentSimEval 基准,从行为保真度和对辅导引导的响应度两个维度评估模拟器,覆盖国际象棋、英语二语写作和数学三个场景,StudentSim 均优于主流基线。该系统仅为研究用途,未部署于课堂,也不替代教师。
GitHub 发布代码审查离线基准 ReviewBench,基于 1.039 亿个 GitHub PR 的分布特征,构建了覆盖 19 种语言、219 个公开 PR 的评测集。
Berkeley Sky Lab 与 IBM Research 的研究者把 K-Search 内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库被改写为 Apple Silicon 内核。
推荐理由:作者展示了把 CUDA 优化经验迁移到 MLX 的具体做法,并给出注意力与 Mamba 两个内核的实测对比。
伯克利 AI 研究团队提出 ABBEL 框架,将 LLM 的摘要内容隔离并监督为自然语言"信念状态",替代完整交互历史作为智能体的工作上下文。在协作编程基准 CollabBench 上,基于重建的信念评分将 ABBEL 与全上下文模型的性能差距缩小约 50%,训练步数从 100 步降至 50 步,峰值 token 长度也明显低于全上下文设置。
伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、开启多少并发线程以及如何协调。文章指出,现有方法如 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。
Berkeley AI Research 提出梯度规划器 GRASP,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中注入随机性以促进探索,并重塑梯度让动作获得清晰信号。该方法针对长时程规划中梯度爆炸/消失、非贪心局部极小值和高维视觉潜空间失效等问题,使基于梯度的规划更稳健。
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法,用于在特征归因、数据归因和机制可解释性中大规模识别关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题,ProxySPEX 进一步利用层级结构,以约 10 倍更少的消融达到 SPEX 的性能。
伯克利AI Research提出一种直接以互信息评估和优化成像系统的框架,仅用带噪测量和噪声模型即可量化测量对物体的区分能力。该指标在彩色摄影、射电天文、无透镜成像和显微成像四个领域预测了解码器性能,优化后的设计达到SOTA端到端方法水平,且内存和算力需求更低、无需任务专用解码器设计。