跳到正文

技术方向

部署工程 最新动态

怎么把模型跑得更快更省钱:推理加速、显存与成本、服务部署与基础设施选型。

3 条精选近 30 天 2 条共收录 30 条

更新

部署工程的精选

10月16日周五第 1–3 条
  1. Microsoft Research66

    微软研究院推出 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可直接证明 Rust、Go、C 编写的 RISC-V 程序执行,在 15 个基准上平均比现有最快 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。

    推荐理由:微软研究院梳理十余年零知识证明研究脉络,说明 Magnetar 如何在速度、通用性和密码学假设三方面同时推进。

10月8日周四
  1. Microsoft Research78

    微软开源 Agent Lightning v1.0:3500 行代码的轻量 Agentic RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量 Agentic RL 框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与强化学习,无需在训练框架内重写 agent。

    推荐理由:微软开源 3500 行代码的 Agent RL 框架,用真实 harness 训练,并给出 6000 样本提升 14.6 个点的完整流程。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把多年内核优化经验带到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 的研究者把 K-Search 内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库被改写为 Apple Silicon 内核。

    推荐理由:作者展示了把 CUDA 优化经验迁移到 MLX 的具体做法,并给出注意力与 Mamba 两个内核的实测对比。