跳到正文
量子位· 量子位的朋友们·· 7 小时前AI 评分72

百度开源文心5.5 Flash Base 基座模型,多基准刷新同尺寸 SOTA

百度开源文心5.5 Flash Base,多基准测试刷新同尺寸模型 SOTA

AI 导读

11月5日,百度正式开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用 MoE 架构,总参数量 2800 亿,每个 Token 激活 140 亿参数,使用 33.5 万亿个 Token 完成预训练。

来源:量子位 · qbitai.com