百度开源文心5.5 Flash Base基座模型
先了解这件事
11月5日,百度发布并开源基座模型文心5.5 Flash Base(ERNIE-5.5-Flash-Base),开放的是预训练终点权重,未经中训练与后训练,开发者可将其作为领域适配、指令微调、推理强化和Agent训练的起点。百度称,经过后训练的正式版文心5.5 Flash将于近期推出。 该模型为稀疏MoE语言模型,总参数2800亿,每个Token激活140亿参数,在33.5万亿个Token上从零完成预训练,最长训练上下文128K,微调与推理支持1M tokens上下文。百度还联合vLLM、SGLang等社区提供开源生态支持。 报道称,该模型在多个基准测试中刷新同尺寸模型的SOTA成绩。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- 智东西百度开源文心5.5 Flash Base:280B总参数、14B激活,称同尺寸SOTA
百度发布并开源文心5.5 Flash Base(ERNIE-5.5-Flash-Base),采用稀疏MoE架构,总参数280B、每token激活14B,在33.5T tokens上从零预训练,微调与推理支持1M tokens上下文。
- IT之家百度文心开源发布 ERNIE 5.5 Flash Base 基座模型,总参数 280B
百度文心于 11 月 5 日发布并开源 ERNIE-5.5-Flash-Base,开放 ERNIE 5.5 Flash 预训练终点权重。该模型为稀疏 MoE 语言模型,总参数 280B、每 token 激活 14B,在 33.5T tokens 上从零完成预训练,最长训练上下文 128K,微调与推理支持 1M tokens 上下文。
- 量子位百度开源文心5.5 Flash Base 基座模型,多基准刷新同尺寸 SOTA
11月5日,百度正式开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用 MoE 架构,总参数量 2800 亿,每个 Token 激活 140 亿参数,使用 33.5 万亿个 Token 完成预训练。
- 雷峰网百度开源文心5.5 Flash Base 基座模型,多基准刷新同尺寸 SOTA
11月5日,百度开源基座模型文心5.5 Flash Base(ERNIE 5.5 Flash Base),采用 MoE 架构,总参数量2800亿,每个 Token 激活140亿参数,使用33.5万亿个 Token 完成预训练。
本事件热度走势
- 可比范围当前
- 34
- 可比范围峰值
- 3811月5日 18:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。