AI宝库

AI宝库首页 › AI 资讯 › 280B总参数、14B激活!百度开源文心5.5 Flash Base,拿下同尺寸

280B总参数、14B激活!百度开源文心5.5 Flash Base,拿下同尺寸SOTA

来源:智东西 · 发布时间:11-05 · 由 AI宝库每小时自动聚合

智东西 作者 | 三北 编辑 | 漠影 智东西11月5日报道,今日,百度正式发布并开源文心5.5 Flash Base(ERNIE-5.5-Flash-Base)。这款模型采用稀疏MoE架构,总参数量达到280B,每个token仅激活14B参数,在33.5T tokens上从零完成预训练,最长训练上下文达到128K,微

相关 AI 工具

相关免费羊毛

同源资讯

阅读原文(zhidx.com)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI宝库首页 · 提交工具 · 商务合作 · 关于本站 · 252 款 AI 工具分类导航 · 每日 AI 热门项目与动态