Abab6
abab6
Abab6 是 MiniMax 于 2024 年 1 月发布的千亿级参数大语言模型,采用 MoE(Mixture-of-Experts)架构,为国内首个该量级 MoE 模型。据云启资本和绿洲资本各自的报道,Abab6 在指令遵从、中文综合能力和英文综合能力上均大幅超过 GPT-3.5,与 Claude 2.1 相比也略胜一筹。MoE 结构让模型在拥有大参数处理复杂任务能力的同时,每次推理仅调用部分"专家"参与计算,从而提升计算效率。
MiniMax 是云启资本 2021 年底天使轮投资的项目,云启在报道中提到,MiniMax 将 80% 以上的算力和研发资源投入 MoE,并在 2024 年 4 月进一步推出 abab 6.5 系列,核心能力开始接近当时世界上最领先的大语言模型。
由 AI 生成,可能出现错误,请仔细核对内容。
Abab6产品
abab6
渲染中…
在 3 篇文章中被提及


