不蒸馏不走捷径!字节拟押注5万亿参数大模型 规模超Kimi K3
快科技8月7日消息,据《晚点 LatePost》报道,字节跳动正在讨论训练一个参数规模超5万亿的模型,它超过阿里的 Qwen 3.8-Max(2.4 万亿参数)和月之暗面的K3(2.8 万亿参数),也是目前国内已知参数规模最大的模型。该计划仍处于早期阶段,模型最终不一定会发布。报道称,新模型将由Seed Foundation负责人项亮主导,与大语言模型预训练数据负责人沈科合作。为此,Seed正在重新梳理组织,划分职责,分配资源。针对字节讨论训练超5万亿参数模型的原因,报道援引...