78B 只激活 3.46B:欧洲把「可自托管的前沿」做成了开源

观点:开源阵营开始把「能不能放进自己机房」当作核心卖点
德国 AI 实验室 Aleph Alpha 发布开源权重模型 Kolibri:总参数 78.1B 的德英双语 MoE 模型,每个 token 只激活 3.46B(约 4.4%),支持最高 100 万 token 上下文,权重以 Apache 2.0 许可开放。
在"每天都有新模型"的节奏里,这条消息值得单独拎出来看,因为它的取舍与主流闭源厂商完全不同。
三个要点
- 稀疏度定义了成本下限。 78B 的容量、3.46B 的推理开销,意味着企业用有限的卡就能把它跑起来。MoE 让"能力"和"每次推理成本"第一次被真正解耦。
- Apache 2.0 是关键条款。 它允许商用、允许改、允许私有化部署。对数据不能出境的行业——金融、医疗、政企——这一条比跑分更重要。
- 但语言覆盖是硬边界。 官方定位是德英双语,中文场景的实际表现需要自己实测,不能拿"欧洲前沿"直接套。
一个容易被忽略的对比:闭源模型在拼能力上限,而 Kolibri 这类模型在拼"单位算力能买到多少可自控的能力"。这两条路线不会互相取代,但会瓜分不同的买方。
对读者的实际建议
- 先做小样本实测,不要看榜单。 用你真实的德语/英语/中文任务各跑 50 条,比任何论文数字都有意义。
- 把上下文长度也算成成本项。 100 万 token 很吸引人,但长上下文的显存与延迟开销要按最坏情况估。
- 让合规团队提前介入。 Apache 2.0 管的是代码与权重;你微调后产出的数据归属、客户合同条款是另一回事。
- 把它放进备选池而不是主角位。 一个愿意开放权重的欧洲实验室,在多语言与企业合规场景里属于稀缺供给。
结论:Kolibri 不是"又一个开源模型",而是提醒企业:选型清单里除了跑分和价格,还该补一列叫"能不能放在自己机房里"。
参考来源
- Hugging Face 模型页:Aleph-Alpha/kolibri-1
- Aleph Alpha 技术报告与官方发布:aleph-alpha.com
- Hacker News 讨论汇总(buzzing.cc 中文翻译)
- 素材索引:AI HOT(aihot.news)
延伸阅读:501B 挂在 23B 上:开源前沿的比拼,从「谁的参数多」换成了「谁的激活更省」 · 一天铺开五个入口:Ling-3.1-Flash 把「渠道」做成了发布的一部分