E2B 和 E4B 的“E”代表有效参数量,而不是实际需要装入内存的全部参数。E2B 总计 5.1B 参数、E4B 总计 8B,但通过 Per-Layer Embeddings 给每层配置独立查找表,在保持较低计算负担的同时取得较高有效容量;因此 E4B 虽然速度接近 4.5B 模型,内存却必须按 8B 模型准备。这让它们更适合手机和边缘设备,但也说明模型名称中的单一数字不能直接等同于显存账单。

26B A4B 则是混合专家模型的典型例子:它拥有 128 个专家,处理每个词元时只启用其中 8 个专家和一个共享专家,因此每次实际参与计算的参数约 3.8B,速度可接近 4B 模型。然而,全部约 26B 参数仍需驻留内存,以维持快速路由,4-bit 占用达到 14.4GB。其核心机制是以存储换计算,即模型不同时调用全部能力,但硬件仍需容纳全部能力。
12B Unified 是后续加入的中间档版本,Google 称其性能接近 26B A4B,而内存不到后者一半。它取消独立的视觉与音频编码器,改由轻量投影层把图像和声音直接送入语言模型,并在 16GB 笔记本上运行。多词元预测机制还让小型“起草器”一次猜出多个后续词元,再由主模型并行核验,以减少逐词元生成的等待时间;Google 表示结果与常规生成一致,主要收益是速度而非能力变化。

能力边界也很明确:Gemma 4 是文本输出模型,不会像图像生成模型那样绘图;音频输入仅由 E2B、E4B 和 12B 提供,26B A4B 与 31B 不支持。其训练数据截至 2025 年 1 月,因此不能把回答时效性等同于当前在线模型。31B 在 GPQA Diamond 上取得 84.3%,但 SWE-bench Verified 的编码成绩为 52.0%,仍落后于来源表格中的 Qwen3.6-27B 的 77.2%,说明“同规模更强”不等于全面领先。

它现在能做成,一方面得益于统一内存让 Apple Silicon Mac 可直接承载模型与推理工作负载,另一方面来自量化、混合专家和预测式解码等技术对内存与延迟的持续优化;另一方面,成熟的开源工具链也降低了部署门槛。它仍不能突破物理限制:Mac 内存决定最大模型,上下文越长越会挤占资源,低比特量化还可能带来质量与速度损失。因此,选择 Gemma 4 的实质,是按设备内存、上下文长度和任务类型,在容量、速度与质量之间做取舍。
OpenClaw—AI研究