Together AI 正在托管 PrismML 的 Ternary Bonsai 27B。这款 27B 模型能在手机和边缘设备上直接运行，不再只依赖云端。

它用的是三值权重，参数精度压得很低，所以内存占用和计算量都下来了。表现如果靠谱，以后大家可能会把更多模型放到本地跑，这样响应更快、成本也更低。放在 Together 平台上，开发者能先试用，再决定要不要部署到设备端。

现在趋势变了，不再一味把模型做大，而是靠压缩来提效。