卡住端侧AI的不是内存
今年新发布的手机，厂商开始花大量时间讲同一句话：我们的手机，能本地跑大模型，不联网。不调云端。芯片自己算。 不只手机，眼镜、汽车座舱，也在做同样的事。 这件事放在两年前讲，你大概率会觉得是个噱头；放在2026年，它确实开始变成常态了。 为什么偏偏是今年？是三条原本各自独立的技术曲线，在2026年，第一次同时走到了同一个位置了。 第一样：模型越来越「浓缩」了。 2024年底，清华孙茂松、刘知远团队和开源社区OpenBMB提了一个概念，叫「能力密度」。说人话就是：一个模型，每一亿个参数里能装多少「聪明」。 他们的结论比较直接，大模型的能力密度，大约每100天翻一倍。 什么概念呢？每隔三个多月，你只需要一半大小的模型，就能达到跟现在最强的模型一样的水准。 跟摩尔定律放一块看更有意思，芯片在同样价格下的算力，大概每两年翻一倍。模型呢？ 一百天；一边是两年，一边是一百天；前者决定你的手机能塞进多大的模型，后者决定塞进去之后它能有多聪明。 这事儿不光是理论。 截至今年7月，清华的MiniCPM系列在全球已经被下载了3800万次，GitHub上超过14万颗星；今年5月发布的MiniCPM5，参数量只有1B，效果比三个月前发布的Qwen3.5-2B还要好，体积砍半，反而更聪明。 第二样：芯片终于够快了。 模型再聪明，最终得跑在硅片上，你得有足够快的芯片，这条线，2026年才算真正跨过了一道坎。 我特意查了一下，高通骁龙8 Elite Gen5，AI算力到了100 TOPS；联发科天玑9500，超性能NPU的峰值也是100 TOPS， 而且功耗比上一代砍了一半多，还支持一种叫低比特推理的技术，让模型跑起来更省电。 PC端的骁龙X2 Elite，NPU也有80 TOPS。 你可能对这些数字没什么感觉，记住一件事就够了：这批芯片真正装进量产手机，时间点正好卡在2025年底到2026年。 第三样：拿到了「准入证」。 这条线不在技术范畴里，它的约束力一点都不比前两条小，没有它，前面两样再好也等于零。 今年7月15日，国家网信办发了一份公告，7款手机端侧的AI服务完成了备案：但有个细节很多人没注意，目前全国做完备案的生成式AI服务已经快一千款了。 专门给手机端侧列一张清单，这是第一次，这张清单里最能说明问题的是谁呢？苹果。 Apple Intelligence在2024年6月的WWDC上就亮相了。端侧基础模型大约30亿参数，技术上两年前就准备好了。 它在中国市场等了两年半，最后国行版的AI能力，交给阿里千问、百度来做，两年半，等的就是那一张清单上的一个名字。 三条线放一块：模型每百天浓缩一倍，百TOPS芯片今年铺开，合法开机的许可7月8日生效。同一年汇合，落地才成立。 ...... 不过这里有一个细节，100 TOPS这个数字，值得讲一下。 如果你去问做端侧部署的工程师，他大概率会说：
