高通公司的优势正是在于我们可以与这些企业合作实现这一目标。我们已经看到诸多公司都在推动终端侧 AI，他们只希望在必要时利用云端处理。

例如，你可以拿起手机识别你将用于烹饪的食材，成功识别后，你可以让手机帮你生成对应的菜谱，你还可以让手机给你一些低卡路里菜单组合；烹饪完成后，你可以通过摄像头，向手机询问这份食物所包含的卡路里。凭借智能手机如今对多模态 AI 能力的支持，这个用例可以完全在终端侧实现。

与此同时再来看智能眼镜，戴上智能眼镜，它就像你的眼睛和耳朵一样，可以看到和听到你周围的环境。但是为保证电池续航，智能眼镜的处理能力就相对有限，它只能支持大概 10 亿参数体量的小模型运行，得到的信息也较少。

但手机是我们随身携带的拥有最强处理能力的终端之一，我们可以将手机与智能眼镜相结，通过眼镜来获取信息，然后把信息放到手机上来处理，再将处理结果传回到眼镜端，这是一个面向终端侧 AI 的非常理想的解决方案。

另外一点就是，过往我们认为 10B 参数的大模型比 4B 参数的大模型要好，但这可能并不一定是百分之百成立的。因为现在的很多小语言模型已经做的越来越出色，它们基于云端的大模型进行训练，并可以针对非常具体的某一个或某几个用例来进行压缩，从而提升准确度同时减小规模。我觉得这就是未来的趋势，小模型通过不断训练变得更加准确。我们与众多模型厂商合作，挑选最准确、最轻量化的小语言模型来实现在手机终端侧的部署。

随着这些模型变得越来越准确，我们得以将一个 10B 参数的模型部署到手机端，所以我们的另一个挑战是，如何确保在端侧能够处理尽可能多的请求，只在必要时才返回云端进行处理。所以我们的目标是找到准确度最高的、占用内存最小的且能处理最多用例的模型。

正如我前面提到的，目前 4B 参数的模型已经做的相当出色了。以微软举例，他们在 PC 后台跑的小语言模型 Phi 大概的参数量在 3.8B 到 7B 之间。

我们希望在这些模型不断提升准确度的同时，占用的内存空间会逐步减少，我们与模型提供商合作就是为了达到这一目标，我们的模型量化工具也在不断进步，从而实现成本和性能之间的平衡。