两年前,生成式AI迅速走红,给消费市场带来深远的影响,各种创新应用体验层出不穷。经过两年的发展,终端侧AI受到了越来越多的关注,算力由云端向终端侧转移的发展趋势逐渐显现,终端侧AI展现出应用新空间。近期,中国移动终端公司与高通技术公司紧密合作,经过一系列技术攻关,将中国移动自研的终端大模型(CM-3B)成功面向骁龙旗舰平台进行优化,并实现更佳运行表现,成为首个运营商自研语言模型在端侧应用部署的成功案例。

九天终端大模型是中国移动自研的AI大模型,其中CM-3B是九天大模型族系中参数规模较小的一款终端侧大模型,专门为高隐私、低延迟的AI应用而打造,适配部署于旗舰智能手机。相比于云端大模型,终端侧生成式模型规模较小,响应速度更快。由于很多用户不希望他们的个人数据被上传到云端,因此选择在终端设备上处理数据能够有效解决用户在隐私性方面的顾虑。该模型基于对终端用户需求和行为的深入理解,在高通骁龙移动终端设备中实现意图识别、中英互译、文本总结等AI应用,表现出色,达到行业同参数规模领先水平。

本次运行中国移动终端大模型的设备是基于高通骁龙移动平台的智能手机。高通在AI领域已深耕超过15年,推出的AI硬件和软件解决方案,广泛应用于各类终端设备,全球范围内高通AI引擎赋能的终端产品出货量已超过25亿。在此前十月,高通推出新一代5G移动平台“骁龙8至尊版”,支持超过70个tokens/s的输入。新平台支可以直接在终端侧提供个性化的多模态生成式AI,支持语音、情境和图像理解,全面增强智能设备从生产力到创意任务等各方面的体验。

中国移动终端公司的这一创新成果,为终端侧AI的发展注入了新的活力,也为用户提供了更加便捷、高效的智能服务。高通一直致力于进一步缩小云端和终端侧AI之间的差距,持续通过领先的技术和产品,与包括中国移动在内的产业伙伴一道,合作探索5G-A×AI带来的创新发展空间。