让智能计算无处不在，高通ChinaJoy AIGC大会展望终端侧AI行业赋能

　　2024年7月26日，中国国际数字娱乐产业大会(CDEC)旗下ChinaJoy AIGC大会于ChinaJoy期间在上海举办。大会从技术、应用等全生态角度独特探讨了AIGC技术下的内容产业新业态跟未来发展趋势，聚焦AIGC如何助力产业进级、如何晋升AIGC场景应用、如何增进人机融会等。

　　高通技术公司副总裁兼产品、协作搭档跟技术市场寰球负责人 Mike Roberts 在大会上发表了主题演讲。他指出，终端侧天生式AI已经到来，高通公司作为终端侧AI的引导者，在AI范畴有着超过15年的投入，借助壮大的硬件跟软件支持组合、异构计算优势、以及寰球范围内的当先边沿侧布局，高通的产品跟技术已支持出货超过25亿台AI赋能终端，赋能普遍的行业范畴跟天生式AI休会，正在推动实现“让智能计算无处不在”。

　　以下为演讲全文：

　　大家好，很兴奋第四次加入ChinaJoy。我很荣幸代表高通，与大家分享我们正在如何助力让智能计算无处不在。作为终端侧AI的引导者，高通在人工智能范畴有着超过15年的投入，拥有行业当先硬件跟软件解决方案笼罩普遍边沿终端，并且拥有跨NPU、CPU跟GPU的卓越异构计算才能、当先的软件优化、以及能效。此外，我们还在寰球范围内拥有无与伦比的边沿侧布局跟高达数十亿的用户设备数目，笼罩智能手机、PC、汽车、XR、边沿网络设备等等。同时，我们也与微软、谷歌、百川、腾讯、字节跳动等众多生态协作搭档独特推动AI技术的立异跟应用。

　　天生式AI不仅是不可或缺的个人助手，也在众多范畴展现出了伟大的贸易价值。预计每年可带来2.6万亿到4.4万亿美元的经济效益，大概相当于2023年上海GDP的5倍。然而，推动天生式AI的范围化发展面临诸多挑衅。以本钱为例，基于天生式AI的搜寻单次推理本钱是传统网络搜寻的约10倍。目前，我们还处于天生式AI应用的早期阶段，新的应用一直涌现，包含图像跟视频创作、文本摘要、对话聊天机器人等。再斟酌到未来需要使用AI推理的数十亿用户数，这个总体需求量就会异常惊人。预计2024年至2028年，天生式AI相关的token天生量将增长150 倍，云真个推理需求将超过训练需求。假如还坚持当前的AI处置方式，到2030年AI可能会消耗寰球3.5%的电力，这足以为上海这样的大城市供电约35年。

　　那么我们应如何应对这一挑衅?为了实现范围化扩大，AI处置的重心正在向边沿侧转移，最终目的是实现混杂AI，让云端跟边沿侧终端可以协同处置工作负载，并使用高性能衔接来实现更增壮大、高效、优化的AI。假如将 20% 的天生式 AI 工作负载转移到终端侧，预计到 2028 年将节俭 160 亿美元的计算资源本钱。

　　让我们分别看看终端侧跟云真个AI处置。终端侧主要支持100亿参数级别的大模型。终端侧AI处置具备众多优势，不仅可以进步性能跟效率，还能确保隐私跟平安性，同时提供即时性、低时延、高牢靠性跟个性化的用户休会。另一方面，中心云可以支持运行参数超过千亿级别的超大模型。在中心云上，用户可以轻松地对模型进行开发、部署跟训练，实现资源聚合跟极致性能。

　　基于此，面对各个垂直范畴对天生式AI用例日益增长的需求，高通推出了面向计算性能的系统级解决方案。提供系统级解决方案的理念植根于高通公司的DNA之中，也是我们作为一家公司应对诸多挑衅的症结。这一解决方案包含我们专为天生式AI全新打造的神经网络处置器(NPU)，同时，我们还将NPU与CPU、GPU整合到一起。好比，我们已经在PC端推出的高通Oryon CPU，未来还将扩大得手机、汽车等更多终端品类;此外，我们推出了高通Adreno GPU，我们在这款定制化GPU上已经投入了超过十年的研发。

　　我们针对不同计算需求，策略性地使用相宜的处置器，从而晋升系统性能，实现异构计算。异构计算让我们可以实现最佳应用性能、能效跟电池续航。现在，终端侧AI已经普遍应用于各类消费终端跟各行各业，包含边沿网络设备、汽车、以及制造车辆的产业机器人等。在此，我想重点谈谈两种主要的终端类型：智能手机跟PC。

　　我们最新的第三代骁龙8旗舰移动平台已经赋能诸多手机厂商协作搭档推出了丰硕的终端侧AI休会。上个月，我们的协作搭档微软以及其余当先PC厂商，推出了20多款搭载骁龙X Elite跟骁龙X Plus平台的最新Windows 11 AI+ PC，这些设备已经实现了实时翻译、实时转译、AI照片编纂、文本总结、写作帮助等丰硕的AI功效。

　　让我们先从智能手机的角度来谈谈这些终端侧AI用例。我们与协作搭档携手在他们推出的旗舰智能手机上，为用户带来了天生式AI功效，将骁龙的AI才能直接出现给消费者。三星Galaxy S24系列借助终端侧AI，以先进的实时翻译功效，将手机通话实时翻译成用户首选语言，攻破语言障碍，增进无缝的跨文化交换。此外，OPPO Find X7 Ultra集成了精彩的终端侧AI特征，让用户可以将照片中不需要的物体或人物消除，且无需衔接互联网。荣耀Magic6系列的“智慧成片”功效则可以应用相册中的照片跟文本提醒天生视频。

　　接下来，让我们聊聊PC范畴的应用。 在PC方面，我们与djay Pro等众多公司展开了协作。djay Pro是一款寰球当先的混音应用，经由我们双方的协作优化，现在可以在骁龙X Elite的NPU上运行，让用户可以应用Neural Mix实时候别跟操作人声、乐器、鼓等不同音轨。

　　现在，让我们将眼光转向汽车制造商跟其余服务提供商，他们可以依据需求提供特征进级跟新服务。中国的汽车市场有着寰球当先的发展速度。在网联汽车中使用天生式AI服务，可以赋能我们的协作搭档打造全新特征，扩大他们的产品，并为驾驶员跟乘客提供更佳休会。网联汽车可以支持各种软件定义特征跟服务，也将重新定义出行休会。

　　高通还在引领终端侧AI在物联网范畴的应用。一个详细的用例是工厂车间，工厂车间中数据处置的低时延至关重要，因为即便是最微小的毛病也需要即刻关注。通过多模态AI助手，我们可以使用视觉、文本跟语音处置为工厂车间的工人提供实时赞助。

　　我们还提供了高通AI软件栈这一全面的统一解决方案，以支持普遍的垂直范畴跟协作搭档。高通AI软件栈旨在赞助开发职员优化跟部署AI模型，它集成了我们自主的高通神经网络处置SDK、以及模型压缩跟量化工具——高通AI模型增效工具包(AIMET)。

　　综上所述，凭借壮大的硬件跟软件支持组合，高通的产品跟技术已支持超过25亿台AI赋能终真个出货。跟着我们一直缩小云端跟终端侧AI之间的差距，未来这一数字将继续倏地增长。最后，异常欢送大家来到ChinaJoy骁龙主题馆E4参观休会。谢谢大家!