2024年7月26日，中国国际数字娱乐产业大会(CDEC)ChinaJoy 人工智能集成会议在中国集成期间在上海举行。会议从技术、应用等全生态角度探讨了人工智能集成技术下的新内容产业形式和未来发展趋势，重点关注人工智能集成如何帮助产业升级，如何改善人工智能集成场景应用，如何促进人机集成。
高通技术公司副总裁兼产品合作伙伴及技术市场全球领导者 Mike Roberts 在会议上发表了主题演讲。他指出，终端生成人工智能已经到来，高通作为终端人工智能的领导者，在人工智能领域投资超过15年，借助强大的硬件和软件支持组合、异构计算优势，以及世界领先的边缘布局，高通产品和技术支持出货超过25亿人工智能授权终端，授权广泛的行业和生成人工智能体验，正在促进“让智能计算无处不在”的实现。
演讲全文如下：
大家好，很高兴第四次参加ChinaJoy。我很荣幸代表高通，与大家分享我们如何帮助智能计算无处不在。作为终端侧人工智能的领导者，高通公司在人工智能领域投资15年以上，拥有行业领先的硬件和软件解决方案，覆盖广泛的边缘终端，跨NPU、优秀的异构计算能力，领先的软件优化，以及CPU和GPU的能效。此外，我们还拥有无与伦比的全球边缘布局和数十亿用户设备，覆盖智能手机，PC、汽车、XR、边缘网络设备等。同时，我们还与微软、谷歌、百川、腾讯、字节跳动等众多生态合作伙伴合作，推动人工智能技术的创新和应用。
生成人工智能不仅是一个不可或缺的个人助手，而且在许多领域都显示出巨大的商业价值。预计每年可带来2.6万亿至4.4万亿美元的经济效益，相当于2023年上海GDP的5倍左右。然而，推动生成人工智能的大规模发展面临诸多挑战。以成本为例，基于生成人工智能的搜索单次推理成本约为传统网络搜索的10倍。目前，我们仍处于生成人工智能应用的早期阶段，新的应用程序不断出现，包括图像和视频创作、文本摘要、对话聊天机器人等。考虑到未来需要使用人工智能推理的数十亿用户，整体需求将非常惊人。预计2024年至2028年，与生成人工智能相关的token生成量将增加150 云的推理需求将超过训练需求。如果我们仍然保持目前的人工智能处理方法，到2030年，人工智能可能会消耗全球3.5%的电力，这足以为像上海这样的大城市提供大约35年的电力。
那么我们应该如何应对这一挑战呢？为了实现大规模扩展，人工智能处理的重心正在转移到边缘侧，最终目标是实现混合人工智能，使云和边缘侧终端能够协同处理工作负荷，并利用高性能连接实现更强大、高效、优化的人工智能。如果将 20% 的生成式 AI 工作负荷转移到终端侧，预计到终端侧 2028 年将节省 160 计算资源成本1亿美元。
让我们分别看看终端侧和云端的人工智能处理。终端侧主要支持100亿参数级别的大型模型。终端侧人工智能处理具有许多优点，不仅可以提高性能和效率，还可以保证隐私和安全，提供即时性、低延迟、高可靠性和个性化的用户体验。另一方面，中心云可以支持运行参数超过1000亿级的超大模型。在中心云上，用户可以轻松开发、部署和训练模型，实现资源聚合和最终性能。
基于此，面对各垂直领域对生成人工智能用例日益增长的需求，高通公司推出了面向计算性能的系统级解决方案。提供系统级解决方案的理念根植于高通公司的DNA，这也是我们作为公司应对诸多挑战的关键。这个解决方案包括我们专门为生成人工智能创建的神经网络处理器(NPU)，同时，我们还将使用NPU和CPU、GPU集成在一起。比如我们已经在PC端推出的高通Oryon CPU，未来将扩展到手机、汽车等更多终端品类；此外，我们还推出了高通Adreno GPU，我们在这款定制GPU上投入了十多年的研发。
根据不同的计算需求，我们战略性地使用合适的处理器，以提高系统性能，实现异构计算。异构计算使我们能够实现最佳的应用性能、能效和电池寿命。目前，终端人工智能已广泛应用于各种消费终端和各行各业，包括边缘网络设备、汽车和工业机器人。在这里，我想关注两种主要的终端类型：智能手机和个人电脑。
我们最新的第三代快龙8旗舰移动平台使许多手机制造商合作伙伴能够推出丰富的终端人工智能体验。上个月，我们的合作伙伴微软和其他领先的个人电脑制造商推出了20多个快龙X Elite和骁龙X Plus平台的最新Windows 11 AI PC，这些设备已经实现实时翻译、实时翻译、人工智能照片编辑、文本总结、写作辅助等丰富的人工智能功能。
让我们从智能手机的角度来谈谈这些终端侧的AI用例。我们与合作伙伴携手在旗舰智能手机上，为用户带来生成的人工智能功能，直接向消费者呈现快龙的人工智能功能。三星Galaxy 借助终端侧人工智能，S24系列以先进的实时翻译功能，将手机通话实时翻译成用户的首选语言，打破语言障碍，促进无缝跨文化交流。此外，OPPO Find X7 Ultra集成了终端侧人工智能的优秀特性，使用户可以在不连接互联网的情况下消除照片中不需要的物体或人物。荣耀Magic6系列的“智能成片”功能可以利用相册中的照片和文本提示生成视频。
接下来，让我们来谈谈PC领域的应用。 在PC方面，我们和djay Pro等多家公司展开了合作。djay Pro是世界领先的混音应用，经过我们双方的合作优化，现在可以在骁龙X 在Elite的NPU上运行，让用户可以使用Neuralle Mix实时分离和操作人声、乐器、鼓等不同的音轨。
现在，让我们关注汽车制造商和其他服务提供商，他们可以根据需求提供升级和新服务的特点。中国汽车市场发展速度全球领先。在网络汽车中使用生成的人工智能服务可以使我们的合作伙伴创造新的特点，扩大他们的产品，并为驾驶员和乘客提供更好的体验。互联网汽车可以支持各种软件定义功能和服务，并重新定义旅行体验。
高通公司还在领导终端侧人工智能在物联网领域的应用。具体用例是工厂车间，工厂车间数据处理的低延迟非常重要，因为即使是最小的错误也需要立即注意。通过多模态人工智能助手，我们可以使用视觉、文本和语音处理来帮助工厂车间的工人。
我们还提供了一个全面统一的高通人工智能软件栈解决方案，以支持广泛的垂直领域和合作伙伴。高通人工智能软件栈旨在帮助开发人员优化和部署人工智能模型，它集成了我们独立的高通神经网络处理SDK、模型压缩和量化工具-高通人工智能模型效率工具包(AIMET)。
综上所述，凭借强大的硬件和软件支持组合，高通公司的产品和技术已经支持超过25亿个人工智能授权终端的发货。随着我们不断缩小云与终端侧人工智能之间的差距，这个数字在未来将继续快速增长。最后，非常欢迎您参观ChinaJoyspart主题厅E4。非常感谢。
