以创新+合作推动终端侧AI扩展 高通孟樸：让智能计算无处不在

最近,2024世界人工智能大会暨人工智能全球治理高级别会议在上海盛大开幕,本次大会在展览规模、参展企业数、亮点展品数、首发新品数均达历史最高,其中展览面积超过5.2万平方米,汇聚了中国移动、阿里巴巴、特斯拉、高通、微软等500多家国内外参展企业,展示了一系列智能终端、大模型、“人工智能+”创新应用等最新成果,推动人工智能惠及各行各业以及广大的消费者。

近年来,生成式AI的兴起为人工智能技术普及应用带来了新的契机,然而,目前生成式AI主要在云端运行,大模型训练与推理所需要的巨大成本影响了AI的快速普及。根据摩根士丹利的数据,每一次生成式AI搜索的成本是传统搜索方式的10倍,如果每天有超过100亿次的搜索查询产生,即便基于大语言模型的搜索仅占其中一小部分,每年增量成本也可能达到数十亿美元。

在本次大会全体会议产业发展主论坛上,高通公司中国区董事长孟樸发表演讲时谈到,当前生成式AI的研发和应用主要集中在云端,并且云计算仍将发挥重要作用,不过如果将20%的生成式AI工作负载转移到终端侧,预计到2028年将节省160亿美元的计算资源成本。他认为,终端与云端的紧密结合,将成为推动生成式AI规模化扩展、加速数字化转型的关键所在。同时,为了推动生成式AI的广泛应用,我们也需要将其能力延伸到日常使用的智能设备上,如智能手机、移动PC和智能网联汽车等。

随着生成式AI从云端扩展到终端,特别是消费者对于生成式AI服务品质的要求越来越高,势必对终端设备的AI处理能力提出考验。作为全球领先的无线科技创新者,高通长期为智能手机等终端提供连接、计算等方面的先进技术,在提高计算性能的同时也注重降低功耗,不断推动高性能低功耗计算领域的技术创新。孟樸表示,如今的智能手机拥有比2000年的超级计算机更强的计算能力,而且其能耗甚至比一个LED灯泡还要低。这种技术进步在确保性能的同时,能延长电池寿命并提高能效,使仅靠电池供电的移动终端也能随时随地运行生成式AI。