(资料图)
7月7日消息,2023世界人工智能大会(WAIC)上,高通技术公司高级副总裁程立新在论坛中表示,为实现生成式AI的规模化扩展,AI处理的重心正在向边缘转移。而混合AI架构在云端和边缘终端之间分配并协同处理AI工作负载,能够实现更强大、更高效且高度优化的AI。 目前,高通已将生成式AI能力带到终端侧,高通全球首个运行在Android手机上的Stable Diffusion终端侧演示,能够在15秒内执行20步推理,完全在手机上处理超过10亿参数模型。这是智能手机上最快的推理速度,媲美云端时延,且用户文本输入完全不受限制。目前,高通已经将这一用例扩展至骁龙计算平台赋能的PC产品。此外,高通还带来了全球最快的手机上的ControlNet终端侧演示,该模型拥有15亿参数,在这项演示中,只用不到12秒即可在移动终端上生成AI图像,无需访问任何云端,便能提供高效、有趣、可靠且私密的交互式用户体验。
标签: