当前看点!高通和微软在Microsoft Build开发者大会上携手 推动终端侧AI规模化扩展
来源:中关村在线 发布时间:2023-05-25 16:27:47


【资料图】

终端侧生成式AI解决方案将查询和推理转移到PC和手机等边缘终端,让开发者和云服务提供商能够打造更加经济可靠,且隐私性更高的生成式AI。

高通和微软确认达成合作关系,将面向消费级和企业级终端、以及工业设备,规模化扩展AI能力,为用户带来行业领先的AI体验。

2023年5月23日,西雅图——在Microsoft Build2023开发者大会期间,高通技术公司展示了公司最新的终端侧AI创新,包括在骁龙®计算平台上运行生成式AI,以及开发者在采用骁龙平台的Windows11 PC上创建应用的新路径。

高通技术公司产品管理高级副总裁ZiadAsghar表示:“为了让生成式AI真正为更多人所接受和使用,许多推理工作需要在边缘终端上处理。我们拥有行业领先的AI硬件和软件,可以赋能开发者充分利用我们强大的AI能力,在搭载骁龙平台的笔记本电脑、手机和其他终端上打造令人惊艳的全新用户体验。”

AI的未来既需要终端侧AI,也需要云端AI。在终端侧运行AI应用可提升成本效益、增强隐私性、个性化并降低时延。与仅在CPU或GPU上进行AI工作负载处理比较,骁龙平台集成专用的高通AI引擎,处理AI工作负载可以更加高效,让小巧轻薄的设备也能支持终端侧AI。

在Microsoft Build期间,高通技术公司将带来技术演示,并带来能够支持在下一代Windows11 PC上开发生成式AI的工具。StableDiffusion作为一款文本生成图像的生成式AI模型,参数超过10亿,目前已经能够完全在终端侧运行。高通技术公司表示,未来几个月内,包括大语言模型(LLM)在内的参数高达100亿的模型将有望在终端侧运行。为了增强高通AI软件栈并帮助开发者打造下一代终端侧AI体验,高通AI引擎DirectSDK将在Microsoft Build上首次面向公众推出。借助ONNXRuntime和高通AI软件栈,如今用户在使用5G版SurfacePro 9和联想ThinkPadx13s的时候就可以在其搭载的第三代骁龙8cx平台上的AI引擎运行AI工作负载。

微软Windows芯片和系统集成公司副总裁PavanDavuluri表示:“为了在广泛的终端和应用领域扩展AI,云端和终端侧处理缺一不可。通过将微软在云端AI上的领先优势以及Windows平台的能力与高通技术公司的终端侧AI专长相结合,我们将加速由生成式AI体验所带来的发展机遇。”

高通技术公司还将在大会期间展示为骁龙平台原生编译热门应用可带来的显著性能提升,并上线全新的开发者门户网站,便于从统一的入口集中获取骁龙本开发所需的关键工具、资源和支持。

标签:

猜你喜欢

当前看点!高通和微软在Microsoft Build开发者大

终端侧生成式AI解决方案将查询和推理转移到PC和手机等边缘终端,让开发者和云服务提供商能够打造更...更多

2023-05-25 16:27:47

今日聚焦!vivo S17系列定档5月31日 首创粒子水

2023年5月25日,vivo官方微博宣布将于5月31日14:30举行“奔赴山海”主题发布会,正式推出S系列新品vivoS17更多

2023-05-25 16:12:23

内存SSD价格要翻盘?

此前的消息称存储颗粒导致的降价会持续至今年年底,不过新的消息显示,下半年存储可能要涨价了。调...更多

2023-05-25 16:29:43

realme GT Neo6曝光:骁龙8 Gen2芯片+144Hz O

数码闲聊站的微博博主近日爆料了realme即将推出的旗舰手机关键规格,预计是realmeGTNeo6。据悉,该手机将配更多

2023-05-25 16:33:38

开启未来人居无限想象,揭示家电新物种的魅力

衣物护理与家居清洁是消费者生活中不可忽视的重要议题。然而,传统的洗衣与扫拖方式往往无法满足消费...更多

2023-05-25 15:23:16

环球速讯:2499 元起,小米 Civi3 正式发布,

5月25日,小米正式发布小米Civi3手机,有玫瑰紫、奇遇金、薄荷绿、椰子灰四款配色,整机173 5g重、7 56mm厚更多

2023-05-25 15:12:33

5大发现!分贝通《2022-2023一体化企业支出管理报

支出数据指企业费用类支出数据,是组织日常经营行为的直接反馈。近年来越来越多企业倾向通过企业支...更多

2023-05-25 15:14:40

科技赋能产业发展,脑虎科技受邀参加2023赣江新区

5月22日,以“热爱科学、崇尚科学”为主题的2023赣江新区科技活动周在赣江新区中医药科创城会展中心...更多

2023-05-25 15:15:12

世界最资讯丨京东618预售开启 以旧换新、碎屏险

目前,京东618已开启预售,不少人都打算为自己或家人换新手机。恰逢京东创业二十周年,今年的京东61...更多

2023-05-25 15:29:22

小米Civi 3正式发布:1TB版本仅需2999元

小米发布新一代自拍手机小米Civi3,不仅外观有大幅度改变,拼色方案和全新的圆形相机模组都非常独特...更多

2023-05-25 15:24:10