高通发布AI软件栈,加码智能网联边缘领域
科技

高通发布AI软件栈,加码智能网联边缘领域

作者 | 云鹏

编辑 | 心缘

智东西6月22日消息,今天高通正式发布了AI软件栈产品组合(AI Stack),让自身的AI技术优势进一步在智能网联边缘领域扩展。

高通AI软件栈是面向OEM厂商和开发者的一套完整的AI解决方案,通过较为丰富的AI软件权限和兼容性能够支持各种智能终端。这是首次,通过单一的AI软件组合,实现跨终端运行,覆盖包括智能手机、汽车、XR(扩展现实)、计算、物联网和云平台在内的智能网联边缘产品。

高通AI软件栈支持包括TensorFlow、PyTorch和ONNX在内的不同AI框架与主流运行时(runtimes),以及开发者库与服务、系统软件、工具和编译器,从而使任何面向单一终端开发的AI特性都可在其他终端上便捷部署。

助攻大模型开发!华为甩出大模型全流程使能体系,中国算力网-智算网络上线

高通技术公司产品管理副总裁Ziad Asghar称:“完整的高通AI软件栈产品组合将推动OEM厂商和开发者的AI开发,为高通技术公司的广泛产品组合带来高性能表现。此举会扩大高通在智能网联边缘的领先优势。”

这一完整的产品组合支持直接访问高通AI引擎和采用高通AI引擎Direct的高通Cloud AI 100专用AI核心。作为全新解决方案的一部分,高通AI引擎Direct现可在高通技术公司所有产品中的任何AI加速器上进行扩展。

作为一个AI库,它可以在高通技术公司的平台上直接向AI加速器委托和部署现有模型,不仅能够为OEM厂商和开发者提供模型开发的功能,还支持将新开发的模型迁移至不同产品和层级。

微软AI框架架构杰出工程师Yuan Yu称:“我们正积极推动将高通AI软件技术带入到微软的生态系统中,其中包括专门面向Windows的高通神经网络处理SDK,通过提供从客户端扩展到服务器的统一完整AI软件,提供从边缘到云端的AI功能。”

高通AI软件栈产品组合还支持一系列工具套件,包括高通AI模型增效工具包(AIMET)、AI开发图形用户界面(GUI)、用于增强量化与优化的模型分析器以及神经网络架构搜索(NAS)。

此前,在2021骁龙技术峰会上,高通和谷歌云宣布将Google Cloud Vertex AI NAS集成至高通神经网络处理SDK,赋能OEM厂商和生态系统创建、测试和部署独特且高效的边缘侧体验。

高通神经网络处理SDK仍然是OEM厂商和开发者在高通技术公司各类产品上运行神经网络的关键,因此将进行定期升级与维护。据称,该工具套件将为高通技术公司建立统一SDK提供基础,从而实现跨智能网联终端部署。