快科技7月9日消息,在近日的信息化百人会上,中国工程院院士、清华大学计算机系教授郑纬民表示,国产AI芯片的核心问题在于生态系统不够完善。
他认为,尽管国产AI芯片在硬件性能上取得了显著进展,但由于软件生态系统的不成熟,导致用户使用体验不佳。
郑纬民强调,算力是大模型产业的主要开销,占据了大模型训练成本的70%以及推理成本的95%。
他指出,如果国产AI芯片生态系统得到改善,哪怕只能达到国外芯片60%的性能,用户也会愿意使用。
他进一步阐释了生态系统的重要性,认为如果一个原本在英伟达平台上开发的人工智能软件能够轻松移植到国产系统上,这就意味着生态系统是良好的。
反之,如果移植过程困难重重,耗时长达一年或两年,那么生态系统就是不成熟的。
为了改善国产AI芯片的生态系统,郑纬民提出了需要做好的“十个软件”,包括编程框架、并行加速、通信库、算子库、AI编译器、编程语言、调度器、内存分配系统、容错系统和存储系统。
他相信,只要这些方面得到优化,即使硬件性能不是顶尖,用户也会因为良好的使用体验而选择使用国产AI芯片。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”