本文主要是介绍2024年AI芯片峰会——AI芯片架构创新专场,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
概述
2024年9月7日于北京举行。
官方链接:
大会官网
正文
对存内计算的思考——戴瑾
面向边缘端大语言模型的RPP架构芯片与落地实践——李原

LLM推理端的特征

边缘计算的特征
来源《联想集团边缘计算白皮书》出炉


Llama2计算过程举例



RPP架构




RPP软件栈

RPP的PPA






AI 芯片架构创新开启打算里第二增长曲线——熊大鹏
模型优化转向应用落地

推理算力占比越来越高


AI芯片的挑战

根源是存储墙,解决数据搬运问题。



算力天花板

突破天花板的路径


路径一:存算一体



亿铸科技产品

超低功耗类脑动态视觉感算系统——乔宁

存算大模型加速系统——孙唐








这篇关于2024年AI芯片峰会——AI芯片架构创新专场的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!