创新芯片行研：二维存算一体器件实现AI训推一体 - TIIO架构
内容来自南京大学2023-03-21：https://scit.nju.edu.cn/47/d7/c10927a608215/page.htm一、TIIO架构的核心问题是什么？当前AI技术面临两个根本性瓶颈：能效比低：基于冯·诺依曼架构的GPU在支持像ChatGPT这类高算力模型时，消耗巨大电能（日耗77,160 kWh），远超多数国家的日发电量。硬件限制边缘端AI发展：传统计算架构将数据存储与处理分离，导致大量能耗和延迟集中在数据传输上。更重要的是，目前的硬件难以同时满足“训练”和“推理”两种不同需求。本质矛盾：推理要求高稳定性、低翻转频率；训练要求高耐久性、快速写入。——这两个需求在...