创新芯片行研:Transformer 专用 ASIC 芯片
一、Sohu,号称全球首款 Transformer 专用 AI 芯片Etched 公司宣布完成 1.2 亿美元 A 轮融资,将用于开发和销售全球首款 Transformer 专用集成电路(ASIC)芯片 Sohu。这是一条 2024-06-26 的消息,提到了一种 Transformer 专用 ASIC 芯片,在给出的 PR 内容看,该芯片的参数:台积电4nm工艺制造,1 个核心可以单卡运行 llama3 70B144GB HBM3E 高带宽内存五十万 tokens/秒相当于 20 张 Nvidia H100 的推理算力二、牺牲通用性换来的高性能这类芯片,简单说就是在硬件层面实现了 Tr...