创新芯片行研：ReRAM（电阻式随机存取存储器）

一、特点：ReRAM 多用于存算一体架构主要替代 NOR Flash 市场，解决 I/O 问题性能在内存（DRAM）与闪存（NAND Flash & NOR Flash）之间重点要考虑未来推理场景需求远高于训练场景需求二、DRAM、ReRAM、NAND Flash的差异...

大模型行研：GSA - Transformer 类大模型的加速器

一、GSA 是什么GSA (Gated Slot Attention)是一种结合了 Transformer 和 RNN 特点的模型架构，既保留了Transformer的注意力机制，又借鉴了RNN的高效性运算复杂度从抛物线增长变为等比线性增长在需要上下文记忆的任务中表现优异二...

Agora，是一种元协议，可以实现异构大语言模型（LLM）驱动 Agent 智能体之间的高效和可扩展通信https://agoraprotocol.org/一、为什么需要让不同大模型的 agent 能对话在实操中，异构多模型的部署，是一种必然。不同 agent 之间的通信，...

一、核心观点音乐类 AI 应用，本质上是内容消费，不只是大模型的应用内容消费是一种“策展”，组合和顺序也是内容音乐是耐用品，但在单次消费场景里，表现出很强的快销品属性，受到潮流节目或意外事件的传播，音乐被赋予新意义，变成新内容“生成”可以理解成“搜索的召回”，音乐类 AI ...

平庸的 AI agents 项目是什么样？1. 架构：Infrastructure - Models - Platform - AgentsInfrastructure：国产算力、异构算力、分布式算力、……Models：支持各种主流大模型，就是没有自己的模型Platform...

一、太赫兹的特点太赫兹一般指频率在 0.1~10 THz（波长为 3000～30μm）范围内的电磁波，其介于红外光波和微波之间。太赫兹通信就像是一条数据传输的超级高速公路，它不仅拥有红外和可见光那样的宽带宽特性，能够承载海量数据，而且还具备微波那样的无线传输能力。太赫兹通信...

LLM 在企业中的应用，需要获取内部知识和资料，有两种主流的应用方式：Fine-tuning model 模型微调RAG (Retrieval Augmented Generation) 检索增强生成一、模型微调与 RAG 的区别特性描述适合领域RAG (检索增强生成)RA...

特斯拉在Hot Chips 2024上展示了Tesla Transport Protocol over Ethernet (TTPoE)，替代TCP/IP，通过硬件执行点对点传输层协议，优化数据传输效率。用于特斯拉Dojo超级计算机据说性能超过了英伟达的NVLink，详见h...

UCIe 是什么？UCIe（ Universal Chiplet Interconnect Express ）是一种开放的行业架构标准，可在不同chiplet之间提供die-to-die之间的接口，解决物理芯片间 I/O 层、芯片间协议和软件堆栈问题，是促进芯片模块化和互操...