一、特点：ReRAM 多用于存算一体架构主要替代 NOR Flash 市场，解决 I/O 问题性能在 内存（DRAM）与 闪存（NAND Flash & NOR Flash）之间重点要考虑未来推理场景需求远高于训练场景需求二、DRAM、ReRAM、NAND Flash的差异特性DRAM（动态随机存取存储器）ReRAM…
一、GSA 是什么GSA (Gated Slot Attention)是一种结合了 Transformer 和 RNN 特点的模型架构，既保留了Transformer的注意力机制，又借鉴了RNN的高效性运算复杂度从抛物线增长变为等比线性增长在需要上下文记忆的任务中表现优异二、GSA 能做什么：Transformer …
Agora，是一种元协议，可以实现异构大语言模型（LLM）驱动 Agent 智能体之间的高效和可扩展通信https://agoraprotocol.org/一、为什么需要让不同大模型的 agent 能对话在实操中，异构多模型的部署，是一种必然。不同 agent 之间的通信，既会发生在同企业的不同部门之间，也会发生在不…
一、核心观点音乐类 AI 应用，本质上是内容消费，不只是大模型的应用内容消费是一种“策展”，组合和顺序也是内容音乐是耐用品，但在单次消费场景里，表现出很强的快销品属性，受到潮流节目或意外事件的传播，音乐被赋予新意义，变成新内容“生成”可以理解成“搜索的召回”，音乐类 AI 应用召回 playlist，作为个性化推荐，…
平庸的 AI agents 项目是什么样？1. 架构：Infrastructure - Models - Platform - AgentsInfrastructure：国产算力、异构算力、分布式算力、……Models：支持各种主流大模型，就是没有自己的模型Platform：低代码、无代码、开箱即用、一键直达、……A…
一、太赫兹的特点太赫兹一般指频率在 0.1~10 THz（波长为 3000～30μm）范围内的电磁波，其介于红外光波和微波之间。太赫兹通信就像是一条数据传输的超级高速公路，它不仅拥有红外和可见光那样的宽带宽特性，能够承载海量数据，而且还具备微波那样的无线传输能力。太赫兹通信的优势在于它的频谱资源极其丰富，同时还具备极…
LLM 在企业中的应用，需要获取内部知识和资料，有两种主流的应用方式：Fine-tuning model 模型微调RAG (Retrieval Augmented Generation) 检索增强生成一、模型微调与 RAG 的区别特性描述适合领域RAG (检索增强生成)RAG是一种结合了检索模型和生成模型的框架，用于…
特斯拉在Hot Chips 2024上展示了Tesla Transport Protocol over Ethernet (TTPoE)，替代TCP/IP，通过硬件执行点对点传输层协议，优化数据传输效率。用于特斯拉Dojo超级计算机据说性能超过了英伟达的NVLink，详见https://www.servethehom…
UCIe 是什么？UCIe（ Universal Chiplet Interconnect Express ）是一种开放的行业架构标准，可在不同chiplet之间提供die-to-die之间的接口，解决物理芯片间 I/O 层、芯片间协议和软件堆栈问题，是促进芯片模块化和互操作性的关键技术。UCIe 2.0，最大的进步…
NEO Semiconductor 推出3D X-AI芯片3D X-AI芯片，具有超高密度和容量，单芯片容量达128GB，12枚堆叠后达到192GB，内置 AI 处理器，提供高达 120TB/s 的 AI 处理吞吐量通过在每个 HBM 芯片中执行 A I处理，显著减少了 HBM 和 GPU/CPU 之间传输的数据量，…