平庸的 AI agents 项目是什么样?1. 架构:Infrastructure - Models - Platform - AgentsInfrastructure:国产算力、异构算力、分布式算力、……Models:支持各种主流大模型,就是没有自己的模型Platform:低代码、无代码、开箱即用、一键直达、……A…
一、太赫兹的特点太赫兹一般指频率在 0.1~10 THz(波长为 3000~30μm)范围内的电磁波,其介于红外光波和微波之间。太赫兹通信就像是一条数据传输的超级高速公路,它不仅拥有红外和可见光那样的宽带宽特性,能够承载海量数据,而且还具备微波那样的无线传输能力。太赫兹通信的优势在于它的频谱资源极其丰富,同时还具备极…
LLM 在企业中的应用,需要获取内部知识和资料,有两种主流的应用方式:Fine-tuning model 模型微调RAG (Retrieval Augmented Generation) 检索增强生成一、模型微调与 RAG 的区别特性描述适合领域RAG (检索增强生成)RAG是一种结合了检索模型和生成模型的框架,用于…
特斯拉在Hot Chips 2024上展示了Tesla Transport Protocol over Ethernet (TTPoE),替代TCP/IP,通过硬件执行点对点传输层协议,优化数据传输效率。用于特斯拉Dojo超级计算机据说性能超过了英伟达的NVLink,详见https://www.servethehom…
UCIe 是什么?UCIe( Universal Chiplet Interconnect Express )是一种开放的行业架构标准,可在不同chiplet之间提供die-to-die之间的接口,解决物理芯片间 I/O 层、芯片间协议和软件堆栈问题,是促进芯片模块化和互操作性的关键技术。UCIe 2.0,最大的进步…
NEO Semiconductor 推出3D X-AI芯片3D X-AI芯片,具有超高密度和容量,单芯片容量达128GB,12枚堆叠后达到192GB,内置 AI 处理器,提供高达 120TB/s 的 AI 处理吞吐量通过在每个 HBM 芯片中执行 A I处理,显著减少了 HBM 和 GPU/CPU 之间传输的数据量,…
一、清华大学:能效超英伟达 H100 全光学 AI 芯片 - 太极-Ⅱ太极-Ⅱ芯片的全前向模式(FFM)允许直接在光学系统中进行计算密集型AI训练,无需复杂的反向传播过程,这可能标志着一种新的计算范式的开始。Fully forward mode training for optical neural networks…
存算一体有三种主流技术路径:近存计算(PNM)、存内处理(PIM)、存内计算(CIM)三种技术路径的共同点和区别特性/概念近存计算 (PNM)存内处理 (PIM)存内计算 (CIM)定义将计算单元放置在存储器附近,以减少数据移动。将处理能力集成到存储器中,使数据在存储时即可进行处理。一种特殊的PIM,专注于在存储介质…
在本文的语境里,NPU 不单指 Neural Processing Unit(神经网络处理器),而是指一类可以独立于 CPU、GPU 存在的 AI 芯片。当前的 AIPC 概念,是指集成了 AI 芯片的 SoC PC,可能会推动一轮硬件升级,但是存量的,数量庞大的“旧” PC 应该怎么办?一、升级思路:PC + AI…
中昊芯英介绍全称:中昊芯英(杭州)科技有限公司创始人:杨龚轶凡,曾在谷歌TPU核心研发团队参与过TPU v2/3/4的设计与研发工作概括:公司已盈利,已经完成了Pre-B、Pre-B+轮融资什么是 GPTPUGPTPU(General-Purpose Tensor Processing Unit)是一种通用目的张量处…