大模型行研：算力加速的技术标准 - RDMA
一、什么是 RDMA远程直接内存访问 (RDMA) 是一种允许联网计算机直接访问彼此主内存的技术，无需涉及处理器、缓存或操作系统，是一个由多个公司和组织合作开发的技术标准。这种旁路方法减少了 CPU 负载并降低了延迟，从而实现更快的数据传输速度，非常适合需要高速数据传输的应用，例如高性能计算 (HPC) 集群、数据中心网络和大数据分析。可以这样形象化理解：以前：快速是需要送到大楼的收发室里，再由收发室送到收件人手里，收到收发室大爷的处理能力影响，同时处理的快递数量有限，且有延迟现在：快递从发件人直接送到收件人手里二、RDMA 与 TCP/IP 的区别特性RDMA (远程直接内存访问)TC...