Sluke的夹生饭 - 算力
type: channel
link: https://luweiqing.com/tag/%E7%AE%97%E5%8A%9B/
items: AI Infra：中美大模型研发工程范式的异同研究
items: 比特币成为算力大宗商品交易凭证的可能性

AI Infra：中美大模型研发工程范式的异同研究
type: item
date: 2026-01-11T23:59:00+08:00
description: 中美现在的大模型研发工程差异，历史上出现过相似的结构，就是冷战时期美苏武器研发路线的差异。美苏两条路线的核心差异在于资源禀赋与工程哲学：美国追求“宽裕可靠”，苏联追求“极致效率”一、美苏武器研发路线的经典差异冷战期间，美苏在高性能武器（尤其是航空、导弹、坦克等领域）的研发确实形成了鲜明对比：美国路线：模块化、冗余与“货架产品”导向 美国拥有更雄厚的工业基础和供应链优势，倾向于使用成熟的商用现成组件（COTS），强调系统整体的可靠性和可维护性。单个子系统（如发动机、航电、雷达）往往追求最高技术指标，并留有较大冗余裕度。即使某部件失效，整体性能也不会大幅下降。典型例子包括F-15战斗机、M1 Abrams坦克：重量大、油耗高、维护成本高，但战场生存力和持续作战能力极强。（F-15 甚至有一侧机翼损坏，但仍然返航的奇迹。）苏联路线：系统优化、极限压榨与定制化巧思 苏联受资源约束更大，工业体系相对封闭，因此更注重整体系统工程，将每个部件的性能潜力压榨到极限，常通过巧妙的设计创新弥补单一组件的差距。定制化程度高，容错裕度小，一旦关键部件出问题可能导致整体失效。典型例子包括MiG-25拦截机（用不锈钢而非钛合金大幅降低成本却实现极高速度）、T-72坦克（自动装弹机大幅减重但牺牲了部分安全性）。这种路线在特定指标上经常实现“弯道超车”，但长期可靠性和升级潜力较弱。将这一模式映射到2023–2026年间的中美大模型竞争，确实存在高度结构上的相似性：美国路线：算力充裕、组件顶尖、体系冗余 OpenAI、Google、Anthropic、Meta等美国机构拥有最先进的NVIDIA H100/H200/Blackwell系列芯片供应链，几乎无限制地堆叠算力。模型设计倾向于使用超大规模参数（GPT-4系列、Gemini Ultra、Llama 3等动辄千亿至万亿参数），训练时留有较大安全裕度（如多卡冗余、分布式容错）。单个组件（如Transformer架构、RLHF对齐技术、数据清洗流水线）都代表当前最高水准，整体体系强调通用性、易部署性和生态兼容性（大量开源、API标准化）。结果是模型在广谱通用任务上表现稳健，但单位算力效率并非最高。中国路线：系统优化、资源受限下的极限压榨受实体清单限制，中国企业（百度文心、阿里通义、字节豆包、智谱GLM、DeepSeek、MiniMax等）难以获取最顶级海外芯片，大量依赖华为昇腾、壁仞、寒武纪等国产算力平台。在这种约束下，中国团队更倾向于全栈系统工程优化：模型压缩（量化、稀疏化、蒸馏）、高效训练算法（FlashAttention变种、ZeRO优化深化）、架构创新（如MoE混合专家模型的深度应用、RWKV等非Transformer探索）、以及数据合成与清洗的极致工程。DeepSeek、Qwen系列等模型在同等显存下往往实现更高有效性能，单位算力性价比突出，体现出强烈的“压榨每一滴性能”的特征。二、中美差异来源于算力供给差异中美模型研发路线的差异，本质上是算力预算不同所诱导的最优工程解不同；算力规模决定了模型设计的自由度、容错率与组织形态，从而系统性地塑造了研发范式。2.1 算力不是资源，而是“设计自由度”当算力足够大时，你获得的不是线性放大的性能，而是额外的设计自由度：2.1.1 可以容忍“非最优”更大的模型更长的上下文更冗余的数据更宽松的超参更频繁的失败实验这会自然推动：通用大模型模块化系统工程冗余平台化研发也就是前面所说的“货架产品”路线。2.1.2 算力受限时，最优解变得“尖锐”在算力、卡型、互联受限的条件下：模型结构选择空间急剧收缩每一层、每一参数的性价比都变得重要“浪费”直接变成不可承受的失败于是研发自然演化为：端到端系统工程定制化结构极限压榨效率高耦合设计这正是“苏联式 / 中国式”的系统工程路径。2.2 算力规模如何具体塑造模型路线2.2.1. Scaling Law 的“使用方式”不同高算力环境：Scaling law 是“放心的保险”，可以用更粗的方式逼近最优（加参数、加数据）。受限算力环境：Scaling law 要求必须在给定预算下求最优点。这直接导致：前者偏好 模型规模驱动后者偏好 效率驱动（架构 / 数据 / 训练技巧）2.2.2 数据策略的差异算力充裕 → 可以：用更嘈杂的数据容忍重复与低质量后处理弥补缺陷算力受限 → 必须：精挑高信噪比数据强化数据配比、课程学习用数据结构代替参数规模于是出现：数据蒸馏合成数据闭环高价值数据的“系统设计”2.2.3 工程容错率差异算力规模决定了实验失败的成本和试错的并行度，这会反过来塑造组织行为：高算力 → 大团队、并行试错、平台化低算力 → 小团队、专家驱动、一次成型这点和美苏军工体系几乎一一对应，两边都会出现极其优秀的设计和产品。2.3 进入某条路线…

比特币成为算力大宗商品交易凭证的可能性
type: item
date: 2018-01-25T14:33:00+08:00
description: 算力是否可以被视为一种大宗商品引用一下百度百科的定义在金融投资市场，大宗商品指同质化、可交易、被广泛作为工业基础原材料的商品，如原油、有色金属、钢铁、农产品、铁矿石、煤炭等。包括3个类别，即能源商品、基础原材料和农副产品。以用大宗商品的几个特点来对照算力：传统大宗商品算力需求量大现代信息工业的基石之一原产地受能源供给限制，算力的分布集中原材料现代信息工业的基石之一国家统一限价能源价格受到国家监管影响国计民生超算甚至是国家实力的象征之一影响算力价格的因素价格受到成本和需求的影响成本因素能源价格，在根源上，算力也可以视作能源大宗商品的一个衍生品，正因为如此，能源的区域性和时间性价格差异，使得算力交易存在套利空间，形成期货市场。设备价格（算法视为加工工艺，不算在内），科技的进步会带来设备效率的提升，出现剧烈影响算力价格的情况。因为存在期货市场，研发新型设备和新型算法有了更强的经济动力。需求因素现代工业对计算能力的需求，在很长的时期里，都会保持高速增长。算力的无差别性，使得不需要对算力进行分级（需要分类，一些特殊计算机执行特殊算法有极高的效率，但并非通用算力），在全球市场的流通不存在障碍。比特币成为算力交易的等价物比特币（或者设计其他区块链服务）的获得，消耗了一定数量的算力，且获得难度递增，总量受限，与黄金有相似之处。无差别的人类劳动获取黄金，类比无差别的算力获取比特币。比特币总量固定，天然避免了通货膨胀计算设备的效率提升，带来了算力成本下降，单位货币等价的算力上升，抵御因为货币供给稀缺造成的价格畸形现代工业对算力的需求膨胀，可以在算力提升的情况下，保持对流通货币量的稳定需求比特币交易所的存在，提供了算力变现的一种日常通道算力期货市场的存在，有利于清洁可再生能源的利用和全球分配，全球市场会呈现出算力生产方和需求方都分布广泛，相对集中的态势。脑洞在未来，比特币这样的产品，会不会成为人工智能个体之间的货币呢？