早已准备好的 AI 高速公路基建原料

1. 简化的 AI 高速公路架构图

simple-highway-structure.png

  • 不同的客户端,可以从 AI 路由中,从不同的 AI 算力中心获得服务
  • AI 算力中心可以是机房,也可以是个人部署在网络中的设备,如 AI 算力盒子

2. 互联网上什么都有

2.0 稍稍复杂的 AI 高速公路架构图

simple-plus-highway-structure.png

  • AI 的能力,组装成 workflow
  • AI API 路由到不同的算力中心,也包括路由到不同的模型
  • 完成计费和支付,完成 AI 模型帮你赚钱

如果不好理解,可以参考 BT/PT 下载的模型,用自己的计算机做种子,上传文件,获得积分,获得更快的下载速度

2.1 AI 算力盒子

各类厂商都推出了 AI 算力盒子,有大玩家英伟达高通等,也有创客玩家,还有各种服务器厂商。
highway-for-AI-NVIDIA-Jetson.png
highway-for-AI-ZimaCube.png
highway-for-AI-ai-in-box.png

在国内,会存在一个国产化算力盒子的市场,供国产芯片,尤其是国产显卡变现,主要客户应该是数据合规要求高的政企客户

  • 模型推理对算力要求不如训练高
  • 高端制程的限制,还没有蔓延到推理芯片

2.2 模型部署

如:https://ollama.com/download
还有各类 AI 模型的本地化部署工具

2.3 AI workflow

如:

2.4 AI 客户端

  • 各种本地客户端,如 chatbox、chatx、opencat等
  • 各种web服务,如 poe.com
  • 浏览器插件,如 chathub、monica等

不同玩家在 AI 高速公路的策略

1. 玩家

  • 小开发者:从 C 端进入市场,重要的是用户数
  • 大玩家:算力中心一侧进入市场,重要的是基建资源

2. 商业化,谁来付费

  • 大模型的开发者(大厂)

    • 在市场启动期,推广自家模型的需求:广告费
    • 在市场繁荣期,降低使用成本的需求:购买边缘算力
  • 显卡厂商

    • 主要是规模化销售芯片的需求:广告费
    • 同时也可以是运营算力网络的收益者
  • 电信运营商

    • 闲置算力变现,包装新产品线,提升股价:广告费
  • 个人用户,长期看是埋单的人

标签:产品, AI, AIGC

评论已关闭