建设 AI agents 的高速公路(2)
早已准备好的 AI 高速公路基建原料
1. 简化的 AI 高速公路架构图
- 不同的客户端,可以从 AI 路由中,从不同的 AI 算力中心获得服务
- AI 算力中心可以是机房,也可以是个人部署在网络中的设备,如 AI 算力盒子
2. 互联网上什么都有
2.0 稍稍复杂的 AI 高速公路架构图
- AI 的能力,组装成 workflow
- AI API 路由到不同的算力中心,也包括路由到不同的模型
- 完成计费和支付,完成 AI 模型帮你赚钱
如果不好理解,可以参考 BT/PT 下载的模型,用自己的计算机做种子,上传文件,获得积分,获得更快的下载速度
2.1 AI 算力盒子
各类厂商都推出了 AI 算力盒子,有大玩家英伟达和高通等,也有创客玩家,还有各种服务器厂商。
在国内,会存在一个国产化算力盒子的市场,供国产芯片,尤其是国产显卡变现,主要客户应该是数据合规要求高的政企客户
- 模型推理对算力要求不如训练高
- 高端制程的限制,还没有蔓延到推理芯片
2.2 模型部署
如:https://ollama.com/download
还有各类 AI 模型的本地化部署工具
2.3 AI workflow
如:
- https://zapier.com/
- https://www.langchain.com/
- 各类低代码形式的 AI 工具
2.4 AI 客户端
- 各种本地客户端,如 chatbox、chatx、opencat等
- 各种web服务,如 poe.com
- 浏览器插件,如 chathub、monica等
不同玩家在 AI 高速公路的策略
1. 玩家
- 小开发者:从 C 端进入市场,重要的是用户数
- 大玩家:算力中心一侧进入市场,重要的是基建资源
2. 商业化,谁来付费
大模型的开发者(大厂)
- 在市场启动期,推广自家模型的需求:广告费
- 在市场繁荣期,降低使用成本的需求:购买边缘算力
显卡厂商
- 主要是规模化销售芯片的需求:广告费
- 同时也可以是运营算力网络的收益者
电信运营商
- 闲置算力变现,包装新产品线,提升股价:广告费
- 个人用户,长期看是埋单的人