NPU 应用场景:PC 的 sidecar,常务副 PC

在本文的语境里,NPU 不单指 Neural Processing Unit(神经网络处理器),而是指一类可以独立于 CPU、GPU 存在的 AI 芯片。当前的 AIPC 概念,是指集成了 AI 芯片的 SoC PC,可能会推动一轮硬件升级,但是存量的,数量庞大的“旧” PC 应该怎么办?一、升级思路:PC + AI sidecar ≈ AIPC1、一种 24 小时在线的独立设备考虑到数据隐私,可以在家庭里部署独立的设备,类似当前市场中的 NAS,集成网盘、相册、本地部署 AI,通过账号系统,实现多设备互联独立算力、供电、存储硬件成本较高下图是国内团队刚刚发布的产品2、一种外挂 NPU ...

抖音/字节发布了自己的 AI 生成音乐服务:海绵音乐:www.haimian.com目前的能力支持 200 字歌词生成不同曲风、情感、男女声的歌曲,封面也是 AI 生成的支持 AI 创作歌词支持根据指定音乐创作相似歌曲支持分享 URL一点使用体验歌曲的完成度挺高,尤其是连歌...

AI 要求新鲜的数据之前的 HTAP 数据库,都是以“轻量级大数据平台”的“底座”名义出现在各种场合,类似“新能源车”中的混动路线,讲究的是:分布式、大容量、高性能。在实际销售过程中,常常会遇到“有更换的必要吗?”这种问题。在 AI 浪潮下,更换 MySQL 的迫切性变得更...

一、AI 大模型的存储系统,突出在需要同时适应 GPU、CPU、NPU等多种芯片算力特点描述具体要求高吞吐数据访问在AI场景中,存储系统需要能够提供高吞吐的数据访问能力,以充分发挥GPU的计算性能例如,在智能制造生产线上通过高精度相机给物品拍照,用缺陷识别模型自动找出质量问...

人工智能模型(软件)与算力(硬件)之间,存在一个由算子、编程语言和编译器构成的开发工具生态,关系如下图:为了增强软硬件之间的协作效率,出现了一类专用的 AI 编程语言和针对 AI 场景优化的编译器,作用是方便开发者使用和协作,并能针对不同硬件做专有的优化。在 NVDIA 的...