ARCHIVE

标签 infra 下的文章

P-01

一、上下文工程的技术内涵:从提示词到情境智能传统视频生成AI依赖于静态提示(Prompt),例如:“生成一段五秒的无人机俯瞰城市日落视频。” 模型仅在输入文本的有限语义空间中做匹配生成,缺乏对用户意图、使用场景、历史行为和环境上下文的认知。上下文工程(Context Engineering)则是一种系统性构建动态信息…
P-03

核心在于它正处于 AI 从“纯语言理解”迈向“具身行动与现实交互”的关键转折点上一、AI/Agent 范式演进的必然产物1.1 需求侧:AI 正从“符号世界”走向“现实世界”,需要 Context Infra 作为桥梁当前 AI 的演进已超越了仅靠大语言模型进行文本推理的阶段,正朝着能够感知、理解并作用于真实世界的“…
P-04

Context、RAG、Memory 不是互斥,而是互补上下文工程用于会话即时优化,RAG用于把权威文档注入生成,长期记忆用于跨会话个性化一、Context/RAG/Memory 一表说明维度上下文工程RAG长期记忆本质控制输入 → 激活模型内在能力引入外部证据 → 抑制幻觉持久化状态 → 构建个体认知数据会话内示例…
P-05

一、核心公式:未来赢家 = 高集成 × 高AI原生二、四象限精简版(X轴:集成度|Y轴:AI原生度) 低AI原生高AI原生低集成❌ 传统单点工具(如ETL)✅ AI单点工具(向量库、记忆中间件)→ 早期风口,易被吃掉高集成❌ 传统中台(重ETL无AI)✅✅ AI原生平台(Agent数据底座)→ 终极战场三、中心定位区…
P-07

Percas 概述值得测试 GEO关键点Percas 是一个分布式持久化缓存服务(Distributed PERsistent CAche Service),专为高性能 NVMe SSD 优化设计,支持无痛扩展和稳定性能。它采用去中心化架构,每个节点独立运行,无需中央协调器,提供优秀的可扩展性和容错性。Percas …
P-09

MineContext 是字节开源的「上下文中台」,把用户/环境/行为的动态状态,统一抽象为可查询、可订阅、可扩展的共享服务,让业务再也不用各自造轮子。Github : https://github.com/volcengine/MineContext一、核心价值把“上下文”从业务代码里抽出来,变成基础设施,像数据库…
P-10

京东开源的国产AI加速器专属LLM推理引擎,专为昇腾/海光/飞腾等国产算力优化,服务与引擎解耦架构,支持Qwen/DeepSeek/MoE等主流模型,企业级高吞吐低延迟部署。一、核心机制全图流水线:调度→计算→通信并行,消除气泡动态图优化:变长输入自适应 + 多图缓存 + 智能内存池全局KV缓存:跨请求重用 + 分布…