Tag: RAG

文本向量化是搜索、推荐与 RAG 共同的地基。本文快速回顾 one-hot、TF-IDF、Word2Vec 等经典方案的思路与局限，重点拆解现代 Embedding 模型的三大支柱：BERT 上下文表示、Sentence-BERT 句向量专用化与对比学习训练范式，并盘点 BGE、GTE、E5、OpenAI text-embedding-3 等主流模型与 MRL、指令前缀等关键技术。

向量语义召回与 BM25 关键词召回的分数天然不可比，混合检索需要一个仲裁者。本文以混合检索为例讲解 RRF（Reciprocal Rank Fusion）算法的公式与 k 常数的数学直觉，并横向对比分数级融合、名次级融合与学习排序三类融合策略的取舍。

从 RAG 知识库到 Agent 长期记忆，从语义搜索到多模态检索，向量数据库已经成为 AI 应用的标准基础设施。本文从一次 RAG 选型经历出发，梳理向量数据库在现有 AI 系统中的六大典型角色，并客观对比 Milvus、Qdrant、Weaviate、Pinecone、Chroma、pgvector、Elasticsearch 等主流方案的定位与适用场景。

深入分享我在 2026 年的全栈与 AI 混合技术栈架构：以 Claude Code 和 Pi Agent 为主力编程助手，以 GLM 为核心基座大模型，以 Python + FastAPI + LangGraph + RAG 为 AI 引擎，并探索 FastMCP、FastGPT 与 RAGFlow 的企业级落地。

当多轮对话聊到 30 甚至 50 轮，滑动窗口滑走了开头的关键约束、全量保留又会挤爆 Token 上下文，RAG 系统该如何破局？深入剖析 Ragent 记忆系统中的增量摘要压缩算法、lastMessageId 水位线推进机制、攒批压缩优化（summaryBatchSize）、Prompt 绝对禁止记录答案的设计哲学以及 Redisson 分布式锁防重实践。

大语言模型 API 天然是无状态的，如何让每次独立的请求表现为连贯自然的连续对话？深入剖析 Ragent 问答流水线阶段一（loadMemory）背后的三层记忆架构、异步并发拉取与容错降级、滑动窗口规整（normalizeHistory）、loadAndAppend 时序避坑以及结构化 Prompt 上下文注入顺序。