algorithm

文本向量化是搜索、推荐与 RAG 共同的地基。本文快速回顾 one-hot、TF-IDF、Word2Vec 等经典方案的思路与局限，重点拆解现代 Embedding 模型的三大支柱：BERT 上下文表示、Sentence-BERT 句向量专用化与对比学习训练范式，并盘点 BGE、GTE、E5、OpenAI text-embedding-3 等主流模型与 MRL、指令前缀等关键技术。

TF-IDF 用「词频 × 稀缺度」给词打分，是信息检索绕不开的经典。本文快速讲透它的核心原理，重点展开两大应用：搜索系统里的相关性打分，以及把文本变成稀疏向量后的分类、相似度与关键词提取。

向量语义召回与 BM25 关键词召回的分数天然不可比，混合检索需要一个仲裁者。本文以混合检索为例讲解 RRF（Reciprocal Rank Fusion）算法的公式与 k 常数的数学直觉，并横向对比分数级融合、名次级融合与学习排序三类融合策略的取舍。

从暴力 KNN 的 O(N × D) 算力瓶颈，到 IVF、HNSW、IVF-PQ 的亚线性近似检索原理；从搜广推全链路端到端 SLA 预算分配，到工业级向量索引在维度、内存、动态更新与属性过滤下的全景选型决策。

搜广推系统中的双塔模型和 RAG 中的向量检索，一个诞生于推荐系统，一个兴起于大模型时代。当我把两者的架构图放在一起时，突然发现它们竟如此相似——本质上都是在向量空间中寻找最近的"灵魂伴侣"。

在搜广推系统中，搜索是最核心的能力之一。本文从信息检索的经典算法 TF-IDF 出发，深入剖析其原理与局限，再引出工业界广泛使用的 BM25 算法，探讨它如何优雅地解决 TF-IDF 的不足。