· liyu · algorithm
文本向量化演进：从 Word2Vec 到现代 Embedding 模型
文本向量化是搜索、推荐与 RAG 共同的地基。本文快速回顾 one-hot、TF-IDF、Word2Vec 等经典方案的思路与局限，重点拆解现代 Embedding 模型的三大支柱：BERT 上下文表示、Sentence-BERT 句向量专用化与对比学习训练范式，并盘点 BGE、GTE、E5、OpenAI text-embedding-3 等主流模型与 MRL、指令前缀等关键技术。
Tag: Embedding
- · liyu · tutorials
向量数据库全景：AI 系统的记忆中枢与主流方案横向对比
从 RAG 知识库到 Agent 长期记忆，从语义搜索到多模态检索，向量数据库已经成为 AI 应用的标准基础设施。本文从一次 RAG 选型经历出发，梳理向量数据库在现有 AI 系统中的六大典型角色，并客观对比 Milvus、Qdrant、Weaviate、Pinecone、Chroma、pgvector、Elasticsearch 等主流方案的定位与适用场景。
- · liyu · algorithm
当双塔模型遇见 RAG：召回与检索，殊途同归
搜广推系统中的双塔模型和 RAG 中的向量检索，一个诞生于推荐系统，一个兴起于大模型时代。当我把两者的架构图放在一起时，突然发现它们竟如此相似——本质上都是在向量空间中寻找最近的"灵魂伴侣"。
