文本向量化演进:从 Word2Vec 到现代 Embedding 模型
文本向量化是搜索、推荐与 RAG 共同的地基。本文快速回顾 one-hot、TF-IDF、Word2Vec 等经典方案的思路与局限,重点拆解现代 Embedding 模型的三大支柱:BERT 上下文表示、Sentence-BERT 句向量专用化与对比学习训练范式,并盘点 BGE、GTE、E5、OpenAI text-embedding-3 等主流模型与 MRL、指令前缀等关键技术。
军工 · Agent 技术调研(实习)
2026年7月 - 2026年8月
参与军工领域 Agent 技术方向的调研与技术预研。
医疗 · AI 应用开发(实习)
2025年10月 - 2026年5月
参与医疗健康领域的 AI 应用开发,积累了 AI 落地的实践经验。
硕士 · 软件工程
安徽
2024年9月 - 至今
研究方向:OCR、信息抽取、时间序列。
本科 · 数据科学与大数据技术
福建
2020年9月 - 2024年6月
系统学习计算机科学基础与大数据技术。
不断学习,不断进化。以下是我目前深耕的技术方向。
熟练掌握 Java 生态,具备扎实的后端架构与微服务开发能力。
精通 Python,能够进行数据处理与深度学习模型训练。
掌握现代前端技术栈,构建高性能、高交互体验 Web 应用。
拥有丰富的跨平台应用开发经验,实现一次开发多端部署。
深入探索智能体开发框架,构建具有复杂推理能力的 AI Agent。
关注并实践大语言模型的微调、提示词工程及算法优化。
熟悉服务器部署流程与自动化运维,保障系统稳定运行。
具备扎实的计算机网络底层基础,解决复杂网络通信问题。
了解推荐系统、广告系统与搜索引擎的核心机制与算法。
分享我在全栈开发、AI/Agent、网络安全等领域的技术探索与思考。
文本向量化是搜索、推荐与 RAG 共同的地基。本文快速回顾 one-hot、TF-IDF、Word2Vec 等经典方案的思路与局限,重点拆解现代 Embedding 模型的三大支柱:BERT 上下文表示、Sentence-BERT 句向量专用化与对比学习训练范式,并盘点 BGE、GTE、E5、OpenAI text-embedding-3 等主流模型与 MRL、指令前缀等关键技术。
TF-IDF 用「词频 × 稀缺度」给词打分,是信息检索绕不开的经典。本文快速讲透它的核心原理,重点展开两大应用:搜索系统里的相关性打分,以及把文本变成稀疏向量后的分类、相似度与关键词提取。
向量语义召回与 BM25 关键词召回的分数天然不可比,混合检索需要一个仲裁者。本文以混合检索为例讲解 RRF(Reciprocal Rank Fusion)算法的公式与 k 常数的数学直觉,并横向对比分数级融合、名次级融合与学习排序三类融合策略的取舍。
从 RAG 知识库到 Agent 长期记忆,从语义搜索到多模态检索,向量数据库已经成为 AI 应用的标准基础设施。本文从一次 RAG 选型经历出发,梳理向量数据库在现有 AI 系统中的六大典型角色,并客观对比 Milvus、Qdrant、Weaviate、Pinecone、Chroma、pgvector、Elasticsearch 等主流方案的定位与适用场景。
无论是技术交流、项目合作还是单纯的想法碰撞,都欢迎联系我。