vectorsearch
5 篇-
我们如何在 PostgreSQL 上实现 20 分钟构建 1 亿向量索引
1. 引言 在过去几个月里,我们收到了来自用户和合作伙伴的一致反馈:尽管我们提供可扩展、高性能 pgvector 替代方案的目标广受好评,但在十亿级规模下,索引构建时间和内存占用仍然是大家关注的主要痛点。 现在,VectorChord 可以在一台仅配备 12 GB 内存的 16 vCPU 机器上,在 20 分钟内为 1 亿个 768 维向量构建索引。相比之下,使用 pgvector 为相同规模的数据构建索引,在 16 核实例上需要大约 200 GB 内存和约 40 小时。而且当内存不足时 …
1. 引言 在过去几个月里,我们收到了来自用户和合作伙伴的一致反馈:尽管我们提供可扩展、高性能 pgvector 替代方案的目标广受好评,但在十亿级规模下,索引构建时间和内存占用仍然是大家关注的主要痛点。 现在,VectorChord 可以在一台仅配备 12 GB 内存的 16 vCPU 机器上,在 20 分钟内为 1 亿个 768 维向量构建索引。相比之下,使用 pgvector 为相同规模的数据构建索引,在 16 核实例上需要大约 200 GB 内存和约 40 小时。而且当内存不足时 …
-
推出 Vechord:以 Pythonic 的方式将 PostgreSQL 打造成你的搜索引擎
今天,我们非常激动地宣布发布 Vechord——一个全新的 Python 库,旨在大幅简化直接在 PostgreSQL 数据库之上构建稳健搜索基础设施的流程。 在人工智能与大语言模型(LLM)飞速发展的今天,检索增强生成(RAG)和语义搜索已成为不可或缺的核心组件。然而,搭建所需的向量搜索基础设施往往意味着学习全新的数据库技术、管理复杂的系统集成,或是与繁琐的框架搏斗。这不仅增加了研发摩擦,还会拖慢开发进度,对于已经熟悉 PostgreSQL 的团队而言尤为如此。 挑战:混合搜索的复杂性 构建搜 …
今天,我们非常激动地宣布发布 Vechord——一个全新的 Python 库,旨在大幅简化直接在 PostgreSQL 数据库之上构建稳健搜索基础设施的流程。 在人工智能与大语言模型(LLM)飞速发展的今天,检索增强生成(RAG)和语义搜索已成为不可或缺的核心组件。然而,搭建所需的向量搜索基础设施往往意味着学习全新的数据库技术、管理复杂的系统集成,或是与繁琐的框架搏斗。这不仅增加了研发摩擦,还会拖慢开发进度,对于已经熟悉 PostgreSQL 的团队而言尤为如此。 挑战:混合搜索的复杂性 构建搜 …
-
使用 VectorChord 在 PostgreSQL 中实现 10,000 QPS 的向量搜索
VectorChord 是一款专为可扩展、高性能且磁盘友好的向量相似度搜索而设计的 PostgreSQL 扩展,也是 pgvecto.rs 的继任者。在我们之前的博客文章中,我们展示了仅需每月 $250 的成本,VectorChord 就能在 1 亿规模的向量数据集上以 0.95 的精度实现 131 QPS——展现了大规模向量搜索中令人印象深刻的高性价比。 在此基础上,本文将聚焦于极致性能,探讨如何借助 VectorChord 在 PostgreSQL 中实现 10,000 QPS。我们将为您详 …
VectorChord 是一款专为可扩展、高性能且磁盘友好的向量相似度搜索而设计的 PostgreSQL 扩展,也是 pgvecto.rs 的继任者。在我们之前的博客文章中,我们展示了仅需每月 $250 的成本,VectorChord 就能在 1 亿规模的向量数据集上以 0.95 的精度实现 131 QPS——展现了大规模向量搜索中令人印象深刻的高性价比。 在此基础上,本文将聚焦于极致性能,探讨如何借助 VectorChord 在 PostgreSQL 中实现 10,000 QPS。我们将为您详 …
-
VectorChord 外部聚类中心构建的优势与操作步骤
聚类(Clustering)是向量搜索中的重要组成部分,而 K-means 算法依然是目前应用最广泛的技术之一。然而,它的简洁性也伴随着一个显著的缺点:密集的计算资源消耗使其在处理大规模数据集时往往力不从心。本文将探讨这一挑战产生的原因,并介绍如何利用外部构建(External Builds)来克服它,同时分享我们在实现这一方案过程中的技术洞察。 为什么需要外部构建 VectorChord 使用 IVF + RaBitQ 来执行向量搜索。IVF 聚类簇的质量会直接影响搜索精度和速度 …
聚类(Clustering)是向量搜索中的重要组成部分,而 K-means 算法依然是目前应用最广泛的技术之一。然而,它的简洁性也伴随着一个显著的缺点:密集的计算资源消耗使其在处理大规模数据集时往往力不从心。本文将探讨这一挑战产生的原因,并介绍如何利用外部构建(External Builds)来克服它,同时分享我们在实现这一方案过程中的技术洞察。 为什么需要外部构建 VectorChord 使用 IVF + RaBitQ 来执行向量搜索。IVF 聚类簇的质量会直接影响搜索精度和速度 …
-
pgvecto.rs 0.2:在 PostgreSQL 中统一关系型查询与向量搜索
我们很高兴地宣布发布 pgvecto.rs 0.2,这是弥合 PostgreSQL 中关系型查询与向量搜索之间鸿沟的重要里程碑。此次更新将两者的强大能力融为一体,不仅提升了执行效率,还支持在 PostgreSQL 内部直接运行复杂的混合查询。 过去,开发者和数据科学家不得不面对分别管理关系型查询系统和向量搜索系统的严峻挑战,这带来了额外的系统复杂度与资源开销。而在 pgvecto.rs 0.2 中,我们通过集成来自 OSDI 2023 的前沿 VBASE 方法解决了这一难题,大幅提升了 …
我们很高兴地宣布发布 pgvecto.rs 0.2,这是弥合 PostgreSQL 中关系型查询与向量搜索之间鸿沟的重要里程碑。此次更新将两者的强大能力融为一体,不仅提升了执行效率,还支持在 PostgreSQL 内部直接运行复杂的混合查询。 过去,开发者和数据科学家不得不面对分别管理关系型查询系统和向量搜索系统的严峻挑战,这带来了额外的系统复杂度与资源开销。而在 pgvecto.rs 0.2 中,我们通过集成来自 OSDI 2023 的前沿 VBASE 方法解决了这一难题,大幅提升了 …