ai
3 篇-
我们真的需要专门的向量数据库吗?
随着大语言模型(LLM)的普及,向量数据库也成为了热门话题。只需寥寥几行简单的 Python 代码,向量数据库就能充当 LLM 廉价却高效的“外挂大脑”。但我们真的需要一个专门的向量数据库吗? 为什么 LLM 需要向量搜索? 首先,让我简要介绍一下为什么 LLM 需要使用向量搜索技术。向量搜索是一个存在已久的问题:给定一个对象,在集合中找出与之最相似对象的过程就是向量搜索。文本、图像等都可以转换为向量表示,从而将文本或图像的相似性问题转化为向量相似性问题。 文本搜索(图片来源) 在上面的例子中, …
随着大语言模型(LLM)的普及,向量数据库也成为了热门话题。只需寥寥几行简单的 Python 代码,向量数据库就能充当 LLM 廉价却高效的“外挂大脑”。但我们真的需要一个专门的向量数据库吗? 为什么 LLM 需要向量搜索? 首先,让我简要介绍一下为什么 LLM 需要使用向量搜索技术。向量搜索是一个存在已久的问题:给定一个对象,在集合中找出与之最相似对象的过程就是向量搜索。文本、图像等都可以转换为向量表示,从而将文本或图像的相似性问题转化为向量相似性问题。 文本搜索(图片来源) 在上面的例子中, …
-
使用 pgvecto.rs 在 LangChain 中构建大语言模型应用
LangChain 是一个用于开发由语言模型驱动的应用程序的框架。它使应用程序能够: 具备上下文感知能力:将语言模型连接到各种上下文来源(提示词指令、少样本示例、作为回答依据的业务内容等)。 进行推理:依靠语言模型进行推理(例如如何根据提供的上下文作答、应当采取什么行动等)。 pgvecto.rs 是 Postgres 中的一款向量搜索扩展。在本篇博客中,我们将向你展示如何使用 LangChain 和 pgvecto.rs 构建 LLM 应用程序。 安装依赖 使用 LangChain 集成需要安 …
LangChain 是一个用于开发由语言模型驱动的应用程序的框架。它使应用程序能够: 具备上下文感知能力:将语言模型连接到各种上下文来源(提示词指令、少样本示例、作为回答依据的业务内容等)。 进行推理:依靠语言模型进行推理(例如如何根据提供的上下文作答、应当采取什么行动等)。 pgvecto.rs 是 Postgres 中的一款向量搜索扩展。在本篇博客中,我们将向你展示如何使用 LangChain 和 pgvecto.rs 构建 LLM 应用程序。 安装依赖 使用 LangChain 集成需要安 …
-
使用 LlamaIndex 与 pgvecto.rs 构建 RAG 流水线
LlamaIndex 是一个简单、灵活的数据框架,用于将自定义数据源连接到大语言模型(LLM)。 pgvecto.rs 提供了 LlamaIndex 集成,允许你快速检索最相似的向量。在本篇博客中,我们将向你展示如何使用 pgvecto.rs 和 LlamaIndex 构建一套 RAG 流水线。 安装依赖 使用 LlamaIndex 集成需要安装以下依赖项: pip install llama-index "pgvecto_rs[sdk]" 你可以在 Docker 容器中启动安装了 …
LlamaIndex 是一个简单、灵活的数据框架,用于将自定义数据源连接到大语言模型(LLM)。 pgvecto.rs 提供了 LlamaIndex 集成,允许你快速检索最相似的向量。在本篇博客中,我们将向你展示如何使用 pgvecto.rs 和 LlamaIndex 构建一套 RAG 流水线。 安装依赖 使用 LlamaIndex 集成需要安装以下依赖项: pip install llama-index "pgvecto_rs[sdk]" 你可以在 Docker 容器中启动安装了 …