构建云原生 Agentic AI 研究应用：pgvector 与多模态大模型的深度实践

从传统的本地服务器转向容器化的云原生微服务架构，是过去十年软件工程领域最显著的变革。早在 2014 年，我的本科毕业论文是一个基于 C++ 和 Node.js 的图像检索系统，当时使用的是 SURF 描述符和 CIELAB 色彩空间聚类。虽然在当时很先进，但那种单体架构在今天看来已经显得过于笨重。最近，我将这些学术研究的核心概念重新平台化，在 AWS 上构建了一个现代化的云原生架构：Agentic Research App。

在本文中，我们将深入探讨如何实现一个多模态检索增强生成（RAG）流水线。对于开发者而言，生产环境中的 API 延迟和模型稳定性是最大的挑战。在这种情况下，n1n.ai 提供了关键优势，它作为一个高速网关，集成了 OpenAI o3、DeepSeek-V3 和 Claude 3.5 Sonnet 等顶尖模型。使用像 n1n.ai 这样稳定的聚合器，可以确保您的 Agent 工作流在某个供应商出现故障时依然保持韧性。

系统架构概览

为了在处理密集的 AI 计算时保持极速的用户体验，我们将架构划分为以下几个专业层级：

1. 前端与 API 网关：使用 React 和 Remix (Vite) 构建，UI 采用 Tailwind CSS 和 Shadcn UI。
2. 后端逻辑：基于 Node.js 编写，使用自定义的 @greeneyesai/api-utils MVC 框架。
3. AI 集成：通过 Gemini 2.5 Flash 和 GPT-4o 实现多模态能力。对于希望快速扩展的企业，n1n.ai 允许通过单个 API Key 在不同模型间无缝切换。
4. 数据库：PostgreSQL 16 搭配 pgvector 扩展，用于向量相似度搜索。
5. 缓存与消息队列：Redis 用于频率限制和通过服务器发送事件 (SSE) 实现的实时流式输出。

深度解析：使用 pgvector 实现向量搜索

我没有选择昂贵的第三方 SaaS 向量数据库（如 Pinecone），而是将向量搜索直接集成到 Postgres 中。这样做可以减少网络延迟并简化关联查询。以下是在 Alpine Linux 环境下编译 pgvector 的 Dockerfile：

FROM postgres:16-alpine3.19

# 安装构建工具
RUN apk add --no-cache git g++ make musl-dev postgresql-dev

# 编译安装 pgvector v0.6.2
RUN git clone --branch v0.6.2 https://github.com/pgvector/pgvector.git \
    && cd pgvector \
    && make \
    && make install

在数据库层面，我们使用 ivfflat 索引来加速搜索。对于像 text-embedding-3-large 这样的高维向量，余弦距离（<->）是衡量相似度的最佳选择：

CREATE EXTENSION IF NOT EXISTS vector;

CREATE TABLE memory (
    id SERIAL PRIMARY KEY,
    user_id BIGINT NOT NULL,
    content TEXT NOT NULL,
    embedding VECTOR(768),
    created_at TIMESTAMP DEFAULT NOW()
);

-- 创建索引以优化搜索性能
CREATE INDEX memory_embedding_idx ON memory
USING ivfflat (embedding vector_cosine_ops) WITH (lists = 100);

多模态 RAG 流水线的实现

在 2014 年的版本中，提取图片文本需要复杂的 OCR 管道。而今天，我们可以直接利用 GPT-4o 或 Claude 3.5 Sonnet 的多模态能力。当用户上传 PDF 或图片时，后端会将文件 Buffer 转换为 Base64 并发送给 LLM。

专家建议：在追求性价比时，可以使用 DeepSeek-V3 进行大规模文本提取，而在需要复杂逻辑推理时切换到 OpenAI o3。通过 n1n.ai 平台，你可以根据任务类型动态路由请求，从而平衡成本与性能。

protected async extractFileText(file: Multer.File): Promise<string> {
  const base64Data = file.buffer.toString("base64");
  // 通过 n1n.ai 聚合接口调用模型
  const result = await model.generateContent([
    "提取此文件中的所有可读文本。仅输出原始文本。",
    { inlineData: { data: base64Data, mimeType: file.mimetype } },
  ]);
  return result.response.text();
}

Redis 与 SSE 的实时流式传输

为了避免用户在等待模型生成时看到空白页面，我们利用 Redis 的发布/订阅（Pub/Sub）机制配合 SSE 实现流式输出。后端每生成一个 Token，就将其发布到 Redis 频道，SSE 接口订阅该频道并将数据推送至前端。

Agent 的工具调用与人格注入

一个真正的 Agent 需要能够根据上下文调整行为。我们采用了 策略模式 (Strategy Pattern) 来注入不同的人格（Personality）。例如，"Stewie Griffin" 人格会带有一种讽刺且天才的语调，而 "学术助手" 则会保持严谨。

此外，我们集成了外部工具（如 Bing Search）。当 pgvector 中的本地知识库无法提供足够信息时，Agent 会自动触发搜索工具，获取实时网页内容进行补充。这种“Agentic Loop”极大提高了回答的准确性。

AWS Fargate 云原生部署

在生产环境中，稳定性至关重要。我们选择了 AWS Fargate 作为计算引擎，这是一种无服务器的容器服务，无需管理底层 EC2 实例。

• 弹性伸缩：根据 CPU 使用率，系统可在 2 到 16 个实例之间自动缩放，应对 AI 处理的高峰负载。
• 数据库托管：Amazon Aurora PostgreSQL 负责存储向量数据，提供企业级的可用性。
• 成本优化：通过按需缩放，我们将单次 RAG 操作的计算成本降至了不到 0.001 美元。

总结：Agentic 系统的未来

将传统应用现代化为云原生 AI Agent 是技术演进的必然趋势。通过结合 pgvector 的长期记忆能力、Redis 的实时交互能力以及 AWS 的弹性架构，我们可以构建出真正具备理解和执行能力的 AI 研究助手。

对于正在构建此类应用的开发者，管理众多的 API 供应商和监控调用质量往往是最耗时的工作。使用 n1n.ai 这样的 API 聚合服务，不仅能简化代码逻辑，还能显著提升系统的整体稳定性。

立即在 n1n.ai 获取免费 API Key。