从零开始构建自定义 LLM 记忆层：开发者完整实现指南

作者
  • avatar
    姓名
    Nino
    职业
    Senior Tech Editor

当前主流的大语言模型（LLM），如 DeepSeek-V3、Claude 3.5 Sonnet 以及 OpenAI o3，本质上都是“无状态”的。这意味着每一次 API 调用都是独立的，除非开发者将之前的对话历史重新发送给模型。虽然长上下文窗口（Context Window）在一定程度上缓解了这个问题，但其高昂的 Token 成本和随之而来的推理延迟使得它并非长久之计。为了构建真正的智能体（AI Agent）或个性化助手，开发者必须实现一套自定义的“记忆层”。

本文将详细介绍如何从底层构建一套结合语义搜索、时间衰减和自动摘要的 LLM 记忆系统。通过 n1n.ai 提供的稳定 API 接口，我们可以高效地实现这一目标。

1. 记忆系统的三层架构

一个完善的 LLM 记忆层不应只是简单的聊天记录存储，而应模仿人类的认知结构：

  • 短期记忆（情节记忆）：存储当前的对话流。通常通过保留最近的 5 到 10 条消息来实现。这是模型保持当前任务焦点的关键。
  • 长期记忆（语义记忆）：存储事实、用户偏好和历史背景。这需要利用向量数据库和检索增强生成（RAG）技术。
  • 过程记忆：存储模型学到的“操作方法”，例如调用特定工具的参数偏好。

在构建这些功能时，使用 n1n.ai 能够确保您在不同模型之间切换时，记忆提取的逻辑保持一致且高效。

2. 核心组件：嵌入（Embedding）生成

记忆的第一步是将文本转化为向量。嵌入模型决定了记忆检索的准确性。通过 n1n.ai，您可以访问业界领先的嵌入模型（如 text-embedding-3-small 或 bge-m3）。

以下是使用 Python 实现的简单嵌入获取函数：

import requests

def fetch_embedding(text, api_key):
    # 使用 n1n.ai 统一 API 接口
    endpoint = "https://api.n1n.ai/v1/embeddings"
    headers = {"Authorization": f"Bearer {api_key}"}
    data = {"input": text, "model": "text-embedding-3-small"}
    resp = requests.post(endpoint, json=data, headers=headers)
    return resp.json()["data"][0]["embedding"]

3. 向量存储与元数据管理

仅仅存储向量是不够的。为了实现智能检索，您需要在向量数据库（如 ChromaDB, Qdrant 或 Milvus）中为每个记忆块添加元数据（Metadata）。

关键字段建议：

  • timestamp: 用于计算记忆的新鲜度。
  • importance: 由 LLM 预先评估的记忆权重。
  • user_id: 实现多用户隔离。
  • summary: 原始文本的精简版。

4. 检索算法：平衡相关性与时效性

这是构建自定义记忆层最困难的部分。单纯的余弦相似度（Cosine Similarity）往往会找回陈旧的信息。我们需要引入“时间衰减因子”。

计算公式示例： 最终得分 = (语义相关度 * 0.6) + (时间权重 * 0.4)

其中时间权重可以根据 exp(-lambda * t) 计算，其中 t 是记忆产生至今的时间。这种方法能确保模型既能“记起”相关的旧知识，又能优先关注“最近”发生的变动。

5. 记忆的压缩与固化（Summarization）

随着对话的深入，向量数据库中的数据量会呈指数级增长。如果不进行管理，检索出的上下文将很快超出模型的处理限制。我们需要一个异步任务来执行“记忆固化”：

  1. 聚类分析：将语义相近的多个记忆碎片归为一类。
  2. 自动摘要：调用 n1n.ai 上的低成本模型（如 GPT-4o-mini），将多条琐碎信息合成一条结构化的事实。
  3. 遗忘机制：对于访问频率极低且重要性评分低于阈值的记忆进行清理。

6. 实战流程：LLM 与记忆层的交互循环

一个完整的交互周期如下：

  1. 输入解析：接收用户 Prompt，并提取关键词。
  2. 记忆检索：从向量库中提取 Top-K 条相关且新鲜的记忆。
  3. 上下文注入：将记忆格式化为 System Prompt 的一部分。例如："已知背景：用户在 2 天前提到过他不喜欢吃香菜。"
  4. 模型推理：通过 n1n.ai 调用 DeepSeek-V3 或 Claude 3.5 生成响应。
  5. 反思与存储：分析本次对话是否有新信息值得存入长期记忆，并更新数据库。

7. 性能优化与成本控制

在生产环境中，频繁的嵌入计算和向量搜索会增加延迟。为了保证响应速度 < 2 秒，建议采取以下措施：

  • 缓存层：对高频查询的 Embedding 结果进行 Redis 缓存。
  • 异步写入：将记忆存储操作放在主响应流程之外，使用消息队列异步处理。
  • 统一网关：利用 n1n.ai 的高并发能力，避免在高峰期出现 API 请求堆积。

总结

构建自定义 LLM 记忆层是通往通用人工智能（AGI）应用的关键一步。它不仅解决了模型“健忘”的问题，还通过数据积累实现了真正的个性化服务。结合 n1n.ai 强大的模型聚合能力，开发者可以更专注于业务逻辑的实现，而非底层架构的维护。

立即在 n1n.ai 获取免费 API 密钥，开启您的智能体开发之旅。

Get a free API key at n1n.ai

参考来源：https://towardsdatascience.com/how-to-build-your-own-custom-llm-memory-layer-from-scratch/