Nvidia 研究表明 AI 智能体框架与微调比模型尺寸更重要

import json
import requests

# API 网关配置
API_URL = "https://api.n1n.ai/v1/chat/completions"
API_KEY = "your_n1n_api_key_here"

# 定义带有严格输出格式要求的系统提示词（执行框架规则）
SYSTEM_PROMPT = """
你是一个运行在严格执行框架内的 AI 智能体。
你可以访问以下工具：
- calculate_revenue(quarter: str, region: str) -> str

你必须且只能使用以下两种 JSON 格式之一进行回复：

如果需要调用工具：
{
  "action": "tool_call",
  "tool_name": "calculate_revenue",
  "parameters": {"quarter": "Q1|Q2|Q3|Q4", "region": "North|South|East|West"}
}

如果已得出最终答案：
{
  "action": "final_answer",
  "answer": "你的详细答案"
}
"""

# 模拟数据库工具
def calculate_revenue(quarter: str, region: str) -> str:
    database = {
        ("Q1", "North"): "$1.2M",
        ("Q2", "North"): "$1.5M",
    }
    return database.get((quarter, region), "未找到数据")

# 智能体执行框架循环
def run_harness(user_query: str, max_steps: int = 3):
    messages = [
        {"role": "system", "content": SYSTEM_PROMPT},
        {"role": "user", "content": user_query}
    ]

    headers = {
        "Authorization": f"Bearer {API_KEY}",
        "Content-Type": "application/json"
    }

    for step in range(max_steps):
        print(f"--- 步骤 {step + 1} ---")

        # 通过 n1n.ai API 调用模型
        payload = {
            "model": "meta-llama/llama-3-8b-instruct",
            "messages": messages,
            "temperature": 0.0 # 强制确定性输出
        }

        response = requests.post(API_URL, json=payload, headers=headers)
        response.raise_for_status()
        model_output = response.json()['choices'][0]['message']['content'].strip()

        try:
            # 解析结构化响应
            parsed = json.loads(model_output)
            action = parsed.get("action")

            if action == "final_answer":
                print("最终答案:", parsed.get("answer"))
                return parsed.get("answer")

            elif action == "tool_call":
                tool_name = parsed.get("tool_name")
                params = parsed.get("parameters", {})

                # 执行框架在运行前验证参数
                valid_quarters = ["Q1", "Q2", "Q3", "Q4"]
                if params.get("quarter") not in valid_quarters:
                    raise ValueError(f"无效的季度参数: {params.get('quarter')}")

                # 执行工具
                print(f"正在执行 {tool_name}，参数为 {params}...")
                result = calculate_revenue(params['quarter'], params['region'])

                # 将结果添加到历史记录并继续循环
                messages.append({"role": "assistant", "content": model_output})
                messages.append({"role": "user", "content": f"工具输出: {result}"})

            else:
                raise ValueError("未知的操作类型")

        except (json.JSONDecodeError, ValueError) as e:
            # 错误恢复循环：将错误反馈给模型以进行自我纠正
            error_msg = f"框架验证错误: {str(e)}。请修正你的 JSON 结构并重试。"
            print(error_msg)
            messages.append({"role": "user", "content": error_msg})

    print("达到框架最大执行步数，未获取到最终答案。")
    return None

# 运行智能体
run_harness("Q1 季度 North 地区的营收是多少？")