不用 Python、不用云端 API!Node.js+Transformers.js 手把手拆解本地 AI Agent 运行原理 + 最简可运行代码

# 初始化项目mkdir node-agent-demo && cd node-agent-demonpm init -y# 安装依赖：transformers.js + 必要运行环境npm install @xenova/transformer

src/├─ agent.js    # Agent主逻辑、思考循环├─ tools.js    # 自定义工具集合（示例：数学计算器）└─ prompt.js   # 系统提示词（约束模型输出格式）

// 对外开放的工具列表，模型只能调用这里注册的方法export const Tools = {  // 数学计算工具  calculate: (expression) => {    try {      // 安全计算公式运算      const result = new Function(`return ${expression}`)()      return { success: true, data: result }    } catch (err) {      return { success: false, msg: "计算公式错误" }    }  }}// 工具描述，告诉模型每个工具的作用、入参格式export const toolDesc = [  {    name: "calculate",    description: "用于执行数学四则运算、开方、幂运算等数学计算，入参为标准数学表达式字符串",    parameters: {      type: "string",      example: "Math.sqrt(1024)、2**10、100*25+36"    }  }]

// 固定Prompt：强制模型只能输出标准JSON，禁止多余文字export const systemPrompt = `你是一个具备工具调用能力的AI助手，严格遵守以下规则：1. 用户提出数学计算需求时，必须调用calculate工具；无需计算的闲聊直接返回回答。2. 调用工具时只返回纯JSON字符串，格式固定：{"tool": "工具名称", "params": "传入的表达式"}3. 不需要调用工具时，格式：{"tool": "none", "content": "你的回答文本"}4. 禁止输出解释、markdown、多余换行、注释，只允许返回合法JSON工具列表：${JSON.stringify(toolDesc)}`

import { pipeline } from '@xenova/transformers'import { Tools } from './tools.js'import { systemPrompt } from './prompt.js'// 加载本地对话模型（自动下载量化后的Qwen-1.8B-Instruct轻量化模型，首次运行自动拉取权重）const generate = await pipeline(  'text-generation',  'Xenova/Qwen-1_8B-Instruct',  { quantized: true } // 开启量化，低配电脑也能跑)// Agent核心执行函数async function runAgent(userQuery) {  console.log("用户输入：", userQuery)  // 拼装对话上下文  const messages = [    { role: "system", content: systemPrompt },    { role: "user", content: userQuery }  ]  // 1、调用本地模型推理  const output = await generate(messages, {    max_new_tokens: 256,    temperature: 0.1, // 低温，保证输出格式稳定不乱飘    do_sample: false  })  const modelRawResp = output[0].generated_text.at(-1).content  console.log("模型原始输出：", modelRawResp)  try {    // 2、解析模型返回的JSON指令    const parseRes = JSON.parse(modelRawResp)    // 不需要调用工具，直接回复用户    if (parseRes.tool === "none") {      return "AI回答：" + parseRes.content    }    // 匹配对应工具执行    if (Reflect.has(Tools, parseRes.tool)) {      const toolResult = Tools[parseRes.tool](parseRes.params)      // 3、把工具执行结果再次丢给模型，整理成自然语言回复      const secondMsg = [        ...messages,        { role: "assistant", content: modelRawResp },        { role: "user", content: `工具执行结果:${JSON.stringify(toolResult)}，结合结果用中文整理回答用户问题` }      ]      const finalOut = await generate(secondMsg, { max_new_tokens: 200, temperature: 0.1 })      return "Agent最终回复：" + finalOut[0].generated_text.at(-1).content    }  } catch (err) {    return "解析失败：模型输出格式异常"  }}// 测试调用const res = await runAgent("帮我计算1024的平方根是多少，另外计算2的10次方结果")console.log(res)

node src/agent.js