800行Python代码实现Claude Code 第二章:LLM 基础——直接和模型对话

目标：理解 LLM API 调用原理，掌握 LCEL 链式写法，能独立编写plan() 类方法。

2.1 概念讲授：什么是 LLM 调用？

大语言模型（LLM）的 API 本质上是一个无状态函数：

输入：消息列表(messages)
输出：下一条消息(response)

每次调用都是独立的——模型不记得上次说了什么（这正是我们需要记忆系统的原因）。

关键参数

Chat Completions vs Responses API

ChatCompletions API（旧/稳定）
/v1/chat/completions
适用：GPT-3.5, GPT-4, GPT-4o, GPT-4o-mini
特点：稳定，LangChain完整支持
Responses API（新/推理模型）
/v1/responses
适用：o1, o3, gpt-5系列推理模型
特点：包含 reasoning items（rs_xxx），需要 store=true
LangChain支持尚不完整→用 use_responses_api=False回退

2.2 概念讲授：LCEL（LangChain Expression Language）

LangChain 提供了一种管道式写法，用| 连接各组件：

chain = prompt | llm | output_parser
result = chain.invoke({"变量名":"值"})

这就像 Unix 管道：

echo "输入"| grep "过滤"| sort | head -3

三个核心组件

┌────────────────────┐┌──────────────┐┌───────────────────┐
│ChatPromptTemplate│→│ChatOpenAI│→│StrOutputParser│
│（格式化 prompt）││（调用 API）││（提取纯文本）│
└────────────────────┘└──────────────┘└───────────────────┘
.invoke({"task":"..."})AIMessage(...)"步骤1: ...\n步骤2..."

为什么用 LCEL 而不是直接调用？

# 不用 LCEL（冗长，难以复用）
messages =[HumanMessage(content=f"Break down: {task}")]
response = llm.invoke(messages)
text = response.content
# 用 LCEL（简洁，可组合，可流式）
chain = prompt | llm |StrOutputParser()
text = chain.invoke({"task": task})

LCEL 的隐藏优势：统一的.invoke() /.stream() /.batch() 接口，切换流式输出只需改.stream()。

2.3 示例驱动：第一个 LLM 调用

# demo_llm.py — 完整可运行示例
from dotenv import load_dotenv
load_dotenv()
from langchain_openai importChatOpenAI
from langchain_core.prompts importChatPromptTemplate
from langchain_core.output_parsers importStrOutputParser
# 1. 创建 LLM 实例
llm =ChatOpenAI(
    model="gpt-4o-mini",
    temperature=1,
    timeout=60,
    use_responses_api=False,
)
# 2. 定义 Prompt 模板
prompt =ChatPromptTemplate.from_messages([
("system","你是一个简洁的解释专家，用一句话回答。"),
("human","解释：{concept}")
])
# 3. 构建 LCEL 链
chain = prompt | llm |StrOutputParser()
# 4. 调用
result = chain.invoke({"concept":"TF-IDF"})
print(result)
# 输出类似：TF-IDF 是衡量词语在文档中重要性的统计方法，词频高且在其他文档中罕见的词权重更高。

2.4 ChatPromptTemplate 详解

from_messages 格式

ChatPromptTemplate.from_messages([
("system","系统提示，定义 AI 的角色和行为"),
("human","用户消息，可包含 {变量}"),
("ai","可选：预填充的 AI 回复（few-shot）"),
("human","可继续添加更多消息"),
])

system vs human 的区别

# system：全局指令，优先级最高，LLM 会严格遵守
("system","只用中文回答，禁止使用英文。")
# human：用户的具体请求
("human","What is Python?")
# 即使 human 用了英文，system 的指令会让 LLM 用中文回答

2.5 agent.py 中的 plan() 方法解析

# agent.py 第 30-36 行
def plan(self, task: str)-> str:
"""Generate plan using LLM"""
    prompt =ChatPromptTemplate.from_messages([
("human","Break down the following task into clear, numbered steps:\n\n{task}")
])
    chain:RunnableSequence= prompt | self.llm |StrOutputParser()
return chain.invoke({"task": task})

执行流程分解：

task ="写一个 hello world 脚本"
↓
prompt.format_messages(task=task)
→[HumanMessage("Break down... 写一个 hello world 脚本")]
↓
llm.invoke([HumanMessage(...)])
→AIMessage("1. 创建 hello.py\n2. 写入 print 语句\n3. 运行验证")
↓
StrOutputParser().invoke(AIMessage(...))
→"1. 创建 hello.py\n2. 写入 print 语句\n3. 运行验证"

plan() 在整体流程中的作用