← 返回笔记列表
·8 分钟阅读
LangChain.js 学习笔记
LangChain.js 核心组件、链式调用与 RAG 应用的个人学习记录。
- LangChain
- AI
- JavaScript
LangChain.js 学习笔记
概述
LangChain.js 是 LangChain 的 JavaScript/TypeScript 版本,用于构建基于大语言模型(LLM)的应用。最近花了不少时间研究这个库,感觉它确实能大大降低 AI 应用的开发门槛。
为什么使用 LangChain.js
- 统一抽象:封装了 OpenAI、Anthropic、本地模型等多种接口,切换模型只改一行代码
- 链式组合:Prompt → Model → Output Parser 的模式非常优雅,组件可以复用
- RAG 支持:文档加载、切分、向量化、检索一体化,不用自己拼轮子
- Agent 能力:让模型自己决定调用哪个工具,实现多步推理
安装与配置
npm install langchain @langchain/openai @langchain/core
配置环境变量:
export OPENAI_API_KEY=your-api-key
核心概念
LCEL(LangChain Expression Language)
这是 LangChain.js 的核心思想,通过 .pipe() 方法将组件串联起来。就像 Unix 管道一样,前一个组件的输出是后一个组件的输入。
const chain = prompt.pipe(model).pipe(outputParser);
这种方式比传统的函数调用更直观,而且支持并行执行、分支逻辑等高级特性。
RunnableSequence
链式调用的底层实现。当你调用 .pipe() 时,实际上是创建了一个 RunnableSequence。
基础用法
简单调用模型
import { ChatOpenAI } from '@langchain/openai';
const model = new ChatOpenAI({
model: 'gpt-4o-mini',
temperature: 0.7,
maxTokens: 1024,
});
const response = await model.invoke('用一句话介绍 LangChain.js');
console.log(response.content);
温度参数的理解:
temperature = 0:输出非常确定,适合需要精确答案的场景temperature = 1:输出更随机,适合创意生成
Prompt Template
import { ChatPromptTemplate } from '@langchain/core/prompts';
const prompt = ChatPromptTemplate.fromMessages([
['system', '你是一位耐心的编程导师,擅长用通俗易懂的语言解释技术概念。'],
['human', '{question}'],
]);
const chain = prompt.pipe(model);
const result = await chain.invoke({ question: '什么是 RAG?' });
技巧:System 消息尽量详细描述角色和要求,这样模型的输出会更符合预期。
Output Parser
将模型输出解析为结构化数据。
import { StringOutputParser, JsonOutputParser } from '@langchain/core/output_parsers';
// 简单的字符串解析
const stringChain = prompt.pipe(model).pipe(new StringOutputParser());
const text = await stringChain.invoke({ question: '解释 REST API' });
// JSON 解析(需要在 Prompt 中明确要求返回 JSON)
const jsonChain = prompt.pipe(model).pipe(new JsonOutputParser());
const jsonResult = await jsonChain.invoke({ question: '用 JSON 格式列出 JavaScript 的五种数据类型' });
RAG(检索增强生成)
基本流程
文档 → 切分 → 向量化 → 存入向量库
↓
用户提问 → 检索相关片段 → 拼入 Prompt → LLM 回答
文档加载与切分
import { RecursiveCharacterTextSplitter } from '@langchain/textsplitters';
const splitter = new RecursiveCharacterTextSplitter({
chunkSize: 500,
chunkOverlap: 50,
});
const chunks = await splitter.splitText(longDocument);
chunkSize 的选择:
- 太小:上下文不完整,可能丢失重要信息
- 太大:Token 消耗高,检索精度下降
- 一般 500-1000 比较合适,具体看文档类型
向量存储
Supabase Vector
import { OpenAIEmbeddings } from '@langchain/openai';
import { SupabaseVectorStore } from '@langchain/community/vectorstores/supabase';
import { createClient } from '@supabase/supabase-js';
const supabase = createClient(process.env.SUPABASE_URL, process.env.SUPABASE_SERVICE_ROLE_KEY);
const embeddings = new OpenAIEmbeddings();
// 创建向量存储
const vectorStore = await SupabaseVectorStore.fromTexts(
chunks,
chunks.map((_, i) => ({ id: i })),
embeddings,
{ client: supabase, tableName: 'documents' }
);
检索问答链
import { createRetrievalChain, createStuffDocumentsChain } from 'langchain/chains';
const retriever = vectorStore.asRetriever({
k: 4, // 返回最相关的 4 个片段
});
const ragPrompt = ChatPromptTemplate.fromMessages([
['system', '你是一位知识问答助手。根据提供的上下文回答用户问题。如果上下文没有相关信息,请如实说明。'],
['human', '上下文:{context}\n\n问题:{question}'],
]);
const combineDocsChain = createStuffDocumentsChain({
llm: model,
prompt: ragPrompt,
});
const retrievalChain = createRetrievalChain({
retriever,
combineDocsChain,
});
const result = await retrievalChain.invoke({ question: '什么是 LangChain?' });
console.log(result.answer);
Streaming(流式输出)
对于长回答,流式输出能显著提升用户体验。
const stream = await chain.stream({ question: '详细解释 React 的 useEffect hook' });
for await (const chunk of stream) {
process.stdout.write(chunk);
}
在 Next.js Server Action 中使用:
async function* streamResponse(question: string) {
const stream = await chain.stream({ question });
for await (const chunk of stream) {
yield chunk;
}
}
export async function askQuestion(question: string) {
return new ReadableStream({
async start(controller) {
for await (const chunk of streamResponse(question)) {
controller.enqueue(new TextEncoder().encode(chunk));
}
controller.close();
},
});
}
Agent 概念
Agent 是 LangChain 中最强大的功能,可以让模型自己决定调用哪个工具。
自定义工具
import { tool } from '@langchain/core/tools';
const calculator = tool(
async ({ expression }) => {
return eval(expression).toString();
},
{
name: 'calculator',
description: '用于计算数学表达式',
schema: {
type: 'object',
properties: {
expression: { type: 'string', description: '数学表达式' },
},
required: ['expression'],
},
}
);
const tools = [calculator];
创建 Agent
import { createToolCallingAgent, AgentExecutor } from 'langchain/agents';
const agentPrompt = ChatPromptTemplate.fromMessages([
['system', '你是一位智能助手,可以使用工具解决问题。'],
['human', '{input}'],
['placeholder', '{agent_scratchpad}'],
]);
const agent = createToolCallingAgent({
llm: model,
tools,
prompt: agentPrompt,
});
const executor = new AgentExecutor({
agent,
tools,
verbose: true, // 开启详细日志,便于调试
});
const result = await executor.invoke({ input: '计算 2 的 10 次方' });
错误处理
try {
const result = await chain.invoke({ question: 'test' });
} catch (error) {
if (error instanceof APIError) {
console.error('API 调用失败:', error.message);
} else if (error instanceof OutputParserException) {
console.error('输出解析失败:', error.message);
} else {
console.error('未知错误:', error);
}
}
性能优化
- 使用 gpt-4o-mini:对于大多数场景,mini 模型足够用,速度更快,成本更低
- 限制 maxTokens:避免不必要的长输出
- 缓存检索结果:相同问题可以缓存向量检索结果
- 异步并行调用:多个独立的 LLM 调用可以并行执行
实践中的坑
- API Key 泄露:务必只在服务端使用 API Key,不要暴露给前端
- 上下文窗口限制:不同模型有不同的上下文窗口限制,RAG 时要注意
- Prompt 工程:好的 Prompt 能显著提升模型输出质量,值得花时间打磨
- 向量库选择:开发阶段可以用 Chroma(本地),生产环境考虑 Supabase/Pinecone