企业级 Java AI 框架选型：Spring AI vs LangChain4j

Wed, 11 Mar 2026 00:00:00 +0000

去年团队要在 Java 技术栈上落地一批 AI 应用，绕不开这两个框架的选型。当时网上的对比文章基本都是把两边 README 抄一遍，看完还是不知道该选哪个。这篇写我们实际用下来的差异，包括最后为什么两个都在用。

选型的前提：先定义需求

框架选型没有绝对答案，只有对不对得上需求。我们的实际需求是这五条：

必须能接私有化部署的模型。行内模型走内网网关，协议兼容 OpenAI 但不完全一致，鉴权是自研的。
必须能接入现有 Spring Boot 体系。配置中心、链路追踪、指标上报、统一异常处理都已经是现成的。
需要工具调用（function calling），且工具要以真实用户身份调用下游服务。
需要 RAG，但向量库是行内统一提供的，不是 Pinecone 这类云服务。
要能做提示词版本管理和灰度。

注意第 4、5 条：这两条决定了框架自带的"开箱即用"能力对我们价值有限，我们更看重扩展点是否好写。

选型时最该问的不是"哪个功能多"，而是"我要改的那部分，改起来疼不疼"。

Spring AI 的取舍

优势

抽象设计非常 Spring。ChatClient 的流式 API 写起来舒服，和 Spring Boot 的自动配置、RestClient、Micrometer 打通得彻底。

@Service
public class ProductAdvisor {

 private final ChatClient chatClient;

 public ProductAdvisor(ChatClient.Builder builder, VectorStore vectorStore) {
 this.chatClient = builder
 .defaultSystem("你是银行零售产品顾问，只依据检索到的资料回答。")
 .defaultAdvisors(
 new QuestionAnswerAdvisor(vectorStore),
 new MessageChatMemoryAdvisor(new InMemoryChatMemory()))
 .build();
 }

 public String consult(String question, String sessionId) {
 return chatClient.prompt()
 .user(question)
 .advisors(a -> a.param(
 ChatMemory.CONVERSATION_ID, sessionId))
 .call()
 .content();
 }
}

Advisor 这个扩展点设计得不错，本质是拦截器链。我们的护栏、审计留痕、数字接地校验全部实现成 Advisor，一次编写全局生效：

LangChain4j on 追风笔记

企业级 Java AI 框架选型：Spring AI vs LangChain4j

选型的前提：先定义需求

Spring AI 的取舍

优势