聊天模型

聊天模型是一种语言模型，它使用一系列消息作为输入，并将返回的消息作为输出 (与使用纯文本相反)。这些通常是较新的模型。

如果你想编写自己的聊天模型，请参阅以下操作指南。如果你想贡献集成，请参阅贡献集成。

选择聊天模型：

pip install -qU "langchain[google-genai]"
import getpass
import os

if not os.environ.get("GOOGLE_API_KEY"):
  os.environ["GOOGLE_API_KEY"] = getpass.getpass("Enter API key for Google Gemini: ")

from langchain.chat_models import init_chat_model

model = init_chat_model("gemini-2.5-flash", model_provider="google_genai")

model.invoke("Hello, world!")

特色提供商

尽管所有这些 LangChain 类都支持所述的高级功能，但您可能需要打开提供商特定的文档，才能了解哪些托管模型或后端支持该功能。

提供商 Tool calling Structured output JSON mode Local Multimodal 包名称
ChatAnthropic ✅ ✅ ❌ ❌ ✅ langchain-anthropic
ChatMistralAI ✅ ✅ ❌ ❌ ❌ langchain-mistralai
ChatAIMLAPI ✅ ✅ ✅ ❌ ✅ langchain-aimlapi
ChatFireworks ✅ ✅ ✅ ❌ ❌ langchain-fireworks
AzureChatOpenAI ✅ ✅ ✅ ❌ ✅ langchain-openai
ChatOpenAI ✅ ✅ ✅ ❌ ✅ langchain-openai
ChatTogether ✅ ✅ ✅ ❌ ❌ langchain-together
ChatVertexAI ✅ ✅ ❌ ❌ ✅ langchain-google-vertexai
ChatGoogleGenerativeAI ✅ ✅ ❌ ❌ ✅ langchain-google-genai
ChatGroq ✅ ✅ ✅ ❌ ❌ langchain-groq
ChatCohere ✅ ✅ ❌ ❌ ❌ langchain-cohere
ChatBedrock ✅ ✅ ❌ ❌ ❌ langchain-aws
ChatHuggingFace ✅ ✅ ❌ ✅ ❌ langchain-huggingface
ChatNVIDIA ✅ ✅ ✅ ✅ ✅ langchain-nvidia-ai-endpoints
ChatOllama ✅ ✅ ✅ ✅ ❌ langchain-ollama
ChatLlamaCpp ✅ ✅ ❌ ✅ ❌ langchain-community
ChatAI21 ✅ ✅ ❌ ❌ ❌ langchain-ai21
ChatUpstage ✅ ✅ ❌ ❌ ❌ langchain-upstage
ChatDatabricks ✅ ✅ ❌ ❌ ❌ databricks-langchain
ChatWatsonx ✅ ✅ ✅ ❌ ❌ langchain-ibm
ChatXAI ✅ ✅ ❌ ❌ ❌ langchain-xai
ChatPerplexity ❌ ✅ ✅ ❌ ✅ langchain-perplexity
ChatOCIGenAI ✅ ✅ ✅ ❌ ✅ langchain-oci

所有聊天模型

以下是 LangChain 支持的所有聊天模型的完整列表：

主要云服务提供商
名称 描述
OpenAI OpenAI 聊天模型快速入门指南
Azure OpenAI Azure OpenAI 聊天模型入门指南
Google Gemini 访问 Google 的生成式 AI 模型，包括 Gemini 系列
Google Cloud Vertex AI Google Cloud Vertex AI 快速入门
Anthropic Anthropic 聊天模型快速入门
AWS Bedrock AWS Bedrock 聊天模型入门指南
Cohere Cohere 聊天模型入门指南
MistralAI Mistral 聊天模型入门指南
中国厂商模型
名称 描述
DeepSeek DeepSeek 托管聊天模型入门指南
Qwen Qwen 聊天模型详细文档
Tongyi Qwen 阿里云达摩院开发的大语言模型
Baichuan Chat 百川智能技术的聊天模型 API
ZHIPU AI 智谱AI API 在 LangChain 中的使用
MiniMax 为中国企业提供 LLM 服务的初创公司
Moonshot 为中国企业提供 LLM 服务的初创公司
Yi Yi 聊天模型详细文档
Yuan2.0 在 LangChain 中使用 YUAN2 API
开源和本地部署
名称 描述
Ollama 运行开源大语言模型，如 Llama 2
Llama.cpp @ggerganov 的简单 Python 绑定
HuggingFace langchainhuggingface 聊天模型入门
vLLM Chat 可部署为模仿 OpenAI API 协议的服务器
Xinference 用于服务 LLM 的强大多功能库
MLX 使用 MLX LLM 作为聊天模型
其他云服务和平台
名称 描述
Groq Groq 聊天模型详细文档
Together Together AI 聊天模型入门
Fireworks Fireworks AI 聊天模型详细文档
Anyscale 演示 langchain.chat_models.ChatAnyscale 的使用
Konko 为应用开发者设计的完全托管 Web API
DeepInfra 提供对开源模型的服务器less推理服务
企业级解决方案
名称 描述
Databricks 在单一开放平台上统一数据、分析和 AI
IBM watsonx.ai IBM watsonx.ai 基础模型的包装器
Snowflake Cortex 即时访问行业领先的大语言模型
NVIDIA AI Endpoints NVIDIA 聊天模型详细文档
Alibaba Cloud PAI EAS 轻量级且经济高效的模型服务工具
特殊用途和新兴平台
名称 描述
Perplexity Perplexity 聊天模型入门
xAI xAI 聊天模型详细文档
Eden AI 通过统一最佳 AI 提供商革新 AI 格局
LiteLLM 简化调用 Anthropic、Azure、HuggingFace 等库
GPTRouter 提供通用 AI 接口的开源 LLM API 网关
区域特定服务
名称 描述
Naver Naver 聊天模型快速入门
YandexGPT 在 Langchain 中使用 YandexGPT 聊天模型
Baidu Qianfan 百度 AI 云千帆平台一站式大模型开发
Volc Engine Maas 火山引擎 Maas 入门指南
Tencent Hunyuan 腾讯的混合模型 API（混元 API）

这个列表展示了 LangChain 生态系统的丰富多样性，涵盖了从主流云服务商到专门化解决方案的广泛集成选项。

作者：Jeebiz  创建时间：2025-10-18 23:49
最后编辑：Jeebiz  更新时间：2025-10-19 12:18