Spring AI 简介

Spring AI 简介

官方文档：https://spring.io/projects/spring-ai#overview

Spring AI 是一个面向人工智能工程的应用框架。其目标是将 Spring 生态系统的可移植性和模块化设计等设计原则应用于人工智能领域，并推广使用 POJO 作为人工智能领域应用程序的构建块。

从本质上讲，Spring AI 解决了 AI 集成的基本挑战：将企业数据和API与AI 模型连接起来。

特征

Spring AI 提供以下功能：

• 支持所有主流AI 模型提供商，例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括：
  • Chat Completion
  • Embedding
  • Text to Image
  • Audio Transcription
  • Text to Speech
  • Moderation
• 跨 AI 提供商的可移植 API 支持，包括同步 API 和流式 API 选项。此外，还提供特定于模型的功能访问。
• 结构化输出- AI 模型输出到 POJO 的映射。
• 支持所有主流的向量数据库提供商，例如：Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
• 跨 Vector Store 提供商的可移植 API，包括新颖的类似 SQL 的元数据过滤器 API。
• 工具/功能调用- 允许模型请求执行客户端工具和功能，从而根据需要访问必要的实时信息。
• 可观察性——提供对 AI 相关操作的洞察。
• 用于数据工程的文档注入ETL 框架。
• AI 模型评估- 帮助评估生成的内容并防止幻觉反应的实用程序。
• ChatClient API - 用于与 AI 聊天模型通信的流畅 API，惯用语类似于 WebClient 和 RestClient API。
• Advisors API - 封装重复的生成式 AI 模式，转换发送到和来自语言模型 (LLM) 的数据，并提供跨各种模型和用例的- 可移植性。
• 支持聊天对话记忆和检索增强生成（RAG）。
• 所有 AI 模型和向量存储支持 Spring Boot 自动配置和启动器 - 使用 start.spring.io 选择所需的模型或向量存储。

此功能集可让您实现常见用例，例如“ Q&A over your documentation”或“ Chat with your documentation.”