Spring AI
https://docs.spring.io/spring-ai/reference/index.html
Spring AI 项目旨在简化包含人工智能功能的应用程序的开发,避免不必要的复杂性。
该项目从著名的 Python 项目(例如 LangChain 和 LlamaIndex)中汲取灵感,但 Spring AI 并不是这些项目的直接移植。该项目的成立相信下一波生成式人工智能应用程序不仅适用于 Python 开发人员,而且将在许多编程语言中普遍存在。
Spring AI 的核心提供了抽象,作为开发 AI 应用程序的基础。这些抽象有多种实现,可以通过最少的代码更改轻松进行组件交换。
Spring AI 提供以下功能:
跨 AI 提供商的可移植 API 支持聊天、文本转图像和嵌入模型。支持同步和流式 API 选项。还可访问特定于模型的功能。
支持所有主要AI 模型提供商,例如 Anthropic、OpenAI、Microsoft、Amazon、Google 和 Ollama。支持的模型类型包括:
- 聊天完成
- 嵌入
- 文本转图像
- 音频转录
- 文本转语音
- 适度
AI 模型输出到 POJO 的映射。
支持所有主要的向量数据库提供商,例如 Apache Cassandra、Azure Vector Search、Chroma、Milvus、MongoDB Atlas、Neo4j、Oracle、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate。
工具/功能调用- 允许模型请求执行客户端工具和功能,从而根据需要访问必要的实时信息。
跨 Vector Store 提供商的可移植 API,包括同样可移植的新颖的类似 SQL 的元数据过滤器 API。
用于数据工程的文档注入ETL 框架。
AI 模型评估- 用于帮助评估生成的内容并防止产生幻觉反应的实用程序。
AI 模型和向量存储的 Spring Boot 自动配置和启动器。
ChatClient API - 用于与 AI 聊天模型通信的流畅 API,惯用语类似于 WebClient 和 RestClient API。
顾问 API——封装重复的生成式 AI 模式,转换发送到和来自语言模型 (LLM) 的数据,并提供跨各种模型和用例的可移植性。
支持聊天对话记忆和检索增强生成 (RAG)。
该功能集可让您实现常见用例,例如“通过文档进行问答”或“通过文档进行聊天”。
概念部分提供了 AI 概念及其在 Spring AI 中的表示的高级概述。
入门部分向您展示了如何创建您的第一个 AI 应用程序。后续部分将以代码为中心的方法深入研究每个组件和常见用例。
最后编辑:Jeebiz 更新时间:2024-10-27 20:34