缓存功能
原文:https://langfuse.com/self-hosting/configuration/caching
Langfuse 包括 API 密钥的内置缓存功能和提示,可以提高性能和减少数据库负载。这些功能默认启用,可以根据需要进行配置或禁用 (从 v3.81.0 开始)。
概述
Langfuse 中的缓存通过将频繁访问的数据存储在 Redis 中来帮助优化性能,减少了对重复数据库查询的需求。这对以下情况特别有益:
- API 密钥验证:减少每个 API 请求的数据库查找
- 提示检索:加快频繁访问相同提示的应用程序的提示检索速度
API 密钥缓存
API 密钥缓存将经过验证的 API 密钥存储在 Redis 中,以避免身份验证过程中重复的数据库查找。这显著提高了摄取请求的响应时间。API 密钥从不以明文形式存储,只缓存其哈希值。
默认行为
- 状态:默认启用
- TTL:300 秒 (5 分钟)
- 范围:所有 API 密钥验证
配置
| 变量 | 默认 | 描述 |
|---|---|---|
LANGFUSE_CACHE_API_KEY_ENABLED |
true |
启用或禁用 API 密钥缓存 |
LANGFUSE_CACHE_API_KEY_TTL_SECONDS |
300 |
缓存 API 密钥的生存时间 (秒) |
禁用 API 密钥缓存
要禁用 API 密钥缓存,请设置以下环境变量:
LANGFUSE_CACHE_API_KEY_ENABLED=false提示缓存
提示缓存存储经常访问 Redis 中的提示,以提高定期获取相同提示的应用程序的检索性能。
默认行为
- 状态:默认启用
- TTL:300 秒 (5 分钟)
- 范围:通过 API 的所有提示检索
配置
| 变量 | 默认 | 描述 |
|---|---|---|
LANGFUSE_CACHE_PROMPT_ENABLED |
true |
启用或禁用提示缓存 |
LANGFUSE_CACHE_PROMPT_TTL_SECONDS |
300 |
缓存提示的生存时间 (秒) |
禁用提示缓存
若要禁用提示缓存,请设置以下环境变量:
LANGFUSE_CACHE_PROMPT_ENABLED=false缓存无效
Langfuse 自动处理缓存无效,以确保数据一致性:
- API 密钥:当密钥被删除、禁用或其权限发生变化时,缓存的 API 密钥将无效。
- 提示符:当提示符被更新、删除或发布新版本时,缓存提示符将失效。
作者:Jeebiz 创建时间:2025-10-30 17:49
最后编辑:Jeebiz 更新时间:2025-10-30 18:16
最后编辑:Jeebiz 更新时间:2025-10-30 18:16