用Redis为LangChain定制AI代理——OpenGPTs

openai最近推出了openai gpts——一个构建定制化ai代理的无代码“应用商店”，随后langchain开发了类似的开源工具opengpts。opengpts是一款低代码的开源框架，专用于构建定制化的人工智能代理。因为redis具有高速和稳定性的优点，所以langchain选择了redis来作为opengpts的默认向量数据库。
文章速览：
opengpts简介
redis在opengpts中的作用
在本地使用opengpts
在云端使用opengpts
redis与langchain赋能创新
一、opengpts简介
通过几个配置步骤，我们可以用opengpts构建一个精通redis的机器人，名为“redisguru”。
以下是我们选择的llm、系统消息和工具的示例，包括duckduckgo搜索、维基百科搜索，以及通过kay.ai访问的公共新闻稿。
配置并部署redisguru后，可以测试代理如何运行：
此外，我们还可以查询有关redis数据结构的问题。可以看到，redisguru记住了我的名字：
我们构建的这个redisguru代理只是一个应用示例。你也可以构建各类应用，比如电子邮件文案编辑器、智能研究助理、代码审查员等。
二、redis在opengpts中的作用
在这个opengpts演示的背后，redis提供了一个强大且高性能的数据层，是 opengpts 技术栈不可或缺的一部分。
redis可以持久化用户聊天会话（线程）、代理配置和嵌入式文档块，并用于向量数据库检索。
01
用户聊天会话
为了在对话中维持“状态”，redis为opengpts提供了用户与ai代理间的持久聊天线程。这些聊天会话也被输入到llm中，以提供当前对话状态的上下文信息。
02
代理配置
为了支持多租户代理架构，redis为opengpts提供了一个远程的、低延迟的存储层。当应用程序启动时，它从redis读取指定的代理设置，然后开始处理请求。
03
向量数据库用于rag
为了让对话基于实际情况，opengpts允许我们上传“知识”源，以便llm将其与生成的答案结合。通过一种称为检索增强生成（rag）的过程，opengpts将上传的文档存储在redis中，并提供实时向量搜索，以检索与llm相关的上下文。
这些功能是redis平台的一部分，通过我们的langchain + redis集成融入到应用程序中。
redis与langchain的opengpts集成带来了更高的灵活性、可扩展性以及实时处理和搜索能力。处理多样化数据结构的能力是redis成为opengpts记忆功能的首选解决方案。
三、在本地使用opengpts
如果想亲自体验opengpts，你可以在项目的readme文件中找到更详细的指南。以下是一个快速概述：
1、安装后端依赖：克隆项目仓库，然后导航到后端目录并安装必要的python依赖项。
cd backendpip install -r requirements.txt
2、连接redis和openai：opengpts使用redis作为llm的记忆库，使用openai进行llm的生成和嵌入。设置环境变量redis_url和openai_api_key，以连接到您的redis实例和openai账户。
export openai_api_key=your-openai-api-keyexport redis_url=redis://your-redis-url
3、启动后端服务器：在本地机器上运行langchain服务器，提供应用程序服务。
langchain serve --port=8100
4、启动前端：在前端目录中，使用yarn启动开发服务器。
cd frontendyarnyarn dev
5、在浏览器中打开http://localhost:5173/，与您的本地opengpts部署进行交互。
四、在云端使用opengpts
如果希望在没有本地设置的情况下使用opengpts，可以尝试在谷歌云上部署。另外，你还可以访问由langchain、langserve和redis支持的托管预览部署。这种部署展示了opengpts的可定制性和易用性。
五、redis与langchain赋能创新
redis企业版作为一款企业级的低延迟向量数据库，在支持生成性ai项目方面具有独特优势。其不仅提供向量搜索，还提供多功能数据结构，能有效满足llms的应用状态需求。这个强大的平台提供了优异的可扩展性和性能，redis借此成为生成式ai领域的重要工具。