专业的编程技术博客社区

网站首页 > 博客文章 正文

AI编程之手把手教你使用langchain4j编写一个有记忆的聊天机器人

baijin 2024-10-23 08:50:57 博客文章 6 ℃ 0 评论

一般情况下,我们实现一个聊天(或客服)机器人,都会支持多轮聊天。能够记住之前的几轮对话,对使用者来说,体验就会好很多。例如这样的对话:

用户:你好,我叫leo
AI机器人:嗨,leo,有什么可以帮您的吗?
用户:我叫什么名字?
AI机器人:你叫Leo。


本文手把手教你用langchain4j来实现这样的记忆功能。

STEP0:基本环境准备和编程入门回顾,请参考我的AI文章系列:

AI编程之手把手教你在CentOS安装Postgresql的Vector向量数据库

AI编程之手把手教你使用postgresql向量数据库建设知识库JAVA版

AI编程之手把手教你使用langchain和postgresql向量库Python版

AI编程之手把手教你使用JAVA语言编写大模型RAG


STEP1: 安装Postgresql+pgvector向量库

请参考我之前的文章: AI编程之手把手教你在CentOS安装Postgresql的Vector向量数据库

STEP2: 建表存放记忆内容


CREATE TABLE chat_memory (
memory_id INT NOT NULL PRIMARY KEY,
chat_messages TEXT NULL
);


STEP3: 实现一个基于postgresql的记忆存储


LangChain4j提出了ChatMemory的概念,它的本质是ChatMessage的容器。

ChatMemory是一个接口定义,它内部封装了一个ChatMessage的容器,提供了追加条目和清除记忆存储两个方法。



LangChain4j提供了两种ChatMemory实现:



  • MessageWindowChatMemory提供了一种简单的文本化存储方式,按照条数存储,FIFO模式,如果超出条数,最老的一条被淘汰。注意,只能存储一条SystemMessage,如果加入另一条SystemMessage,前一条SystemMessage会被淘汰。
  • TokenWindowChatMemory提供了token化的存储方式,按照token数量存储,FIFO模式,如果超出token数量,最老的一条消息将会被淘汰。注意,只能存储一条SystemMessage,如果加入另一条SystemMessage,前一条SystemMessage会被淘汰。


ChatMemoryStore定义了一个用来持久化ChatMemory里存储的信息。



定义了查询、更新、删除持久化数据的能力。

我们主要需要实现的是使用Postgresql做为持久化的ChatMemoryStore。代码如下:


//ChatMemory存储具体实现
@Slf4j
@Service
public class PersistentChatMemoryStore implements ChatMemoryStore {

@Resource
ChatMemoryMapper chatMemoryMapper;

@Override
public List<ChatMessage> getMessages(Object memoryId) {
ChatMemoryEntity chatMemoryEntity = chatMemoryMapper.queryForChatMemory((Integer)memoryId);
if(null == chatMemoryEntity){
return messagesFromJson(null);
}
return messagesFromJson(chatMemoryEntity.getChatMessages());
}

@Override
public void updateMessages(Object memoryId, List<ChatMessage> messages) {
String json = messagesToJson(messages);
ChatMemoryEntity chatMemoryEntity = new ChatMemoryEntity();
chatMemoryEntity.setMemoryId((Integer) memoryId);
chatMemoryEntity.setChatMessages(json);
ChatMemoryEntity chatMemoryEntity1 = chatMemoryMapper.queryForChatMemory((Integer)memoryId);
if (null == chatMemoryEntity1){
chatMemoryMapper.insertChatMemory(chatMemoryEntity);
}else {
chatMemoryMapper.updateChatMemory(chatMemoryEntity);
}
}

@Override
public void deleteMessages(Object memoryId) {
chatMemoryMapper.deleteForChatMemory((Integer)memoryId);
}

}

数据库Mapper代码:

@Mapper
public interface ChatMemoryMapper extends BaseMapper<ChatMemoryEntity> {
ChatMemoryEntity queryForChatMemory(Integer memoryId);

void updateChatMemory(@Param("chatMemoryEntity") ChatMemoryEntity chatMemoryEntity);

void insertChatMemory(@Param("chatMemoryEntity") ChatMemoryEntity chatMemoryEntity);

void deleteForChatMemory(Integer memoryId);
}

Mybatis配置代码:

<?xml version="1.0" encoding="UTF-8" ?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN"
"http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="org.leo.llm.dao.ChatMemoryMapper">
<!-- 定义 ResultMap -->
<resultMap id="chatmemoryResultMap" type="org.leo.llm.entity.ChatMemoryEntity">
<id property="memoryId" column="memory_id" />
<result property="chatMessages" column="chat_messages" />
</resultMap>

<select id="queryForChatMemory" resultMap="chatmemoryResultMap">
SELECT a.memory_id , a.chat_messages
FROM chat_memory a WHERE a.memory_id = #{memoryId}
</select>

<update id="updateChatMemory" >
UPDATE chat_memory SET chat_messages = #{chatMemoryEntity.chatMessages}
WHERE memory_id = #{chatMemoryEntity.memoryId}
</update>

<insert id="insertChatMemory" >
insert into chat_memory (memory_id , chat_messages)
values (#{chatMemoryEntity.memoryId},#{chatMemoryEntity.chatMessages})
</insert>

<delete id="deleteForChatMemory" >
delete from chat_memory
where memory_id = #{chatMemoryEntity.memoryId}
</delete>

</mapper>


STEP4: 实现一个有记忆的聊天机器人

我们仍然使用AiServices快速包装产生聊天机器人。

public String chatWithMemory(Integer userId,String chatMessage) {
OpenAiChatModel chatModel = OpenAiChatModel.builder().baseUrl("https://oneapi.xty.app/v1")
.apiKey("sk-1234567890abcdef").modelName("gpt-3.5-turbo").build();

ChatMemoryProvider chatMemoryProvider = memoryId -> MessageWindowChatMemory.builder()
.id(memoryId)
.maxMessages(10)
.chatMemoryStore(persistentChatMemoryStore)
.build();

LLMAssistant agent = AiServices.builder(LLMAssistant.class)
.chatLanguageModel(chatModel)
.chatMemoryProvider(chatMemoryProvider)
.build();

return agent.chat(userId,chatMessage);

}


STEP5: 运行起来看看效果

经过几次对话,我们看看历史记录:

我:我叫leo
AI机器人:你好,leo!有什么可以帮助你的吗?
我:我叫什么名字?
AI机器人:你叫Leo。
--把应用重启了一遍。重启之后
我:我叫什么名字?
AI机器人:你叫Leo。

Postgresql里也存入了记忆数据:



通过引入聊天历史,这个简单的聊天机器人具备了记忆能力。


STEP6: 后续

后续将使用Langchain和postgresql实现更多的CASE,敬请关注。


作者简介:

leo,互联网大厂AI架构师,欢迎私信交流


我的Dify AI case by case系列文章:

dify.ai 学习 case by case 第一弹

dify.ai 学习 case by case 第二弹,爆款小红书内容生成Agent

dify.ai 学习 case by case 第三弹,调用dify的API运行流程

dify.ai 学习 case by case 第四弹,复杂的case:用dify生成一篇论文

STEP by STEP 训练一个transformer模型

Tags:

本文暂时没有评论,来添加一个吧(●'◡'●)

欢迎 发表评论:

最近发表
标签列表