password
Created time
Feb 18, 2024 05:10 AM
type
status
date
slug
summary
tags
category
icon
这篇文档很好的帮助理解如何将知识库与大模型结合起来使用。核心2个步骤,一是形成向量库,二是利用问题和向量库、LLM形成回答。
导入数据流程
将文档(document)导入,并分成很多的块(chunk),形成向量数据库(vectorstore)
步骤:
- 将文档分块(split into chunks)
- 创新embeddings并保存到vectorstore
查询数据流程
步骤:
- 将聊天记录和新问题通过LLM合并为一个新的问题(利用LLM的语义理解能力)。
这点很重要,因为可以把上下文与新的问题结合起来,提高对客户问题的理解。
- 查找相关文档。去向量库(vectorstore)查询,查找相关文档以获取答案。
- 再次利用LLM生成响应。