检索增强生成中的创新

每日推荐一篇专注于解决实际问题的外文，精准翻译并深入解读其要点，助力读者培养实际问题解决和代码动手的能力。

欢迎关注公众号（NLP Research），及时查看最新内容

原文标题：Innovations In Retrieval Augmented Generation

原文地址：https://medium.com/emalpha/innovations-in-retrieval-augmented-generation-8e6e70f95629

检索增强生成（RAG）提供了将 ChatGPT/GPT-4 等大型语言模型与自定义数据集集成的途径，但存在一些局限性。让我们了解一下最近的 RAG 研究创新如何解决其中的一些问题。

一个图

大型语言模型（LLM）将彻底改变金融行业。其中一个应用场景是利用大型语言模型来研究大量文件，以在短时间内找到趋势，并且成本仅为分析师的一小部分。但问题是，你得到的答案往往是片面和不完整的。举例来说，您有一份包含 X 公司过去 15 年年收入的文档，但分布在不同的部分。在标准的检索增强生成（RAG）架构（如下图所示）中，你通常会检索前 k 个文档，或者在固定上下文长