月之暗面对谈 Zilliz:长文本和 RAG 如何选择?(月之暗面解析)

AIGC动态欢迎阅读

原标题:月之暗面对谈 Zilliz:长文本

和 RAG 如何选择?

关键字:模型,腾讯,文本,向量,成本

文章来源:Founder Park

内容字数:0字

内容摘要:

关于长文本和 RAG 到底如何选择,一直有争论,从基模公司到应用开发者。

今天这篇文章,是来自基模公司月之暗面和中间层 Zilliz 的技术对话,值得一看。

本期讨论会参与者:

陈将老师:Zilliz 生态和 AI 平台负责人

唐飞虎老师:月之暗面研发工程师,开发者关系负责人

主持人:周默:共识粉碎机,前美元对冲基金投资人,曾在腾讯与微软从事战略与投资业务01长文本与RAG通用对比准确率:通常情况下长文本优于RAG

长文本:可更加综合的去分析所有相关的内容,提取相关数字,生成图表,效果尚可。

RAG:更适合找到一段或者是几段可能相关的段落。如果希望大模型能够对问题有全局的认识,比较困难。如,根据上市公司的2020年财务报表,绘制图表,直接用RAG可能效果就不是很好。

长文本在准确性上表现好的原因,以及长度与准确性选择

长文本处理之后,会做对齐和专门的Benchmark测试调整。比如说之前的大海捞针以及腾讯的数星星的Benchmark,这些是更难一些要求,不仅要找到相关的位置,还得把具体的数字给出来。

现在也出现了一些新的关于长文本模型的bench mark,比如legal bench,

原文链接:月之暗面对谈 Zilliz:长文本和 RAG 如何选择?

联系作者

文章来源:Founder Park

作者微信:

作者简介:

0
分享到:
没有账号? 忘记密码?