重要的事情说两遍!Prompt「复读机」,显著提高LLM推理能力(复读机构推荐)

AIGC动态欢迎阅读

原标题:重要的事情说两遍!Prompt「复读机」,显著提高LLM推理能力

关键字:问题,数据,提示,应用题,模型

文章来源:新智元

内容字数:0字

内容摘要:

新智元报道编辑:alan

【新智元导读】尽管大模型能力非凡,但干细活的时候还是比不上人类。为了提高LLM的理解和推理能力,Prompt「复读机」诞生了。众所周知,人类的本质是复读机。

我们遵循复读机的自我修养:敲黑板,划重点,重要的事情说三遍。

but,事实上同样的方法对付AI也有奇效!

有研究证明,在提问的时候故意重复一遍——也就是复制粘贴,即可显著提高LLM的推理能力。

论文地址:https://arxiv.org/pdf/2309.06275

看下面的例子:

作者认为,通常情况下,问题中的重点token(比如这里的tennis balls)无法看到位于它后面的token(上图)。

相比之下,使用重读(re-reading,RE2)的方法,允许「tennis balls」在第二遍中看到自己对应的整个问题(How many tennis balls does he have now?),从而达到双向理解的效果(下图)。

实验表明,在14个数据集上的112个实验中,RE2技术都能带来一致的性能提升,无论是经过指令调整的模型(如ChatGPT

),还是未经调整的模型(如Llama)。

原文链接:重要的事情说两遍!Prompt「复读机」,显著提高LLM推理能力

联系作者

文章来源:新智元

作者微信:

作者简介:

0
分享到:
没有账号? 忘记密码?