博弈论让 AI 更加正确、高效,LLM 与自己竞争(博弈论security level)

AIGC动态欢迎阅读

原标题:博弈论让 AI 更加正确、高效,LLM 与自己竞争

关键字:模型,语言,报告,生成器,游戏

文章来源:人工智能学家

内容字数:8291字

内容摘要:

来源:ScienceAI

编辑:绿罗

想象一下,你有一位朋友对同一问题给出了不同的答案,具体取决于你提问的方式。

「秘鲁的首都是哪里?」会得到一个答案;「利马是秘鲁的首都吗?」 会得到另一个。你可能会有点担心你朋友的智力,而且你几乎很难相信他们给出的任何答案。

这正是许多大型语言模型 (LLM) 正在发生的事,这些超强大的机器学习工具为 ChatGPT

和其他人工智能奇迹提供了动力。开放式的生成性问题会产生一个答案,而涉及必须在选项之间进行选择的判别性问题,通常会产生不同的答案。麻省理工学院的博士生 Athul Paul Jacob 表示:「当同一个问题的措辞不同时,就会出现脱节。」

为了使语言模型的答案更加一致,并使模型整体更加可靠,Jacob 和他的同事设计了一个游戏,在这个游戏中,模型的两种模式被驱使着去寻找他们能达成一致的答案。这个简单的程序被称为共识博弈(consensus game),让 LLM 与自己竞争,使用博弈论工具来提高模型的准确性和内部一致性。

论文链接:https://openreview.net/forum?id=n9xeGcI4Yg

机器人公司 Field

原文链接:博弈论让 AI 更加正确、高效,LLM 与自己竞争

联系作者

文章来源:人工智能学家

作者微信:AItists

作者简介:致力成为权威的人工智能科技媒体和前沿科技研究机构

0
分享到:
没有账号? 忘记密码?