Function Calling 是什么(function caller)

Function Calling 是一种将大语言模型(如 ChatGPT)的能力与外部工具和 API 连接起来的新方法。

在 OpenAI 的 0613 版本中更新了此功能。开发人员可以向 gpt-4-0613 和 gpt-3.5-turbo-0613 描述函数,让模型智能地选择输出一个包含调用这些函数所需参数的 JSON 对象。

Function Calling 到来之前,使用 Json Output 存在诸多缺陷,如 JSON 格式非常标准,输出一个错的 token 就会异常;模型上下文短;模型难以在单个请求里完成多个复杂任务;大模型废话多;工程化复杂且维护成本高等。

Function Calling 实现的方式大大降低了所有 LLMs 应用开发的难度,例如降低了 Prompt 维护成本,实现了 System Prompt 和 Function 解耦。本地可以写函数执行特定操作,如 this.app.mysql.select(table,condition),也可以根据 GPT 返回的函数名和参数来查询数据,还可以将函数改为 SQL 查询 this.app.mysql.query(sql),使操作更为灵活。

0
分享到:
没有账号? 忘记密码?