使用 LLM 完成任务时,交替运用 CoT 提示和工具已经被证明是一种即强大又稳健的方法。这类方法通常需要针对特定任务手写示范,还需要精心编写交替使用生成模型和工具的脚本。Paranjape et al., (2023)提出了一个新框架,该框架使用冻结的 LLM 来自动生成包含中间推理步骤的程序。ART(Automatic Reasoning and Tool-use)的工作原理如下:接到一个新任务的时候,从任务库中选择多步推理和使用工具的示范。在测试中,调用外部工具时,先暂停生成,将工具输出整合后继续接着生成。ART 引导模型总结示范,将新任务进行拆分并在恰当的地方使用工具。ART 采用的是...