GooglePaLM与“思维提示链”技术结合以提升推理类问题解答准确性
发布时间:2022-09-22 03:23
浏览量:111
5月12日消息,在GoogleI/O开发者大会开幕式上,CEO桑达尔·;皮查伊(SundarPichai)发表主题演讲,他提及为了探索自然语言处理和AI的其它方面,Google最近公开了新模型PathwaysLanguageModel(PaLM)。这是Google迄今为止研发的最大规模的模型,基于5400亿参数训练而成。
PaLM在许多自然语言处理任务上都有着突破性的表现,例如从文本生成代码,回答数学问题,甚至解释一个笑话。
现在Google团队将自然语言处理大模型PaLM与一种名为思维提示链(chain-of-thought)的新技术结合起来时,让模型可以将需要多步解决的问题转化为一系列的中间步骤来处理。
桑达尔·;皮查伊现场演示了一个案例,比如,以一个需要推理的数学问题为例。问题是:五月有多少个小时?可以看到,只采用PaLM模型并没有给出正确的答案。在思维提示链中,给模型输入一对问题—答案,同时解释了答案是如何得出的。现在,如果再问模型五月有多少个小时或者其它相关问题,它能给出正确答案和解答过程。
桑达尔·;皮查伊表示,思维提示链大大提高了PaLM的准确性,让它在包括数学问题在内的多个推理基准测试(reasoningbenchmarks)中达到了最顶级水平,在不改变模型训练方式的情况下完成了这一切。
此外,Google还公开了对话生成语言模型LaMDA2,这是目前Google打造的最先进的对话AI,并同步推出了名为AITestKitchen的测试环境,以期不断优化LaMDA2的能力。
标签: