“冥想”让人工智能更聪明

科学家们训练人工智能系统在说话前思考，这极大地提高了算法的常识。

人们在写作或说话时停下来思考是很常见的。推理有助于理解更复杂的概念，因为文本的大部分含义都隐藏在字里行间。没有推理，知识就会变得肤浅。

迄今为止，人工智能模型未能达到人类水平的常识和情境化能力。推理文本如何影响后续文本的含义可以增强人工智能模型在任务中的性能。

斯坦福大学和人工智能营销解决方案公司 Notbad AI 的科学家使用了一种名为 QuietSTaR 的技术，该技术可以帮助人工智能模型在响应提示之前进行思考。

该技术涉及指示模型在模型产生最终响应之前同时生成多个内部原理。这些基本原理有助于准确或不准确地回答问题。通过丢弃被证明不正确的基本原理，模型可以学习并提高未来的性能。

STaR 算法在训练单个人工智能思维过程中应用的图像。思想是按照文本中的所有标记并行生成的（思考）。该模型会产生带有和不带想法（谈话）的下一个标记预测的混合。应用 REINFORCE 会增加有助于模型预测未来文本的想法的可能性，同时丢弃那些使未来文本不太可能出现的想法（学习）。资料来源：研究论文。

科学家们在非结构化文本数据上明确地训练了模型，训练语言模型通常根据文本进行推理，而不是根据策划的推理任务或推理任务的集合进行推理。

训练后，AI 在推理测试中得分为 47.2%，而训练前为 36.3%。然而，它在学校数学测试（GSM8K）中仍然表现不佳，得分为 10.9%。尽管结果较低，但几乎是训练前初始分数 5.9% 的两倍。

研究人员在 3 月 14 日发表的一篇论文中写道：“在多项任务中，我们证明，思考可以让 LM 比在同一网络文本上训练的模型更好地预测困难的标记，并且随着更长的思考而改进。 ”