2023年9月4日 · 思想链（CoT）是一种提示方法，除了任务输入/输出之外，还包括提示中推理的中间步骤（中间“想法”）。 CoT 被证明可以显着提高法LLMs解决问题的能力，而无需任何模型参数的更新。 CoT 的一个主要改进是 CoT 的自我一致性（CoT-SC），它是一种生成多个 CoT 的方案，然后选择最好的一个作为结果。 最近，CoT 和 CoT-SC 通过思想树 (ToT) 进行了扩展，它用树对 LLM 推理过程进行了建模。 这有助于使用不同的思维路径，并提供新颖的功能，例如结果 …

ToT将问题建模成对一棵树进行搜索的过程，树的每个节点代表着部分解决方案和当前的思路。 一个ToT需要解决四个问题：1.如何将中间过程分解为思考步骤？

思维树（tot） 是一种通过将复杂问题分解为更易于解决的小问题，为llm推理提供了一个更结构化的提示框架。 与在链中推理的CoT不同，ToT以树的形式组织其解决问题的策略。

2024年6月8日 · 本文我们深入学习了改进大模型推理能力的三种方法：CoT、ToT、ReAct。 并从使用和实现的角度，进行了详细讲解。 CoT目前来看已经集成进了大模型内部，通过在Prompt中加入一些提示词（Let's think step by step）即可唤醒大模型的CoT思考能力。 对于ToT，有实现代码参考，就是在思维链的基础上，每一步不再是只有一个结果，而是采样多个分支，综合评估。 对于ReAct，则是从推理过程，结合外部工具共同实现最终目标。 ReAct 与 CoT和ToT 的本质区 …

2025年3月21日 · 思维链(Chain of Thought,CoT)，思维链就是一系列中间的推理步骤(a series of intermediate reasoning steps)，通过要求模型在输出最终答案之前，显式输出中间逐步的推理步骤这一方法来增强大模型的算数、常识和推理能力。

2024年11月13日 · TOT全称为Tree of Thoughts，翻译过来就是“思维树”，也属于一种新型的语言模型推理框架，主要在于推动LLM 模拟人类的决策过程，以解决复杂的任务问题。 虽然两者在外形和工作原理上很相似，但ToT和CoT属于两种不同的思维方式和技术。

2023年12月21日 · tot 与 cot+sc 类似，也是先分步骤，然后每个步骤多个结果，不同的是，cot+sc 是并列输出多个结果。 而 TOT 是在每一步的多个结果中进行选择，然后再进行下一步，输出多个结果。

2023年6月5日 · 为了解决这些问题，研究者提出了用语言模型解决通用问题的思维树框架（ToT），让 LLM 可以探索多种思维推理路径。 现有的方法，如 IO 、 CoT 、 CoT-SC，通过采样连续的语言序列进行问题解决。 而 ToT 主动维护了一个思维树。 每个矩形框代表一个思维，并且每个思维都是一个连贯的语言序列，作为解决问题的中间步骤。 ToT 将任何问题定义为在树上进行搜索，其中每个节点都是一个状态 s=\left [x, z_ {1 \cdots i}\right] s =[x,z1⋯i]，表示到目前 …

2025年1月7日 · 论文作者使用GPT-4作为基座模型，分别采用IO、COT、TOT三种策略，分别在24 game、creatving writing做测试，结果如下： Results. As shown in Table 3, IO and CoT prompting methods perform poorly with a word-level success rate less than 16%, while ToT significantly improves all metrics, achieving a word-level success ...

CoT 构造主要将传统线形，链式的 CoT 转化为如表格、树状、图状格式，代表工作有非常出名的 PoT，Tab-CoT，ToT 以及 GoT-Rationale，下面这张图非常清晰的展示了这四种方法的异同：