GPT真正起作用的，不是计算。一种关于大语言模型问答能力形成机制的结构解释

当前大语言模型通常被理解为实时计算驱动的系统。本文提出另一种解释路径：GPT真正参与核心问答能力形成的，并不主要是实时计算本身，而是训练阶段逐渐形成的结构沉积。 文章提出，大语言模型内部至少存在两类不同功能的计算过程。 第一类计算用于训练，通过参数更新、误差回传与历史样本持续进入，逐渐形成稳定结构、历史偏向与长期沉积。 第二类计算用于推理，通过注意力机制决定当前哪些历史结构进入当前作用范围。 文章进一步提出：Attention更接近感受野选择，而并非真正决定问答能力核心的机制。真正参与问答能力形成的，并不是实时计算本身，而是长期历史作用形成的沉积结构，以及沉积场内部已经形成的熟径、共性结构与律续行。 文章尝试提出一种新的结构解释： “看哪——沉积哪。” 并进一步讨论训练结构、历史作用、感受选择与语言问答能力之间的关系。