标题:别被“智能”骗了:大模型说到底,只是个超级“接龙高手”
核心观点:大模型的所有惊艳表现,都源于一个极其朴素的动作——预测下一个词。
很多人第一次用ChatGPT时,会产生一种错觉:它好像真的“懂”我在说什么。但真相可能要让人失望了。大模型从来不“理解”世界,它做的只有一件事:根据你给的上文,算出下一个最可能出现的词是什么。-1
这个机制听起来简单得近乎笨拙。你输入“今天天气真”,它算出“好”的概率最高;接着输入“今天天气真好”,它再算出“啊”最顺。一个词接一个词,一篇文章就“长”出来了。但正是这个看似低级的任务,逼出了高级能力。为了把下一个词猜准,模型必须学会语法、掌握事实、甚至摸清逻辑链条。你问它一道数学题,它不是在“解题”,而是在模仿海量训练数据中解题步骤的语言模式。-1-11
支撑这种能力的关键,是2017年问世的Transformer架构。在此之前,AI读句子像小学生念课文,一个字一个字啃,读到后面忘了前面。自注意力机制让模型能同时“看”整句话,瞬间判断出“它”指代的是前文的“银行”还是“开户”。再加上预训练阶段吞下的数万亿文本,以及人类反馈强化学习(RLHF)的“调教”,模型才从一个只会接话的机器,变成了看起来像助手的角色。-1-8
所以,当大模型写出流畅的代码或像模像样的报告时,不必惊呼“它有了意识”。它只是一个把“猜下一个词”练到了极致的天才接龙选手。理解这一点,你反而能更好地用它——提示词写得越具体、上下文给得越充分,它“接”出来的东西就越靠谱。