大模型到底在做什么？

一、它做的事，字面上就这么简单

给它一段文字，它算出「下一个词最可能是什么」，抽一个，接上去，再算下一个。 重复几百次，就是一段回答。

听起来过于简单，简单到不像能干活。但它能干活的原因也很朴素： 人类写下的文本里，藏着任务的模式。 互联网上有海量的「提问—解答」「报错—修复」「原文—摘要」， 这些成对出现的文本，把「遇到这种开头，接下来该写什么」编码进了模型里。

所以它不是「理解」了你的问题，是「见过太多类似的开头」。这个区别在很多场景里不影响结果， 在另一些场景里是致命的——下面三条就是。

二、后果一：它没有记忆，只有这段对话

模型本身不保存任何东西。你觉得它「记得」你，是因为这段对话的全文每次都重新喂给它一遍。 关掉窗口，一切归零。

更麻烦的是上下文有长度上限。对话越长，最早的内容越可能被挤出去—— 这就是为什么长对话到后面，它会突然忘掉你最开始定的规则。

对应做法：重要的背景（你的角色、格式要求、禁止事项）不要只说一次。 要么放在每次提问的开头，要么写成一个模板，每次贴。

三、后果二：它擅长常见模式，不擅长罕见模式

写一封辞职信、把这段话改得更正式、给这篇文章起五个标题——这些任务在训练数据里出现了几百万次， 它做得又快又稳。

但你公司内部那套「只有我们这么干」的审批流程、你们行业的黑话、 你老板特有的表达习惯，训练数据里没有。它不会「学」，它只会往最常见的模板上靠。 于是你会得到一份看起来专业、但完全不适用于你的东西。

对应做法：越是「只有你们这样」的任务，越要把材料喂给它—— 你们的模板、真实的样例、上一版被批准的文件。它模仿能力极强，前提是你给它模仿的对象。

四、后果三：编造和回答，是同一个动作

它没有「我不知道」这个默认选项。当上下文不足以支撑一个可靠的下一个词时， 它仍然会算出一个「最可能的词」——这就是幻觉的来源。 它不是骗你，它是必须说点什么。

所以幻觉不是偶发故障，是这套机制的正常产物。它出现的概率，取决于训练数据里这个问题的答案有多常见。 冷门事实、具体数字、人名日期、引用出处——这些地方最容易出错。

对应做法：凡是「可以查证」的内容，都要查证。 它的定位是起草者，不是信息源。这一条在第九课会展开讲具体方法。

五、所以该怎么用它

把三条结论合成一句使用原则： 把它当成一个读过很多书、但今天刚来上班的同事。

• 他不知道你们公司的规矩，你得告诉他
• 他学得很快，给他看两个范例就够
• 他态度很好，但会为了不让你失望而编答案，所以关键结论要复核

这个比喻不精确，但它比「人工智能」「大模型」这些词更能指导你每天的动作。

六、既别神化，也别贬低

神化的人会说「它什么都懂」，然后被一次幻觉打脸，从此不信； 贬低的人会说「它就是个概率机器」，然后错过它真正擅长的部分——起草、改写、归类、扩写、翻译。

其实这两种态度都偷懒。准确的说法是：它能覆盖大量「给定上文、产出合理下文」的任务， 而这些任务恰好占了知识工作的很大一块。 剩下那部分——判断、负责、承担后果——它做不了，也不该让它做。