大模型为什么会“突然变聪明” 从一个中学公式说起

  人们第一次真正感到震惊，往往不是在听到“人工智能又赢了”的新闻时，而是在亲自和一个大模型对话之后：它能写诗、能解题、能反驳你的逻辑，甚至能察觉你话语背后的情绪。这种聪明，究竟是从哪里来的？

  从中学公式说起

  理解大模型，不妨从一道中学数学题入手。

  我们都学过一次函数：Y=aX+b。这个公式的本质，是用两个参数——斜率a和截距b——去描述一种规律。当通过已知数据“学习”到了a和b的具体数值后，给出任意一个输入X，就能输出Y。

  这正是“模型”的本义：对现实世界某个方面进行简化和抽象的描述，用数学公式或方程来表示。

  但现实问题远比一条直线复杂。当科学家面对语音识别、图像理解、语言对话这类复杂问题时，简单的线性公式根本无能为力。于是，他们想到了一个更有野心的方案：模拟人类大脑的信息处理方式。

  神经网络：给机器装上“数字大脑”

  人类大脑由数百亿个神经元组成，神经元之间通过突触相互连接，构成极其复杂的信息处理网络。科学家参照这一结构，设计出了“人工神经网络”（Artificial Neural Networks）。

科学家参照人类大脑，设计出“人工神经网络”（Artificial Neural Networks）

  人工神经网络的最小单元也是“神经元”。每个人工神经元接收若干输入信号，对这些信号进行加权求和，再通过一个激活函数决定是否“放电”输出，并且实现非线性表达以表征现实世界的复杂。成千上万个这样的神经元按层次组织起来，就形成了包含输入层、隐藏层和输出层的神经网络。

  以车牌识别为例：一张车牌图像输入后，输入层负责接收像素数据，中间的隐藏层逐层提取边缘、纹理、字符等特征，输出层最终判断出对应的字母和数字。这套结构能处理的复杂度，远超任何一个线性公式。网络中成千上万个神经元之间的连接权重，就是成千上万个需要寻找的模型参数“a”和“b”。

  但神经网络真正的飞跃，来自一个2017年被提出的划时代架构——Transformer。

  Transformer：解放并行运算的关键

  在Transformer出现之前，传统神经网络处理语言时，必须像串行电路一样，一个词、一个词地按顺序处理。这不仅导致计算速度慢，而且由于“记忆力”有限，模型很容易遗忘前面的长文本内容。Transformer引入了一种叫作“自注意力机制”（Self-Attention）的结构：在处理每一个词时，模型能同时“看到”句子中的所有词，计算它们之间的相互关联（权重），同时它支持并行运算。

Transformer引入了一种叫作“自注意力机制”（Self-Attention）的结构

  这就好比，传统方法是逐字朗读一篇文章再理解，而Transformer是把整篇文章平铺开，一眼扫过，同时捕捉全篇词与词之间的微妙关系。效率和性能都得到了显著提升。

  从数学本质看，大语言模型仍然是一个“概率预测模型”——根据已输入的文本，计算下一个词出现的概率分布，然后选出概率最高的词输出。这个“文字接龙”的原理看似简单，却在规模扩大后催生了惊人的智能。原因就藏在一个被称为“规模定律”的发现里。

  规模定律：暴力美学的胜利

  科学家通过大量实验发现了一个简洁而震撼的规律：大语言模型的性能，与三个核心变量之间存在极其稳定的幂律关系，这三个变量是：

  模型大小：神经网络的参数数量，即网络中所有“a和b”的总规模。

  数据量：训练语料的词元（Tokens）规模；

  算力：训练所需的总浮点运算量（FLOPs）；

  这三个变量任意一个持续增长，模型性能就会相应提升，而且这种提升关系非常稳定，可以被精准预测。换言之：只要持续投入资源，把模型做得更大、喂给它更多数据、提供更强算力，性能就一定会提高。

  规模，是通往智慧最可靠的路径。

  涌现：智能的“相变”

  但规模带来的不只是线性、匀速的进步，还有一种更令人惊讶的现象——涌现（Emergence）。

  当模型规模（参数量或算力投入）跨过某个关键的临界阈值时，一种此前完全不存在的能力，会突然爆发式地出现。在小规模时，模型可能完全无法完成复杂推理、写代码或理解幽默，表现接近随机乱猜；而一旦规模跨过临界点，模型突然就能做到了——理解长篇文章、进行多步逻辑推演，甚至“零样本”完成从未见过的任务。

  这种现象，极像物理学中的“相变”。

  水在0℃以下是冰，固态而坚硬；随着温度升高，一旦跨过0℃的临界点，它就变成了流动的液体。冰并没有“慢慢变湿”，而是在某个临界点发生了本质的跃迁。智能也是如此，在特定规模下，它发生了本质变化，涌现出通识推理、反思能力、零样本学习等此前不具备的能力。

  正是这一发现，让整个人工智能领域意识到：大语言模型不是“一个更大的搜索引擎”，而是一个在特定规模下，能自发涌现出高级认知能力的全新技术范式。

  算力成为新的生产力

  理解了规模定律和涌现，就能理解为什么算力在今天变得如此关键。

  如果说工业时代的核心生产力是电力，煤矿和天然气是燃料，发电厂是转化机器，输电线路是传输网络，那么在智能时代，数据就是新的燃料，算力平台就是新的发电厂，大模型是将数据浓缩为知识和数字资产的转化装置，而最终输出的智能，正在渗透到金融、医疗、交通等千行百业。

  这种渗透，推动了AI从“感知”向“认知”的范式转变。过去，AI擅长识别图像、翻译语言；现在，它开始真正“理解”世界。

  但理解，终究还停留在数字空间。智能如何走出屏幕，走进物理现实，去触摸世界、搬运物品、真正陪伴人类？——这就是具身智能试图回答的问题。

  本文系浙江大学教授、博士生导师、浙江大学具身智能感知与控制实验室（ZEAL Lab）负责人、中国仪器仪表学会科普专家、浙江省仪器仪表学会监事长侯迪波在“智感世界·仪创未来”系列科普直播之从感知到控制：读懂具身智能新科技的主题分享，光明网记者肖春芳整理