新系列开张。前面八篇都在讲怎么防,这个系列换个方向,聊聊怎么把 AI 用明白:模型怎么选,它到底能干什么、不能干什么,怎么问,钱怎么花才不冤。
不过动手之前,我想先花两篇打个底,这篇讲历史,下一篇讲原理。不是我爱掉书袋,而是很多让人纳闷的事,比如它为什么文章写得比我好、却能一本正经地胡说八道,为什么订阅这么贵,为什么翻来覆去就那几家公司,答案其实都在它是怎么一路走过来的。
放心,没有公式。当故事看就行。
一、起点:一个问题和一个名字
1950 年,英国数学家图灵发了一篇论文,开头第一句就是:机器能思考吗?
他自己也知道“思考”这个词扯不清楚,于是换了个能动手验证的问法:让一个人隔着屏幕,同时跟一台机器和一个真人打字聊天,要是他分不出哪边是机器,就算机器过关。这就是后来人人都听过的图灵测试。
名字是六年后才有的。1956 年夏天,几个年轻学者在美国达特茅斯学院办了个研讨会,发起人麦卡锡为了申请经费,在提案里给这个方向起了个名字,叫 Artificial Intelligence,人工智能。
那份提案现在读起来挺好笑的。大意是:我们找十个人,干一个夏天,应该就能在“让机器使用语言、形成概念”这些问题上取得重大进展。
这大概是科技史上最早的画饼之一。一个夏天的活,最后干了快七十年。
二、第一条路:把规则写给机器
早期大家的想法很朴素:聪明不就是会推理吗,推理不就是按规则办事吗。那人把规则一条条写清楚,机器照做就完了。
这条路出过不少唬人的东西。1966 年麻省理工有个叫 ELIZA 的聊天程序,扮演心理咨询师,其实只会抓你话里的关键词再反问回来。你说“我最近和我妈吵架了”,它就回“跟我说说你的家庭”。就这么个东西,真有人对着它掏心掏肺,连作者自己都被吓到了。
到了 1980 年代,这条路升级成了“专家系统”:把某个行业老师傅的经验,整理成几千条“如果怎样,那么怎样”。有公司拿它来配置计算机订单,确实省了钱。日本政府一看,直接砸钱搞了个十年的国家计划,要造“第五代计算机”。
然后就翻车了。
问题出在现实世界的规则根本写不完。你怎么认出一只猫?你怎么知道对方那句话是在开玩笑?这些事人做起来不过脑子,可真让你把规则写下来,你写不出来。规则系统只要碰到没写进去的情况,立刻变成人工智障;规则堆得越多,互相打架的也越多,改一条崩一片。
牛吹出去了,货交不出来,后果就是经费被砍。这种事前后发生过两次,一次在 1970 年代中期,一次在 1980 年代末,后来被叫做 AI 寒冬。那些年“人工智能”这几个字在学术圈差不多是个脏词,写进经费申请里基本等于自杀,大家纷纷改口说自己做的是“模式识别”“统计学习”。
三、第二条路:让机器自己学
另一拨人从一开始押的就是反方向:别写规则了,给机器看一大堆例子,让它自己悟。这就是机器学习。其中有一支照着大脑的样子,拿大量简单的计算单元互相连起来,叫神经网络。
这一支的命是真苦。
1958 年就有人做出了最早的神经网络,叫感知机,当时的报纸吹它将来能走路、能说话、能有自我意识。结果 1969 年有两位大佬出了本书,从数学上证明这种单层的网络连一些很简单的问题都搞不定。一盆冷水下去,这个方向凉了十几年。
1986 年迎来第二春。辛顿(记住这个名字,后面还要出场好几次)和同事发了一篇论文,让“反向传播”这个训练方法火了起来,多层的神经网络总算能训练了。
道理是通了,可还是跑不起来。神经网络得看海量的例子才学得会,而那个年代既没有那么多整理好的数据,电脑也慢得要命。于是它又坐了二十多年冷板凳。那段时间坚持做神经网络的人,在同行眼里大概跟民科差不多。
中间插播一条:1997 年 IBM 的“深蓝”赢了国际象棋世界冠军卡斯帕罗夫,当年轰动得不行。但深蓝走的其实还是第一条路,靠人写的评估规则加上暴力穷举。它不会学,换个游戏就得从头再来。
四、2012:三样东西凑齐了
神经网络缺的那两样东西,最后是别的行业顺手送来的。
先是数据。互联网起来之后,文字和图片多到用不完。2009 年李飞飞的团队放出了 ImageNet,上千万张人工标注好的图片,还每年办一次识图比赛。
再是算力。这个最有意思:显卡本来是给人打游戏用的,结果大家发现,它擅长的那种“同时做一大堆简单计算”,正好就是神经网络要的。老黄的英伟达后来能成为全球最值钱的公司之一,源头就在这儿。
算法反而是现成的,反向传播早就躺在那儿了。
2012 年的 ImageNet 比赛,辛顿带着两个学生,用两块游戏显卡练出了一个深层神经网络,后来人称 AlexNet。它的错误率是 15% 左右,第二名是 26% 左右。
要知道这个比赛往年都是一两个百分点地往前挪。这已经不叫赢了,这叫吊打。第二年再去看参赛名单,几乎全员改用神经网络。
那两个学生里有一个叫苏茨克维,先记一下,这人后面戏份很重。
此后几年,“深度学习”把图像识别、语音识别、机器翻译挨个扫了一遍。2016 年 AlphaGo 四比一赢了李世石,算是彻底出圈,连我家里不碰电脑的长辈都在问这是个啥。
但这时候的 AI 有个明显的毛病:一个模型只会一件事。认图的不会下棋,下棋的不会翻译。处理语言的那类模型还有个硬伤,它得一个词一个词按顺序读,句子一长,读到后面就把前面忘了,而且这种读法没法并行,显卡再多也使不上劲。
五、2017:Transformer
2017 年,谷歌的八个研究员发了一篇论文,标题相当嚣张,叫 Attention Is All You Need,你只需要注意力。里面提出了一种新的网络结构:Transformer。
细节留给下一篇,这里说人话:以前的模型是一个字一个字往下读,Transformer 是一眼把整段话看完,然后自己判断哪个词跟哪个词有关系。
好处有两个。一是长文章里前后的关联它抓得住了;二是整个计算可以并行,正好喂给显卡。合起来的意思就是:模型可以做得巨大,数据可以喂得巨多,而且越大越多,效果越好。
今天你听说过的 AI,ChatGPT、Claude、Gemini、Grok,底下全是它。GPT 最后那个 T 就是 Transformer。这篇论文算是整个行业的祖师爷,讽刺的是,发明它的谷歌自己起步反而慢了半拍,这个后面再说。
接下来就是开卷,卷规模。OpenAI 在 2018 年做出了第一代 GPT,训练方法简单到有点离谱:把网上能找到的文字都拿来,让模型翻来覆去只练一件事,猜下一个词是什么。
没人教它语法,没人教它常识,更没人教它逻辑。可它为了把下一个词猜准,只能自己把这些东西都学进去。到 2020 年的 GPT-3,写出来的文章和代码已经像模像样了。
这就是圈里人常说的“大力出奇迹”。训练模型这件事也因此得了个外号叫“炼丹”:材料扔进去,火烧起来,出来的东西好不好,很大程度上靠经验和运气,为什么好,炼的人自己也未必说得清。
研究者萨顿在 2019 年写过一篇很短的文章,叫《苦涩的教训》,把这七十年总结成一句话:凡是人费尽心思把自己的知识塞进机器的办法,长远看都输给了“通用的方法加上更多的算力”。为什么说苦涩?因为这等于告诉几代研究者,你们最得意的那些巧思,不如多买几块显卡。
六、2022:ChatGPT
2022 年 11 月 30 日,OpenAI 把一个模型套了个聊天框扔到网上,这就是 ChatGPT。据估计它两个月用户就过了亿,当时没有哪个应用涨得这么快。
有个事很多人不知道:ChatGPT 在技术上其实没什么大突破,底下的模型跟之前的 GPT-3 是一家子。它改的是入口。以前想用这类模型,你得会写代码、会调接口;现在会打字就行。东西早就在那儿了,换了个门,普通人才走得进来。
后面的事你大概都有印象。2023 年 GPT-4 发布,同年 Anthropic 推出了 Claude,谷歌、Meta 全部下场。模型开始能看图,能听能说,能联网搜东西,后来学会了先“想一会儿”再开口,再后来能自己动手操作工具,一步一步把一整件事干完。
说到 Anthropic 得插一嘴,因为这里面的瓜实在太多了。
Anthropic 是 2021 年一帮从 OpenAI 出走的人办的。OpenAI 自己呢,当年是马斯克、奥特曼他们拉起来的,很大一个原因是怕谷歌在 AI 上一家独大。后来马斯克跟 OpenAI 闹掰了,官司打得满天飞,转头自己做了 xAI 和 Grok。而这几家吃饭的家伙 Transformer,偏偏又是谷歌发明的。
还有前面让你记住的那位苏茨克维:辛顿的学生,AlexNet 的作者,进过谷歌,后来成了 OpenAI 的联合创始人,2023 年还参与了那场把奥特曼赶下台、五天后又请回来的宫斗大戏。
OpenAI、Anthropic、谷歌、xAI,现在站在台前的就这四家,往上数全是熟人,师徒、同事、合伙人、被告和原告。这段恩怨情仇我单独写了一期番外,瓜子先备好。
最后补一个彩蛋。2024 年的诺贝尔物理学奖给了辛顿和霍普菲尔德,表彰他们在神经网络上的奠基工作;化学奖有一半给了用 AI 预测蛋白质结构的两个人。当年坐冷板凳被当成民科的那批人,四十年后直接封神。
七、所以今天的 AI 是这个样子
故事讲完,回头看开头那几个问题,就都说得通了。
它为什么会一本正经地胡说八道?因为它是靠猜下一个词练出来的。它学会的是“什么样的话听起来对”,而不是一张能查的事实表。听起来对和真的对,大多数时候是一回事;不是一回事的时候,它自己并不知道。
为什么这么贵,为什么就那几家在做?因为这条路的核心就是大力出奇迹,而大力是要钱的。练一个顶级模型,要烧掉成千上万块专用显卡和吓人的电费,这不是小团队玩得起的,更不是你家那台电脑玩得起的。
为什么它什么都能聊?因为它压根不是为某一件事做的。字读得够多之后,翻译、写作、写代码、答题,对它来说是同一种本事的不同用法。这是它跟 2012 年那批“只会一件事”的模型最大的不同。
为什么进步这么快,上限又没人说得准?因为过去十几年的进步主要靠“做大”,而不是靠谁真的搞懂了智能是怎么回事。炼丹炼出了仙丹,但丹方的原理还是半个玄学。再做大还灵不灵,业内自己都在吵。
我自己还有一点感想。这个行业已经凉过两回了,两回都是因为牛吹得太满。现在的热度比哪次都高,所以不管是“明年 AI 就要取代所有人”,还是“这就是个泡沫,马上要破”,我都建议听一半。这个系列后面只聊它今天实打实能做到的事。
八、时间线
| 年份 | 发生了什么 | 一句话 |
|---|---|---|
| 1950 | 图灵问“机器能思考吗” | 问题摆上台面 |
| 1956 | 达特茅斯研讨会 | “人工智能”得名,顺便画了个大饼 |
| 1958 | 感知机 | 最早的神经网络 |
| 1966 | ELIZA | 最早的聊天程序之一 |
| 1970 年代中 | 第一次寒冬 | 饼没兑现,经费被砍 |
| 1980 年代 | 专家系统大起大落 | 规则路线的巅峰,接着第二次寒冬 |
| 1986 | 反向传播火了 | 多层神经网络能训练了 |
| 1997 | 深蓝赢卡斯帕罗夫 | 规则加穷举的胜利 |
| 2012 | AlexNet | 深度学习时代开始 |
| 2016 | AlphaGo 赢李世石 | 出圈 |
| 2017 | Transformer 论文 | 今天所有大模型的祖师爷 |
| 2018–2020 | GPT 一代到三代 | 大力出奇迹,被证明管用 |
| 2022 | ChatGPT | 普通人用上了 |
| 2023 | GPT-4、Claude | 神仙打架开始 |
| 2024 | 诺贝尔物理学奖、化学奖 | 冷板凳坐成了金交椅 |
下一篇
这篇里有几个词我是一句话带过的:猜下一个词、注意力、训练。下一篇把它们掰开讲,照样没有公式,讲到够你看懂后面几篇为止:模型到底是怎么“读”你那句话的,它的记性有多长,以及它胡说的时候,脑子里究竟发生了什么。