Skip to content

第二堂课:从几个转折理解AI发展 ​

AI的发展不是一种能力依次取代另一种能力。搜索、学习、识别、生成和规划长期并存,也会相互结合。这一堂选择几个代表事件,理解人们解决问题的方法怎样变化。

我们不把时间线当作完整历史,也不以一个成绩定义机器的全部智能。重点是每个案例承担什么任务、采用哪些方法,以及结果能支持怎样的判断。

01 用事件理解方法 ​

1997年的深蓝、2016年的AlphaGo、2017年的Transformer论文,以及2020年的GPT-3论文,分别提供了观察搜索、学习、结构设计和语言任务的入口。

用代表事件观察技术变化
用代表事件观察技术变化深蓝 1997:搜索与评估结合;AlphaGo 2016:学习与搜索结合;Transformer 2017:注意力架构;GPT-3 2020:观察少样本能力深蓝 1997搜索与评估结合AlphaGo 2016学习与搜索结合Transformer 2017注意力架构GPT-3 2020观察少样本能力
用代表事件观察技术变化;图中数量、箭头和节奏用于说明关系。查看原图 →

它们不能被简化成“以前只会计算,后来才开始智能”。深蓝也需要搜索策略和局面评估;AlphaGo同样结合学习与搜索。技术变化常常来自组合方式与条件的改进。

深蓝:计算能力需要组织 ​

IBM对深蓝的介绍强调了大规模局面评估能力。但“能评估很多局面”不等于“穷举了所有可能棋局”。搜索空间、评估方法和计算资源要共同考虑。IBM历史介绍

这与资料工作有一点相通:材料很多,不意味着每一条都应该用相同方式处理。需要根据目标决定查哪里、比较什么,以及何时停止。不过,这只是帮助理解组织计算的类比,不把人和机器的思考方式等同。

02 AlphaGo:学习与搜索共同工作 ​

AlphaGo在2016年与李世石的五局比赛中取得4比1的结果。这个事件可以帮助我们认识,模型如何从数据和经验中形成判断,再与搜索结合。官方项目介绍

AlphaGo怎样组织能力
AlphaGo怎样组织能力人类棋局:学习落子的相关模式;自我对弈:通过结果改进行为;策略与价值:选择方向评估局面;树搜索:计算后续可能结果人类棋局学习落子的相关模式自我对弈通过结果改进行为策略与价值选择方向评估局面树搜索计算后续可能结果联系与区别
AlphaGo怎样组织能力;图中数量、箭头和节奏用于说明关系。查看原图 →

原始研究结合了人类棋局学习、自我对弈、策略网络、价值网络与树搜索。策略帮助选择方向,价值估计帮助比较局面,搜索继续探索后续可能。原论文

为什么不能只用“直觉”解释 ​

“机器直觉”可以作为比喻,但不能替代机制。一个看起来不寻常的选择,背后仍有训练、表示、评估和搜索。

同样,看到AI给出巧妙方案,也需要问:它基于什么输入,调用了什么工具,结果怎样被检验。新奇本身既不证明正确,也不证明错误。

这个成绩能说明什么 ​

它证明了相应系统在围棋任务中的表现。不能直接推出它能诊断疾病、判断法律问题,或承担所有现实决策。任务之间的输入、规则和成功标准差异很大。

03 从结构设计到语言任务 ​

2017年的Transformer论文提出以注意力机制为核心的结构。注意力让模型在计算表示时利用不同位置之间的关系;它不等于自动访问外部文献库。Transformer论文

2020年的GPT-3研究展示了大规模自回归语言模型在多种任务上的少样本表现,同时也报告了局限。它的1750亿参数是一个具体模型的规模,不是所有模型突然“开窍”的门槛。GPT-3论文

规模不是唯一解释 ​

数据、结构、训练方式、计算资源和评价方法都影响结果。把能力变化完全归结为参数多,会遮住这些因素,也无法解释同等规模模型之间的差别。

“会完成一些任务”和“理解方式与人相同”,同样不是一个命题。课程更关注可检查的表现,而不是急着为意识或理解争论给出终局答案。

04 科学中的AI:预测也有适用范围 ​

蛋白质结构预测提供了另一个视角。模型输入、输出和置信信息可以帮助研究者提出和分析问题,但预测结构不是实验测定本身。

结构预测与研究发现
结构预测与研究发现蛋白质序列:确定研究输入;结构预测:提出三维结构候选;置信信息:看不同位置的不确定性;实验与分析:检验生物学问题蛋白质序列确定研究输入结构预测提出三维结构候选置信信息看不同位置的不确定性实验与分析检验生物学问题联系与区别
结构预测与研究发现;图中数量、箭头和节奏用于说明关系。查看原图 →

2024年诺贝尔化学奖的一半授予Demis Hassabis与John Jumper,表彰蛋白质结构预测方面的贡献;另一半授予David Baker,表彰计算蛋白质设计。获奖主体是科学家,不能简单说AI软件自己获得了诺贝尔奖。官方说明

从预测到实际用途,中间还需要工作 ​

一个预测可以很有价值,也可能在不同位置或条件下存在不同程度的不确定性。后续用途需要结合研究目标、置信信息和其他证据。

这与生成一段文字有共同之处:输出形式越完整,越需要注意它究竟支持了哪一步,而不是顺势把后续成果也算在里面。

05 怎样阅读一次“能力突破”的消息 ​

看一次展示要问什么
看一次展示要问什么任务:究竟测了哪种能力;条件:模型输入工具和版本;证据:观察到什么结果;范围:不能外推到哪些任务任务究竟测了哪种能力条件模型输入工具和版本证据观察到什么结果范围不能外推到哪些任务联系与区别
看一次展示要问什么;图中数量、箭头和节奏用于说明关系。查看原图 →

先明确任务。比赛、考试、图像识别和真实工作,不能直接混成一种分数。再看条件:使用哪个版本,输入是什么,允许哪些工具,有没有多次尝试。

然后看结果如何获得。单个成功样例、完整测试集、独立复现和长期运行记录,能够支持的判断不同。最后回到自己的用途,判断这些条件是否相近。

例子:从一道难题到实际工作 ​

假设系统解出了一道困难数学题,这说明相应条件下的解题表现。你若需要它整理活动预算,还要检查数据读取、单位、计算工具与输出表格。数学题的成功不能代替这些检查。

例子:从宣传视频到长期使用 ​

一个剪辑展示了完整流程,却可能省略失败、等待和修订。视频可以介绍功能,不能单独证明所有人在所有条件下都能得到相同结果。

阅读进展时,既看见新的可能,也保留问题的具体条件,比给AI整体贴上一个标签更有帮助。

案例走读:怎样阅读一条“超越人类”的新闻 ​

设想一条报道说:“新模型在某测验上超过专家。”可以先把标题改写成四个完整问题:测试是什么,谁参加了比较,输入条件是否一致,分数怎样计算。

例如,一组固定选择题主要检查已给条件下的选项判断;真实咨询还需要追问缺失信息、识别异常、说明不确定性,并承担后续工作。前者表现好具有价值,但不能直接替代后者的全部评价。

读到的表述下一步看什么
得分很高测验范围、题型、样本与评分方式
达到专家水平专家的任务、时间和可用工具是否相同
比上一代进步是否在同样条件下比较,是否牺牲其他表现
已能广泛应用是否有真实流程、持续运行和失败记录

这里没有否认技术进步。我们是在让结论与证据保持同样大小。回看AlphaGo、Transformer与科学研究,也可以用这套办法:说清真实突破,同时保留它没有回答的问题。

1. AlphaGo的成功为什么不能简单称为只靠直觉? 它结合了学习、策略与价值评估及搜索。比喻不能代替这些具体机制。
2. 1750亿参数是不是能力出现的统一阈值? 不是。它是GPT-3的具体规模,能力还与数据、结构、训练和评价条件有关。
3. 一个科学预测成功,为什么仍不能等同于最终应用成功? 预测只是研究或业务中的一个环节,后续还需要适用条件、其他证据和实际验证。

第三堂课:把AI放回人的学习与工作

微信联系

李不凯的个人微信二维码,扫码添加好友

使用微信扫一扫,手机上可长按保存二维码