第二堂课:从几个转折理解AI发展
AI的发展不是一种能力依次取代另一种能力。搜索、学习、识别、生成和规划长期并存,也会相互结合。这一堂选择几个代表事件,理解人们解决问题的方法怎样变化。
我们不把时间线当作完整历史,也不以一个成绩定义机器的全部智能。重点是每个案例承担什么任务、采用哪些方法,以及结果能支持怎样的判断。
01 用事件理解方法
1997年的深蓝、2016年的AlphaGo、2017年的Transformer论文,以及2020年的GPT-3论文,分别提供了观察搜索、学习、结构设计和语言任务的入口。
它们不能被简化成“以前只会计算,后来才开始智能”。深蓝也需要搜索策略和局面评估;AlphaGo同样结合学习与搜索。技术变化常常来自组合方式与条件的改进。
深蓝:计算能力需要组织
IBM对深蓝的介绍强调了大规模局面评估能力。但“能评估很多局面”不等于“穷举了所有可能棋局”。搜索空间、评估方法和计算资源要共同考虑。IBM历史介绍
这与资料工作有一点相通:材料很多,不意味着每一条都应该用相同方式处理。需要根据目标决定查哪里、比较什么,以及何时停止。不过,这只是帮助理解组织计算的类比,不把人和机器的思考方式等同。
02 AlphaGo:学习与搜索共同工作
AlphaGo在2016年与李世石的五局比赛中取得4比1的结果。这个事件可以帮助我们认识,模型如何从数据和经验中形成判断,再与搜索结合。官方项目介绍
原始研究结合了人类棋局学习、自我对弈、策略网络、价值网络与树搜索。策略帮助选择方向,价值估计帮助比较局面,搜索继续探索后续可能。原论文
为什么不能只用“直觉”解释
“机器直觉”可以作为比喻,但不能替代机制。一个看起来不寻常的选择,背后仍有训练、表示、评估和搜索。
同样,看到AI给出巧妙方案,也需要问:它基于什么输入,调用了什么工具,结果怎样被检验。新奇本身既不证明正确,也不证明错误。
这个成绩能说明什么
它证明了相应系统在围棋任务中的表现。不能直接推出它能诊断疾病、判断法律问题,或承担所有现实决策。任务之间的输入、规则和成功标准差异很大。
03 从结构设计到语言任务
2017年的Transformer论文提出以注意力机制为核心的结构。注意力让模型在计算表示时利用不同位置之间的关系;它不等于自动访问外部文献库。Transformer论文
2020年的GPT-3研究展示了大规模自回归语言模型在多种任务上的少样本表现,同时也报告了局限。它的1750亿参数是一个具体模型的规模,不是所有模型突然“开窍”的门槛。GPT-3论文
规模不是唯一解释
数据、结构、训练方式、计算资源和评价方法都影响结果。把能力变化完全归结为参数多,会遮住这些因素,也无法解释同等规模模型之间的差别。
“会完成一些任务”和“理解方式与人相同”,同样不是一个命题。课程更关注可检查的表现,而不是急着为意识或理解争论给出终局答案。
04 科学中的AI:预测也有适用范围
蛋白质结构预测提供了另一个视角。模型输入、输出和置信信息可以帮助研究者提出和分析问题,但预测结构不是实验测定本身。
2024年诺贝尔化学奖的一半授予Demis Hassabis与John Jumper,表彰蛋白质结构预测方面的贡献;另一半授予David Baker,表彰计算蛋白质设计。获奖主体是科学家,不能简单说AI软件自己获得了诺贝尔奖。官方说明
从预测到实际用途,中间还需要工作
一个预测可以很有价值,也可能在不同位置或条件下存在不同程度的不确定性。后续用途需要结合研究目标、置信信息和其他证据。
这与生成一段文字有共同之处:输出形式越完整,越需要注意它究竟支持了哪一步,而不是顺势把后续成果也算在里面。
05 怎样阅读一次“能力突破”的消息
先明确任务。比赛、考试、图像识别和真实工作,不能直接混成一种分数。再看条件:使用哪个版本,输入是什么,允许哪些工具,有没有多次尝试。
然后看结果如何获得。单个成功样例、完整测试集、独立复现和长期运行记录,能够支持的判断不同。最后回到自己的用途,判断这些条件是否相近。
例子:从一道难题到实际工作
假设系统解出了一道困难数学题,这说明相应条件下的解题表现。你若需要它整理活动预算,还要检查数据读取、单位、计算工具与输出表格。数学题的成功不能代替这些检查。
例子:从宣传视频到长期使用
一个剪辑展示了完整流程,却可能省略失败、等待和修订。视频可以介绍功能,不能单独证明所有人在所有条件下都能得到相同结果。
阅读进展时,既看见新的可能,也保留问题的具体条件,比给AI整体贴上一个标签更有帮助。
案例走读:怎样阅读一条“超越人类”的新闻
设想一条报道说:“新模型在某测验上超过专家。”可以先把标题改写成四个完整问题:测试是什么,谁参加了比较,输入条件是否一致,分数怎样计算。
例如,一组固定选择题主要检查已给条件下的选项判断;真实咨询还需要追问缺失信息、识别异常、说明不确定性,并承担后续工作。前者表现好具有价值,但不能直接替代后者的全部评价。
| 读到的表述 | 下一步看什么 |
|---|---|
| 得分很高 | 测验范围、题型、样本与评分方式 |
| 达到专家水平 | 专家的任务、时间和可用工具是否相同 |
| 比上一代进步 | 是否在同样条件下比较,是否牺牲其他表现 |
| 已能广泛应用 | 是否有真实流程、持续运行和失败记录 |
这里没有否认技术进步。我们是在让结论与证据保持同样大小。回看AlphaGo、Transformer与科学研究,也可以用这套办法:说清真实突破,同时保留它没有回答的问题。