Skip to content

第一堂课:看见五层地图 ​

你可能用过能聊天、写作或分析文件的 AI 产品。当它完成一件事时,我们常说“这个模型很强”;遇到错误时,又容易说“这个模型不行”。这两种判断都略过了一个问题:我们看到的结果,究竟由哪些环节共同产生?

这一堂课先建立整体地图。我们从一个具体任务开始,区分应用与模型,再向下看基础设施、芯片和能源。最后比较不同部署方式,让这张图能够解释你真实遇到的产品。

01 先说清楚我们要完成什么 ​

贯穿三堂课的虚构材料

一份社区公益讲座通知写明:10 月 22 日下午 2 点,社区活动室,名额 40 人。通知没有说明报名方式。

我们的目标是提取关键信息,做成清楚的清单,并把缺失内容留下来确认。

这个任务看似简单,却包含几个不同要求。时间、地点和人数属于原文已经提供的事实,要准确保留;报名方式没有出现,要指出材料不足。清单还要方便读者找到信息,而不是把通知换一种说法再写一遍。

如果输出写“扫描二维码报名”,句子虽然自然,却增加了没有依据的内容。如果日期、地点都正确,但缺失的报名方式没有被标出,读者仍不知道接下来应做什么。如果输出完整保留了这些条件,才值得继续用于本次任务。

这里的完成标准,与模型名字无关。我们先确定什么结果有用,再判断系统能否提供这样的结果。

先看完整任务
先看完整任务两份输入卡片汇入成果卡片。从材料出发原文:日期、地点、名额缺少:报名方式把要求说清提取清单,保留已知事实未知内容单独标出回到任务看结果准确、可追溯、方便使用材料 + 目标 + 完成标准
材料和要求共同影响成果;模型名称不是完成标准。查看原图 →

输入、操作和成果,是三个不同对象 ​

输入是通知和要求。操作包括读取文件、组织请求、生成清单。成果是最终交给读者使用的内容。

这三个对象之间不能自动画等号。“文件已经上传”只说明应用接收了某个文件,不证明正文全部读到;“系统生成了回答”不证明清单符合要求;“清单写完了”也不证明报名已经完成。

一个更清楚的描述是:系统依据通知提取了三个事实,保留了一个待确认条件。我们随后对照原文,判断是否可以采用。这样,即使以后换了产品和模型,也仍然知道怎样评价结果。

02 五层分别承担什么作用 ​

五层结构从下往上排列为:能源 → 芯片 → 基础设施 → 模型 → 应用。它让我们既看见上层的服务,也看见下层的运行条件。

五层是一张依赖地图
五层依赖地图五个层级及向上支撑、向下需求的箭头。应用面向使用者交付服务模型提供处理信息的能力基础设施组织设备、网络与运行环境芯片执行数值计算能源支持持续运行支撑 ↑需求 ↓
从下向上看支撑,从上向下看需求;各层共同工作。查看原图 →

这个框架借用了黄仁勋对 AI 产业“五层蛋糕”的表述。我们用它辨认作用和依赖关系,不把它当作所有产品必须采用的部署清单,也不借此承诺某一行业的增长或就业结果。框架来源

应用:谁在用,要做什么 ​

应用是使用者接触服务的地方,可以是网页、手机应用、桌面工具,也可以是业务系统中的一个功能。

在通知任务中,它接收文件、记录要求、安排调用,并把输出呈现成清单。应用还可能保留来源位置,提供修改入口,或连接生成文件的工具。我们所说的“好用”,常常取决于这些安排,而不仅是回答文字写得怎样。

因此,应用层要问的是:面向谁、解决什么任务、输入什么、交付什么,以及错误怎样被发现和修正。

模型:有哪些处理信息的能力 ​

模型是经过训练、能够依据输入进行计算的系统。语言模型可以组织文字,图像模型可以处理视觉信息,其他模型也可以用于识别、预测或生成不同形式的内容。

在通知任务中,语言模型依据实际收到的材料,组织时间、地点、名额和待确认信息。它不自动知道社区的最新安排,也不能因为语言流畅就获得材料之外的事实。

模型层要问的是:它适合处理哪类输入和任务,输出怎样评价,在什么条件下可能失败。这里的能力需要结合具体任务理解。

基础设施:让设备形成可用服务 ​

模型需要运行环境。设备要连接,输入要传递,权重和文件要存取,请求要安排,结果要返回。网络、存储、调度、软件环境和运维,把硬件组织成了可持续使用的服务。

有时模型本身具备处理能力,服务却因为资源不足、排队或网络问题无法及时响应;有时资源很充足,权限和环境配置却让文件无法访问。这些问题不能都归成模型能力不足。

基础设施层要问的是:资源在哪里,怎样组织,谁能访问,发生错误时怎样恢复。

芯片:执行实际数值计算 ​

CPU、GPU等处理器执行计算。GPU的并行计算特点适合许多AI工作,但任务的真实表现还与内存、数据传递、软件支持和计算组织方式有关。

芯片与基础设施是不同的观察层。前者看设备的计算与数据处理条件,后者看怎样把这些设备连接、调度和维护。一块性能很强的芯片,不会自行组成完整服务。

芯片层要问的是:硬件与软件是否适合当前计算,数据能否及时到达,资源有没有被有效使用。

能源:支持设备持续工作 ​

训练模型要用电,日常运行模型也要用电。计算设备、存储、网络和冷却系统,都依赖能源和相应的工程条件。

在五层框架中,能源层主要看电力来源与供给保障;供配电、散热和机房环境怎样被工程化落实,则与基础设施层紧密相连。这说明层级用于区分作用,并不把现实系统隔成互不相干的盒子。

能源层要问的是:供给能否支撑所需规模和可靠性,运行中的热量怎样被移走。不能仅凭输出字数,就推算整个服务消耗了多少能源。

03 层与层之间是什么关系 ​

如果从下往上看,能源支持设备工作,芯片承担计算,基础设施组织资源,模型提供能力,应用把这些条件连接到具体任务。

如果从上往下看,使用者希望系统更快、更可靠或在指定环境处理数据,这些需求会影响应用设计、模型选择、部署方式,以及硬件和运行条件。

支撑关系与需求关系同时存在。 只有底层资源,没有清楚任务,未必产生有价值的服务;只有上层想法,缺少合适运行条件,也难以持续实现。

五层不是一次请求的五个步骤 ​

图上的箭头表示依赖,不表示先把能源“执行完”,再开始芯片计算。模型运行时,供电、计算、存储和网络已经同时在参与。

第二堂课会把一次请求拆成读取、组织、运行、返回和核对等环节。产业地图与服务过程图分别回答“依赖哪些条件”和“实际怎样进行”,两者可以互相解释,但不能混用。

数据也不能只放进一个盒子 ​

训练数据影响模型形成的能力,当前材料影响这次回答,系统日志支持故障排查,业务反馈支持后续改进。它们在多个层级发挥作用。

权限也是如此:应用要判断使用者可以访问什么,运行环境要控制资源和文件的访问,输出还要符合相应信息边界。人才、流程和治理同样贯穿多层。

理解五层时,保留这种跨层联系,比把所有对象都硬分到唯一类别更有用。

04 为什么同一个模型,产品能力却不同 ​

现在考虑两个应用。它们调用同一个语言模型,但应用 A 只提供聊天界面,应用 B 还连接了文件生成工具,并获得了相应操作权限。

你要求“做成一份可以下载的文档”。应用 A 可能提供正文和排版建议,应用 B 则可能把内容交给工具,生成可打开的文件。区别不一定发生在模型层。

模型相同,应用能力可以不同
同模型不同应用一个模型分支到文字应用和有文件工具的应用。同一个模型根据当前输入计算并生成输出应用 A接收文字,组织问题呈现文字回答应用 B连接文件生成工具组织可打开的产物工具、权限和流程,会改变产品能力
模型与应用之间,还存在工具、权限和流程的组合。查看原图 →

工具连接改变了能完成的动作 ​

文字生成、表格计算、读取文件和发送通知,是不同的动作。模型可以提出计划或生成内容,但实际执行还需要产品连接相应工具,以及工具能够处理正确对象。

这也解释了为什么某个演示里能完成任务,换一个环境却做不到。可见的聊天框相似,背后的工具、权限、文件和运行地点却可能不同。

比较产品时,可以问三个问题:实际读取了什么,实际操作了什么,最终留下了什么。再用原件、文件或目标系统中的状态核对,而不是只接受“已经完成”的文字。

同一个产品也可能组合多个模型 ​

一个产品可以在不同环节使用不同能力:用识别工具读取扫描件,用语言模型组织文字,用其他工具完成计算和文件生成。也可能按任务选择不同模型。

因此,产品、模型和任务能力之间不是一一对应。我们仍需看实际组合如何服务目标,不能只从界面名称推断内部实现。

05 模型在什么地方运行 ​

在你电脑上打开应用,是一个界面事实。模型在你电脑上计算,是另一个运行事实。前者不能自动证明后者。

界面位置与运行位置
部署位置本地界面连接远端服务,内部应用连接内部运行环境。本地界面你看到的窗口可以连接远端服务远端运行模型与计算资源结果经网络返回内部应用组织内部的入口按权限访问材料内部运行模型与数据的边界仍需要访问与日志管理看数据实际流向哪里
同样在本地看到窗口,请求也可能进入不同运行环境。查看原图 →

云端运行 ​

应用把请求发送到远端服务,远端计算后返回结果。使用者需要关注网络、服务可用性、实际传输的数据,以及服务端的权限和数据管理方式。

云端也不意味着所有内容都会自动获得访问。应用传入了哪些材料、远端拿到了什么权限,需要分别看。

本地或内部运行 ​

模型运行在自己的设备或组织内部环境。这里也需要足够硬件、合适软件、维护和访问管理。

内部运行可能帮助落实某些数据边界,但本地文件、运行日志、复制出来的结果和其他工具连接,仍要管理。部署位置只改变了一部分条件。

混合运行 ​

同一项任务可能跨多个环境:本地读取材料,内部服务检索规则,再由另一个服务处理允许传出的内容。适合怎样分配,要根据实际目标和信息边界判断。

这时最重要的是画清数据流向。哪些内容离开了哪个环境,在哪个环节被保存,谁能够访问,结果又回到了哪里。一个“混合”标签不能替代这张图。

06 用五层解释三个常见疑问 ​

“为什么换了模型,仍然生成不了文件?” ​

先看产品是否连接了文件工具,工具是否得到需要的输入和权限。模型的文字能力可能提升,产品仍未具备文件生成条件。换模型改变的只是完整系统的一部分。

“为什么模型很强,处理通知却还是写错日期?” ​

先核对实际读取到的材料、版本和输入,再比较输出。扫描件识别漏行、旧通知进入请求、模型生成错误,都可能产生类似表现。五层帮助定位要查的条件,不能只凭结果锁定唯一原因。

“为什么需要关心电力?我只是输入了几行字。” ​

文字是使用者看到的结果,背后仍有设备计算和数据传递。用量是否很大需要具体测量,但物理依赖始终存在。理解这种依赖,可以帮助我们把成本和规模放回完整系统中看。

这一堂课的回顾 ​

从一个任务出发,区分应用与模型,再向下找到基础设施、芯片和能源。五层之间共同支撑服务,数据、权限和人则跨层参与。

请试着不看原文,解释下面三个问题:

1. 应用层与模型层的区别是什么?

模型提供处理输入的能力;应用组织面向使用者的任务、材料、工具和结果。二者要结合具体流程,才能判断完整服务。

2. 基础设施与芯片为什么要分开看?

芯片承担计算;基础设施把计算设备、网络、存储、运行环境和调度组织成可用服务。设备性能和系统运行效果需要分别评价。

3. 为什么“应用在本地”不证明“数据在本地处理”?

界面可以向远端发送请求。应核对实际部署和传输,而不是只看窗口或文件位于哪里。

第二堂课:追踪一次 AI 服务 · 返回本章总览

本课延伸阅读 ​

微信联系

李不凯的个人微信二维码,扫码添加好友

使用微信扫一扫,手机上可长按保存二维码