第一堂课:看见五层地图
你可能用过能聊天、写作或分析文件的 AI 产品。当它完成一件事时,我们常说“这个模型很强”;遇到错误时,又容易说“这个模型不行”。这两种判断都略过了一个问题:我们看到的结果,究竟由哪些环节共同产生?
这一堂课先建立整体地图。我们从一个具体任务开始,区分应用与模型,再向下看基础设施、芯片和能源。最后比较不同部署方式,让这张图能够解释你真实遇到的产品。
01 先说清楚我们要完成什么
贯穿三堂课的虚构材料
一份社区公益讲座通知写明:10 月 22 日下午 2 点,社区活动室,名额 40 人。通知没有说明报名方式。
我们的目标是提取关键信息,做成清楚的清单,并把缺失内容留下来确认。
这个任务看似简单,却包含几个不同要求。时间、地点和人数属于原文已经提供的事实,要准确保留;报名方式没有出现,要指出材料不足。清单还要方便读者找到信息,而不是把通知换一种说法再写一遍。
如果输出写“扫描二维码报名”,句子虽然自然,却增加了没有依据的内容。如果日期、地点都正确,但缺失的报名方式没有被标出,读者仍不知道接下来应做什么。如果输出完整保留了这些条件,才值得继续用于本次任务。
这里的完成标准,与模型名字无关。我们先确定什么结果有用,再判断系统能否提供这样的结果。
输入、操作和成果,是三个不同对象
输入是通知和要求。操作包括读取文件、组织请求、生成清单。成果是最终交给读者使用的内容。
这三个对象之间不能自动画等号。“文件已经上传”只说明应用接收了某个文件,不证明正文全部读到;“系统生成了回答”不证明清单符合要求;“清单写完了”也不证明报名已经完成。
一个更清楚的描述是:系统依据通知提取了三个事实,保留了一个待确认条件。我们随后对照原文,判断是否可以采用。这样,即使以后换了产品和模型,也仍然知道怎样评价结果。
02 五层分别承担什么作用
五层结构从下往上排列为:能源 → 芯片 → 基础设施 → 模型 → 应用。它让我们既看见上层的服务,也看见下层的运行条件。
这个框架借用了黄仁勋对 AI 产业“五层蛋糕”的表述。我们用它辨认作用和依赖关系,不把它当作所有产品必须采用的部署清单,也不借此承诺某一行业的增长或就业结果。框架来源
应用:谁在用,要做什么
应用是使用者接触服务的地方,可以是网页、手机应用、桌面工具,也可以是业务系统中的一个功能。
在通知任务中,它接收文件、记录要求、安排调用,并把输出呈现成清单。应用还可能保留来源位置,提供修改入口,或连接生成文件的工具。我们所说的“好用”,常常取决于这些安排,而不仅是回答文字写得怎样。
因此,应用层要问的是:面向谁、解决什么任务、输入什么、交付什么,以及错误怎样被发现和修正。
模型:有哪些处理信息的能力
模型是经过训练、能够依据输入进行计算的系统。语言模型可以组织文字,图像模型可以处理视觉信息,其他模型也可以用于识别、预测或生成不同形式的内容。
在通知任务中,语言模型依据实际收到的材料,组织时间、地点、名额和待确认信息。它不自动知道社区的最新安排,也不能因为语言流畅就获得材料之外的事实。
模型层要问的是:它适合处理哪类输入和任务,输出怎样评价,在什么条件下可能失败。这里的能力需要结合具体任务理解。
基础设施:让设备形成可用服务
模型需要运行环境。设备要连接,输入要传递,权重和文件要存取,请求要安排,结果要返回。网络、存储、调度、软件环境和运维,把硬件组织成了可持续使用的服务。
有时模型本身具备处理能力,服务却因为资源不足、排队或网络问题无法及时响应;有时资源很充足,权限和环境配置却让文件无法访问。这些问题不能都归成模型能力不足。
基础设施层要问的是:资源在哪里,怎样组织,谁能访问,发生错误时怎样恢复。
芯片:执行实际数值计算
CPU、GPU等处理器执行计算。GPU的并行计算特点适合许多AI工作,但任务的真实表现还与内存、数据传递、软件支持和计算组织方式有关。
芯片与基础设施是不同的观察层。前者看设备的计算与数据处理条件,后者看怎样把这些设备连接、调度和维护。一块性能很强的芯片,不会自行组成完整服务。
芯片层要问的是:硬件与软件是否适合当前计算,数据能否及时到达,资源有没有被有效使用。
能源:支持设备持续工作
训练模型要用电,日常运行模型也要用电。计算设备、存储、网络和冷却系统,都依赖能源和相应的工程条件。
在五层框架中,能源层主要看电力来源与供给保障;供配电、散热和机房环境怎样被工程化落实,则与基础设施层紧密相连。这说明层级用于区分作用,并不把现实系统隔成互不相干的盒子。
能源层要问的是:供给能否支撑所需规模和可靠性,运行中的热量怎样被移走。不能仅凭输出字数,就推算整个服务消耗了多少能源。
03 层与层之间是什么关系
如果从下往上看,能源支持设备工作,芯片承担计算,基础设施组织资源,模型提供能力,应用把这些条件连接到具体任务。
如果从上往下看,使用者希望系统更快、更可靠或在指定环境处理数据,这些需求会影响应用设计、模型选择、部署方式,以及硬件和运行条件。
支撑关系与需求关系同时存在。 只有底层资源,没有清楚任务,未必产生有价值的服务;只有上层想法,缺少合适运行条件,也难以持续实现。
五层不是一次请求的五个步骤
图上的箭头表示依赖,不表示先把能源“执行完”,再开始芯片计算。模型运行时,供电、计算、存储和网络已经同时在参与。
第二堂课会把一次请求拆成读取、组织、运行、返回和核对等环节。产业地图与服务过程图分别回答“依赖哪些条件”和“实际怎样进行”,两者可以互相解释,但不能混用。
数据也不能只放进一个盒子
训练数据影响模型形成的能力,当前材料影响这次回答,系统日志支持故障排查,业务反馈支持后续改进。它们在多个层级发挥作用。
权限也是如此:应用要判断使用者可以访问什么,运行环境要控制资源和文件的访问,输出还要符合相应信息边界。人才、流程和治理同样贯穿多层。
理解五层时,保留这种跨层联系,比把所有对象都硬分到唯一类别更有用。
04 为什么同一个模型,产品能力却不同
现在考虑两个应用。它们调用同一个语言模型,但应用 A 只提供聊天界面,应用 B 还连接了文件生成工具,并获得了相应操作权限。
你要求“做成一份可以下载的文档”。应用 A 可能提供正文和排版建议,应用 B 则可能把内容交给工具,生成可打开的文件。区别不一定发生在模型层。
工具连接改变了能完成的动作
文字生成、表格计算、读取文件和发送通知,是不同的动作。模型可以提出计划或生成内容,但实际执行还需要产品连接相应工具,以及工具能够处理正确对象。
这也解释了为什么某个演示里能完成任务,换一个环境却做不到。可见的聊天框相似,背后的工具、权限、文件和运行地点却可能不同。
比较产品时,可以问三个问题:实际读取了什么,实际操作了什么,最终留下了什么。再用原件、文件或目标系统中的状态核对,而不是只接受“已经完成”的文字。
同一个产品也可能组合多个模型
一个产品可以在不同环节使用不同能力:用识别工具读取扫描件,用语言模型组织文字,用其他工具完成计算和文件生成。也可能按任务选择不同模型。
因此,产品、模型和任务能力之间不是一一对应。我们仍需看实际组合如何服务目标,不能只从界面名称推断内部实现。
05 模型在什么地方运行
在你电脑上打开应用,是一个界面事实。模型在你电脑上计算,是另一个运行事实。前者不能自动证明后者。
云端运行
应用把请求发送到远端服务,远端计算后返回结果。使用者需要关注网络、服务可用性、实际传输的数据,以及服务端的权限和数据管理方式。
云端也不意味着所有内容都会自动获得访问。应用传入了哪些材料、远端拿到了什么权限,需要分别看。
本地或内部运行
模型运行在自己的设备或组织内部环境。这里也需要足够硬件、合适软件、维护和访问管理。
内部运行可能帮助落实某些数据边界,但本地文件、运行日志、复制出来的结果和其他工具连接,仍要管理。部署位置只改变了一部分条件。
混合运行
同一项任务可能跨多个环境:本地读取材料,内部服务检索规则,再由另一个服务处理允许传出的内容。适合怎样分配,要根据实际目标和信息边界判断。
这时最重要的是画清数据流向。哪些内容离开了哪个环境,在哪个环节被保存,谁能够访问,结果又回到了哪里。一个“混合”标签不能替代这张图。
06 用五层解释三个常见疑问
“为什么换了模型,仍然生成不了文件?”
先看产品是否连接了文件工具,工具是否得到需要的输入和权限。模型的文字能力可能提升,产品仍未具备文件生成条件。换模型改变的只是完整系统的一部分。
“为什么模型很强,处理通知却还是写错日期?”
先核对实际读取到的材料、版本和输入,再比较输出。扫描件识别漏行、旧通知进入请求、模型生成错误,都可能产生类似表现。五层帮助定位要查的条件,不能只凭结果锁定唯一原因。
“为什么需要关心电力?我只是输入了几行字。”
文字是使用者看到的结果,背后仍有设备计算和数据传递。用量是否很大需要具体测量,但物理依赖始终存在。理解这种依赖,可以帮助我们把成本和规模放回完整系统中看。
这一堂课的回顾
从一个任务出发,区分应用与模型,再向下找到基础设施、芯片和能源。五层之间共同支撑服务,数据、权限和人则跨层参与。
请试着不看原文,解释下面三个问题:
1. 应用层与模型层的区别是什么?
模型提供处理输入的能力;应用组织面向使用者的任务、材料、工具和结果。二者要结合具体流程,才能判断完整服务。
2. 基础设施与芯片为什么要分开看?
芯片承担计算;基础设施把计算设备、网络、存储、运行环境和调度组织成可用服务。设备性能和系统运行效果需要分别评价。
3. 为什么“应用在本地”不证明“数据在本地处理”?
界面可以向远端发送请求。应核对实际部署和传输,而不是只看窗口或文件位于哪里。