Skip to content

第三堂课:让责任进入系统与日常使用 ​

前面认识了模型怎样生成,也讨论了知识、数据与行动的边界。最后一堂把这些认识放在一起:当AI进入真实生活,谁应当做什么,出错后怎样继续,改进怎样被看见。

责任不能只停留在一句提醒里。它需要落到任务分工、反馈渠道、处置过程和可检查的结果中。

01 谁在什么环节承担责任 ​

责任分布在多个环节
责任分布在多个环节使用者:理解任务并核对采用;专业人员:解释依据与把关;提供者:设计边界与运行管理;组织与规则:提供监督纠错与救济使用者理解任务并核对采用专业人员解释依据与把关提供者设计边界与运行管理组织与规则提供监督纠错与救济联系与区别
责任分布在多个环节;图中数量、箭头和节奏用于说明关系。查看原图 →

例子:面向公众的办事咨询助手 ​

使用者要说明自己的具体情况,也需要认真阅读关键要求。但他们未必具备识别所有政策错误的能力,所以不能把正确性全都交给用户承担。

内容维护者负责提供适用、更新的依据;产品与技术人员负责呈现来源、处理冲突、设置转人工路径;组织需要明确哪个部门接手疑难情况。专业意见和正式办理决定,还应回到相应人员及程序。

这是便于分析的责任分工示例,不是针对所有场景的一份法律责任结论。实际义务应结合产品角色、业务规则和适用法律判断。

一句“结果仅供参考”能解决什么 ​

提示可以帮助说明边界,但不会自动修复长期过时的资料,也不能让实际上无法联系的人工渠道变得可用。

可以对照一个实际问题:助手使用旧材料导致某类用户持续得到错误答复。是否有人负责更新?已经受到影响的人能否获知更正?新的答案是否仍会调用旧版本?这些问题比提示出现在哪里更接近实际改进。

02 把“回答错了”变成能处理的反馈 ​

把反馈变成可处理的问题
把反馈变成可处理的问题保留事实:对象时间与可见结果;提交反馈:说明影响与已有证据;有人接手:定位责任及处置范围;结果回读:解释修正与仍有限制保留事实对象时间与可见结果提交反馈说明影响与已有证据有人接手定位责任及处置范围结果回读解释修正与仍有限制联系与区别
把反馈变成可处理的问题;图中数量、箭头和节奏用于说明关系。查看原图 →

例子:系统错报申请截止日期 ​

只写“AI不好用”,维护者很难定位。更有帮助的反馈包含提问内容、发生时间、回答片段、引用材料,以及正确日期的来源。涉及私人信息时,可以遮盖无关部分,避免为了反馈再扩大披露。

接手者需要进一步辨认:原材料错了,检索用了旧版本,模型读错了,还是界面显示了别的任务结果?不同原因对应不同修复。

从收到反馈到问题解决 ​

“反馈已提交”说明系统收到了内容;“正在处理”说明进入流程;“已解决”则应该有相应的修正结果。三个状态不能混为一谈。

结果回告也应具体:修正了什么,覆盖哪个范围,仍有什么限制。如果只有“感谢您的建议”,使用者无法知道风险是否还在。

这与前面区分“生成、提交、受理、办结”的方法一致。无论工作流还是治理,都需要把真实状态说清。

03 标识告诉我们什么,又没有告诉什么 ​

标识与内容真实分别判断
标识与内容真实分别判断显式提示:让读者知道生成情况;元数据标识:帮助识别和追溯;事实核验:判断内容有没有依据;场景规则:确定谁承担何种义务显式提示让读者知道生成情况元数据标识帮助识别和追溯事实核验判断内容有没有依据场景规则确定谁承担何种义务联系与区别
标识与内容真实分别判断;图中数量、箭头和节奏用于说明关系。查看原图 →

中国网信部门2025年发布的《人工智能生成合成内容标识办法》相关官方答问,说明了显式标识、隐式标识等安排,办法于2025年9月1日起施行。具体要求需要结合主体、内容形式和适用场景阅读原文。官方答问

例子:一张附有AI生成提示的图片 ​

标识帮助读者了解生成情况,但不会自动证明图片中的事件发生过。一个有标识的合成场景可以用于科普,也可能被配上误导文字。仍要检查它被用于什么主张。

反过来,没有看见显式提示,也不能仅据此断定内容由真人拍摄。标识是否应当出现、是否保留、平台是否正确展示,是进一步要查的问题。

不把几种技术混成一项义务 ​

显式提示、文件元数据与多媒体水印有不同作用。不能因为一张教学图把它们放在一起,就推断所有形式在所有场景都必须同时使用。官方答问对元数据等要求及水印技术作了具体区分,应回到条文与适用条件。

对于普通学习者,先形成一个基本习惯:把“内容怎样生成”和“内容有没有事实依据”分开判断。对于实际发布或提供服务,还需要遵守当时适用的具体规则。

04 从一次问题走向持续改进 ​

持续治理不是一次声明
持续治理不是一次声明发现问题:记录具体影响;回应与调整:说明采取哪些措施;提供依据:让改进可检查;继续观察:保留反馈和纠错通道发现问题记录具体影响回应与调整说明采取哪些措施提供依据让改进可检查继续观察保留反馈和纠错通道联系与区别
持续治理不是一次声明;图中数量、箭头和节奏用于说明关系。查看原图 →

真实材料:公共服务也需要外部评价 ​

纽约市审计机构2025年12月发布了对MyCity系统的审计报告,其中涉及聊天机器人答案准确性与一致性等问题。官方审计报告

这里不把审计中某项指标移植为所有政务AI的结论。值得讨论的是评价方式:产品提供者的说明、使用者遇到的问题和独立检查,可能提供不同信息,需要放在一起审视。

一个可持续的改进过程 ​

先记录具体问题及影响范围;再确定由谁处置,是否需要暂时调整入口或答案;修改后说明变化,并检查原问题是否仍出现。运行环境、资料和用户需求会继续变化,所以反馈渠道不能在上线后消失。

回到一开始的活动通知 ​

如果模型把“建议报名”改成“必须报名”,需要修正这一次通知,也要检查模板是否持续诱导类似改写。如果错误已传播,还要考虑如何让读者得到更正。

这是整套课程反复出现的关系:一次漂亮输出只是过程的一部分。材料、模型、工具、流程和人的判断共同决定最终效果。

全课程回顾:带走六个问题 ​

  1. AI正在处理什么任务,输出准备被怎样使用?
  2. 这项服务依靠哪些系统条件,数据实际流向哪里?
  3. 模型看到了什么,回答依据是什么?
  4. 哪些学习与错误机制影响当前结果?
  5. 从开始到完成还需要哪些资料、工具与人的工作?
  6. 谁受到影响,出了问题怎样核实、纠正与继续?

这些问题不依赖某个产品名称。工具不断更新时,它们仍能帮助我们理解、选择和合理使用AI。

案例走读:更正通知怎样才真正到达读者 ​

助手根据旧通知回答“周五截止”,负责人发现正确日期是周三。只把资料库里的日期改掉,是修复中的一步,但之前读过错误回答的人可能仍按周五安排。

需要依据影响范围考虑接续:是否还能找到受影响记录,是否有适当渠道提示更正,当前入口是否说明版本,是否存在其他缓存或模板继续引用旧日期。涉及使用者信息时,处理方式仍应符合相应权限和规则。

随后再观察类似问题是否继续出现。若每次人工改一个答案,旧文件仍不断被检索,就没有处理持续出错的原因。

用这个例子看治理,会发现它与前面技术章节紧密相连:数据有版本,检索有范围,输出有强度,工具有状态,反馈需要有人接手。责任不是最后才补上的一页说明,而是贯穿系统运行的具体安排。

1. 为什么不能把“仅供参考”当成全部责任安排? 提示不能代替资料维护、合理设计、反馈处置和专业把关。各参与者仍需在自己控制的环节履行相应职责。
2. 内容有AI生成标识,是否说明它的事实可靠? 不是。标识主要帮助理解生成情况;事实主张是否成立,仍需核对证据与使用语境。
3. 宣布修复以后还需要观察什么? 检查原问题是否真正消失、是否影响其他环节、受影响的人是否得到更正,以及后续资料变化是否引入新问题。

回到课程导读 · 继续学习WorkBuddy实际操作

微信联系

李不凯的个人微信二维码,扫码添加好友

使用微信扫一扫,手机上可长按保存二维码