第三堂课:让责任进入系统与日常使用
前面认识了模型怎样生成,也讨论了知识、数据与行动的边界。最后一堂把这些认识放在一起:当AI进入真实生活,谁应当做什么,出错后怎样继续,改进怎样被看见。
责任不能只停留在一句提醒里。它需要落到任务分工、反馈渠道、处置过程和可检查的结果中。
01 谁在什么环节承担责任
例子:面向公众的办事咨询助手
使用者要说明自己的具体情况,也需要认真阅读关键要求。但他们未必具备识别所有政策错误的能力,所以不能把正确性全都交给用户承担。
内容维护者负责提供适用、更新的依据;产品与技术人员负责呈现来源、处理冲突、设置转人工路径;组织需要明确哪个部门接手疑难情况。专业意见和正式办理决定,还应回到相应人员及程序。
这是便于分析的责任分工示例,不是针对所有场景的一份法律责任结论。实际义务应结合产品角色、业务规则和适用法律判断。
一句“结果仅供参考”能解决什么
提示可以帮助说明边界,但不会自动修复长期过时的资料,也不能让实际上无法联系的人工渠道变得可用。
可以对照一个实际问题:助手使用旧材料导致某类用户持续得到错误答复。是否有人负责更新?已经受到影响的人能否获知更正?新的答案是否仍会调用旧版本?这些问题比提示出现在哪里更接近实际改进。
02 把“回答错了”变成能处理的反馈
例子:系统错报申请截止日期
只写“AI不好用”,维护者很难定位。更有帮助的反馈包含提问内容、发生时间、回答片段、引用材料,以及正确日期的来源。涉及私人信息时,可以遮盖无关部分,避免为了反馈再扩大披露。
接手者需要进一步辨认:原材料错了,检索用了旧版本,模型读错了,还是界面显示了别的任务结果?不同原因对应不同修复。
从收到反馈到问题解决
“反馈已提交”说明系统收到了内容;“正在处理”说明进入流程;“已解决”则应该有相应的修正结果。三个状态不能混为一谈。
结果回告也应具体:修正了什么,覆盖哪个范围,仍有什么限制。如果只有“感谢您的建议”,使用者无法知道风险是否还在。
这与前面区分“生成、提交、受理、办结”的方法一致。无论工作流还是治理,都需要把真实状态说清。
03 标识告诉我们什么,又没有告诉什么
中国网信部门2025年发布的《人工智能生成合成内容标识办法》相关官方答问,说明了显式标识、隐式标识等安排,办法于2025年9月1日起施行。具体要求需要结合主体、内容形式和适用场景阅读原文。官方答问
例子:一张附有AI生成提示的图片
标识帮助读者了解生成情况,但不会自动证明图片中的事件发生过。一个有标识的合成场景可以用于科普,也可能被配上误导文字。仍要检查它被用于什么主张。
反过来,没有看见显式提示,也不能仅据此断定内容由真人拍摄。标识是否应当出现、是否保留、平台是否正确展示,是进一步要查的问题。
不把几种技术混成一项义务
显式提示、文件元数据与多媒体水印有不同作用。不能因为一张教学图把它们放在一起,就推断所有形式在所有场景都必须同时使用。官方答问对元数据等要求及水印技术作了具体区分,应回到条文与适用条件。
对于普通学习者,先形成一个基本习惯:把“内容怎样生成”和“内容有没有事实依据”分开判断。对于实际发布或提供服务,还需要遵守当时适用的具体规则。
04 从一次问题走向持续改进
真实材料:公共服务也需要外部评价
纽约市审计机构2025年12月发布了对MyCity系统的审计报告,其中涉及聊天机器人答案准确性与一致性等问题。官方审计报告
这里不把审计中某项指标移植为所有政务AI的结论。值得讨论的是评价方式:产品提供者的说明、使用者遇到的问题和独立检查,可能提供不同信息,需要放在一起审视。
一个可持续的改进过程
先记录具体问题及影响范围;再确定由谁处置,是否需要暂时调整入口或答案;修改后说明变化,并检查原问题是否仍出现。运行环境、资料和用户需求会继续变化,所以反馈渠道不能在上线后消失。
回到一开始的活动通知
如果模型把“建议报名”改成“必须报名”,需要修正这一次通知,也要检查模板是否持续诱导类似改写。如果错误已传播,还要考虑如何让读者得到更正。
这是整套课程反复出现的关系:一次漂亮输出只是过程的一部分。材料、模型、工具、流程和人的判断共同决定最终效果。
全课程回顾:带走六个问题
- AI正在处理什么任务,输出准备被怎样使用?
- 这项服务依靠哪些系统条件,数据实际流向哪里?
- 模型看到了什么,回答依据是什么?
- 哪些学习与错误机制影响当前结果?
- 从开始到完成还需要哪些资料、工具与人的工作?
- 谁受到影响,出了问题怎样核实、纠正与继续?
这些问题不依赖某个产品名称。工具不断更新时,它们仍能帮助我们理解、选择和合理使用AI。
案例走读:更正通知怎样才真正到达读者
助手根据旧通知回答“周五截止”,负责人发现正确日期是周三。只把资料库里的日期改掉,是修复中的一步,但之前读过错误回答的人可能仍按周五安排。
需要依据影响范围考虑接续:是否还能找到受影响记录,是否有适当渠道提示更正,当前入口是否说明版本,是否存在其他缓存或模板继续引用旧日期。涉及使用者信息时,处理方式仍应符合相应权限和规则。
随后再观察类似问题是否继续出现。若每次人工改一个答案,旧文件仍不断被检索,就没有处理持续出错的原因。
用这个例子看治理,会发现它与前面技术章节紧密相连:数据有版本,检索有范围,输出有强度,工具有状态,反馈需要有人接手。责任不是最后才补上的一页说明,而是贯穿系统运行的具体安排。