第二堂课:看见隐私、公平与身份风险
使用AI时,影响可能落在没有操作它的人身上。你上传的表格里可能有同事的信息,生成的形象可能对应真实人物,一个统一的服务入口也可能让部分使用者更难获得帮助。
本堂不从抽象口号开始,而是沿着数据、人物、服务和行动四条线,看看问题具体出现在哪里。
01 先问完成任务需要多少数据
例子:为培训班分组
如果任务只是按专业与时间安排分组,可能需要编号、专业、可参加时段;并不自然需要身份证号、家庭住址和完整健康记录。
可以先在本地删除无关字段,必要时用临时编号替代姓名。输出也需要检查:分组公示是否意外附带原表的私人备注?
“只传必要信息”不等于已经完成全部隐私保护。访问权限、处理位置、保存期限和后续分享,同样影响信息怎样被使用。
例子:让AI整理一份会议记录
记录里有一段未公开的人事安排。如果只需要提取产品需求,这段内容是否需要一起上传?如果使用的是外部服务,它实际如何处理文件?应依据组织规则与具体服务设置判断,不能仅凭界面在本机就认定信息没有离开设备。
这里与五层结构的部署讨论连在一起:界面位置、计算位置、数据流向,需要分别确认。
02 找到没有出现在聊天窗口里的人
真实案例:把真实人物做成虚拟陪伴对象
最高人民法院2022年刊载的案例涉及使用真实人物姓名、肖像创建AI陪伴角色。案例还分析了平台组织、鼓励相关上传等具体行为与责任。法院案例原文
可以从中提出三个问题:被模拟的人是否同意,生成互动会如何影响其人格利益,平台通过什么设计参与了这种使用。
不能把这个案例简化成“只是用户自己玩”或“任何虚构角色都一定违法”。责任判断依赖具体事实与适用规则。教学上最值得保留的是:没有加入对话的人,也可能是直接受影响者。
例子:把同事照片做成幽默海报
即使发布者觉得有趣,被使用肖像的人也可能感到冒犯,其他观看者还可能误以为内容是真的。发布范围、形象内容、是否得到同意,都与评价有关。
图像生成是否逼真,只是其中一个问题。作品表达了什么、读者怎样理解、谁有权决定使用,同样需要考虑。
03 平均表现会遮住谁
教学推演:语音服务的整体识别率提高
假设某服务测试中总体错误减少,但方言使用者、口音较重者和嘈杂环境下的用户仍频繁失败。总体变好可以是真实的,同时部分人的处境仍没有改善。
此处没有引用某款产品的测量数字,而是在说明评价方法。需要分别查看任务、使用环境与不同群体的表现;也需要观察失败以后能否换用文字或人工渠道。
例子:用简历筛选助手找候选人
如果历史录用记录集中在少数学校,学习或模仿这些记录的系统可能继续放大已有偏好。不能只看“与过去录用结果一致”,还要问过去的结果本身是否适合成为当前标准。
分组差异是调查问题的线索,但也不应凭一个小样本立即断言原因。应进一步检查数据质量、指标定义、实际任务要求和可能的影响。
把受影响者带回设计
让不同使用者参与试用,记录失败的具体步骤,为需要帮助的人保留可用渠道。公平问题不仅藏在模型参数里,也可能出现在输入方式、流程门槛与纠错机会中。
04 看见面孔之后,仍然要核实行动
真实警示:熟人视频与转账请求
汕尾市公安局2023年刊载的警示讲述了利用AI换脸冒充熟人实施诈骗的情形。文中受害者在转账后与微信好友沟通时发现异常。警方刊载原文
这里要准确区分事实与建议:原文发现异常的方式,不应改写成“事后打电话查证”;通过自己已知的可靠联系方式另行核实,是可从警示中讨论的预防方法。
教学推演:领导视频里要求紧急付款
先检查实际请求:收款对象、金额、业务依据和授权是否齐全。不要因为画面熟悉,就跳过原有付款流程。
再通过独立渠道核实。例如使用通讯录里已有的号码联系本人,而不是只拨打消息中临时提供的号码。身份确认之后,付款仍需符合相应权限和程序。
这也说明,识别伪造内容并不是唯一防线。即使没有及时辨认画面问题,独立核实与业务授权流程仍可能阻止错误行动。
案例走读:一份公开名单的发布前讨论
活动负责人准备公布志愿者分组。原表有姓名、手机、分组、过敏备注和紧急联系人。AI能很快排成漂亮表格,但“排版完整”未必是“适合公开”。
可以先分别确定:参与者为了到场需要看什么,负责人为了联系需要保存什么,特殊情况信息由谁在何时使用。公开分组表、内部联络表和必要的应急信息,可能需要不同可见范围。
再检查生成结果是否意外带出隐藏列、页脚或说明中的私人信息。风险不只发生在上传时,也可能发生在生成后分享的那一步。
这不是要求取消所有信息使用,而是让用途、对象和范围对应起来。与前面的任务设计相同:越明确真正要完成什么,越容易减少与目标无关的暴露。
本堂回顾
先减少不必要的数据,再看见受影响的人;既观察总体表现,也追踪谁遇到困难;把身份核实与实际行动的授权分别做好。