第14章 智能时代的公民：伦理、法律与我们的未来
章首语
第13章的信号卡智能提醒器已经能够集成、测试、发布和回退。现在出现一个比“能否运行”更重要的问题：能做出来的功能，是否都应该做、都可以发布？如果演示视频拍到未同意出镜的同学，分类功能准确也不能消除权利问题；如果海报由AI生成却没有标识，文字没有错也可能误导观看者；如果按钮造成不利结果却没有负责人和申诉入口，完整日志也不能自动承担责任。
技术检查通常问输入、算法和输出是否符合规定，伦理与法律审查还要问目的是否正当、影响是否必要、权利是否受到保护、谁能纠正结果。两种审查不能相互替代。一个功能可能没有明显程序错误，却因为采集过多信息、使用来源不明作品、隐藏生成事实或无法申诉而不适合发布；反过来，发现风险也不等于一律禁止创新，我们可以删除不必要数据、缩小使用范围、增加标识与人工复核，做出影响更小的版本。
本章把全书作品升级为责任版本v8.0。我们将建立资产与数据清单，用隐私、著作权、内容标识和责任四道门审查每个模块；再处理未经同意的人脸、来源不明图片、未标识AI海报、冒充本人完成的反思和声音克隆同意范围等未知情况。最后形成班级AI使用公约、发布责任卡和个人能力时间线，说明我们准备让AI承担哪些任务，又有哪些判断必须由人完成。
学习目标
完成本章学习后，你能够：
- 区分技术可行、伦理可接受、符合法律与允许发布四种判断。
- 按目的和最小必要原则检查个人信息与隐私风险。
- 为图片、文字、声音和AI生成内容建立来源、许可与标识记录。
- 用角色、证据、人工复核和申诉入口说明责任。
- 制定诚实、可执行的AI使用公约和个人能力发展计划。
本章项目 把v7.0审查为责任版本v8.0
审查对象不是一个抽象“AI”，而是v7.0发布包中的具体资产和动作：信号卡图形、可选摄像头画面、商品资料、问答材料、AI生成文案与插图、事件日志、设备提示、测试报告和演示视频。每项记录用途、来源、是否涉及个人、保存期限、AI参与、公开范围、负责人和删除方式。
配套责任审查台提供两版检查器。v1只按文件名和关键词查找“人脸”“来源”“AI”等字样，能发现明显缺项，却看不懂许可范围、间接身份信息和真实责任。v2使用结构化清单检查目的、数据、同意、来源/许可、显式/隐式标识、人工复核、申诉和学业声明。它仍只是辅助工具，最终由小组根据材料决定放行、限用、补证据或删除。
四人组担任数据与隐私负责人、作品与标识负责人、系统与测试负责人、发布与申诉负责人。交付责任版本v8.0、18项开发审查、10项最终审查、一次不发布决定、AI使用公约和个人能力时间线。法律名称与施行状态按本稿核对日2026年7月21日记录；真实公开发布前仍要核对届时有效规定、学校制度和平台要求。
从功能清单进入数据与隐私审查
14.1 伦理审议先问目的、影响和替代方案
人工智能伦理不是给技术贴上“好”或“坏”的标签，而是系统地判断一项设计怎样影响人、社会和环境，并据此选择、限制或拒绝方案。法律规定社会共同遵守的行为边界与责任，伦理审议还会讨论某项合法选择是否尊重尊严、是否公平、是否造成不必要伤害。课堂不能用“我觉得没问题”代替证据，也不能把一张检查表当作正式法律结论。
先写清目的。例如“让参观者知道作品状态”不等于必须识别参观者身份，使用红黄绿打印卡和屏幕按钮已经能完成任务。若方案增加人脸识别、情绪判断或长期录像，却不能说明它们对目的不可缺少，就应删除这些功能。技术能提高功能数量，不代表影响扩大后仍值得使用。
再比较影响与替代方案。屏幕提示、低压指示灯和自动门锁都能表达“停止”，但后果、恢复难度和误判影响完全不同。我们优先选择能达到目的、对权利和安全影响较小、容易撤回的方式。对未成年人、公共传播、生物识别和重要评价等场景，要提高审查和人工监督强度。
最后检查谁被影响、谁能参与决定。构建者可能只看到运行成功，被拍摄者关心是否愿意出镜，观看者关心是否被AI内容误导，设备管理者关心是否能停止，评价对象关心是否能解释和申诉。邀请不同角色检查不是拖慢开发，而是补上单一构建者看不到的条件。
公平也不等于给所有人完全相同的界面和处理。色觉不同的参观者不能只靠红绿区分状态，网络或设备条件不足的小组不能因此失去核心学习机会，训练数据较少的类别也不应被错误写成某类同学能力较低。我们要比较不同群体的误差和使用困难，提供文字、图形或人工通道等合理替代。同时记录算力、设备更新和重复生成带来的资源消耗，在达到学习目的后停止无意义的大量生成。公平、可访问和环境影响都应进入设计，而不是作品完成后再加一句口号。
14.2 隐私与个人信息不是“有没有姓名”
隐私（Privacy）指自然人私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息等受到保护的状态与权益。个人信息是以电子或其他方式记录的、与已经识别或者可以识别的自然人有关的各种信息，依法匿名化处理后的信息不属于个人信息。两者有交叉，但不能简单当成同一个概念。
姓名、学号和清晰人脸容易识别，班级、座位、时间和作品记录组合后也可能定位到具体学生。把姓名换成“第3组”不一定完成匿名化，如果全班都知道第3组只有哪些成员，数据仍能关联到人。真正降低风险要同时看字段、组合、接收者和重新识别可能性。
生物识别、特定身份、医疗健康、金融账户、行踪轨迹以及不满十四周岁未成年人的个人信息等，在个人信息保护规则中需要更严格对待。课堂不需要背诵全部条文，但要知道人脸和人声不是普通装饰素材。给视频加模糊处理可能减少识别，也不能自动补回拍摄、变造或传播所需的依据。
截至2026年7月核对，我国《个人信息保护法》和《民法典》为个人信息、隐私和肖像等权益提供法律保护。教材只帮助建立检查方法，不替代具体场景的合规判断。遇到公开传播、真实个人资料、敏感信息或权利争议，应停止发布并交由学校和具备职责的人员复核。
用最小必要和知情选择改造数据流程
14.3 从收集到删除都要有明确依据
数据审查从目的开始，沿“收集—使用—保存—提供—公开—删除”完整检查。每一阶段回答：为什么需要、需要哪些最少字段、谁可以访问、保存多久、能否撤回、到期怎样处理。只在入口写一次“同意”却无限期保存和改作其他用途，不能形成可靠的数据治理。
知情选择要求被影响者知道处理者、目的、方式、信息种类、保存期限和主要权利，再作出自愿、明确的决定。对人脸、人声等敏感处理还要核对更严格要求。不能把“不参加就不能完成无关课堂任务”当作自由选择，也不能用一项拍照同意推断出允许人脸训练、声音克隆和公开传播。
最小必要既限制字段，也限制精度和期限。统计设备被触发几次，通常不需要保存原始视频；判断卡片是否出现，可以只保留事件ID、标签、分数和时间；完成课堂复盘后，可删除临时画面。日志为了可追踪而保存证据，但证据越多不一定越负责，无关个人数据会增加泄露和误用风险。
数据权利还要有可执行入口。使用者应能知道系统持有什么、发现错误后请求更正、在适用条件下提出删除或撤回。项目页至少显示联系人、处理步骤和反馈时间，不能只写“如有问题请联系管理员”却没有具体角色。删除也要覆盖副本、导出和测试资料，不能只清空页面列表。
核对作品来源并标识生成合成内容
14.4 著作权检查来源、权利和使用方式
著作权（Copyright）是作者及其他依法享有权利的主体对文学、艺术和科学作品享有的权利；日常也常称版权。图片能在搜索结果中看到、文字能复制、音乐能下载，都不表示可以任意改编和公开传播。注明作者和链接很重要，但署名本身不等于已经取得所需许可。
作品清单至少记录作者或权利人、原始链接或文件、获取日期、许可或授权依据、允许的使用方式、是否改编、署名要求和发布范围。自己绘制的信号卡也要保留源文件与作者；开放许可素材要核对具体版本和条件；来源不明图片不能因为AI重新上色就变成来源清楚。
我国著作权法对个人学习、适当引用、课堂教学等特定使用情形设有条件，并要求结合使用目的、范围、署名和对权利人利益的影响判断。不能把“用于学习”理解为可以把整部作品上传公开网站，也不能把课堂内少量使用自动外推到比赛、宣传片或商业发布。使用范围一变，许可判断要重新进行。
AI参与还会增加证据问题。输入材料可能包含他人作品，输出可能与现有作品相似，生成过程也可能没有提供完整来源。项目组不对所有法域中的AI作品权利归属下统一结论，而是诚实记录使用的工具或模型、人员贡献、输入来源、生成日期、修改过程与发布方式，遇到不确定权利时换用自制或明确许可材料。
14.5 内容标识让接收者知道信息怎样形成
内容标识（Content Labeling）是在生成合成内容或交互界面中，用文字、声音、图形、文件元数据等方式说明内容属性和制作信息。显式标识让普通观看者直接感知，隐式标识保存在文件数据中，便于平台识别与追溯。两者作用不同，不能用一行看不见的元数据代替必要的明显提示。
截至2026年7月核对，《人工智能生成合成内容标识办法》与配套强制性国家标准已自2025年9月1日起施行，并与深度合成、生成式人工智能服务相关规定衔接。具体义务会因服务提供者、传播者、内容类型和使用方式而不同。本章为公开展示候选统一采用“页面显式说明＋导出记录生成信息”的课堂规则，真实服务仍应核对现行法规与技术标准。
深度伪造通常指利用生成合成技术高逼真地生成或改变人脸、人声、动作等内容，使观看者可能误以为真实人物做过或说过某事。它不是某一种算法：生成对抗网络、扩散模型、语音转换和人脸替换等不同技术都可能产生相关内容。逼真度提高会扩大创作空间，也会增加冒充、欺骗、侵害肖像和名誉的风险。
标识不是“内容安全证明”。一段明确写有AI生成的视频仍可能没有取得肖像或声音使用同意，仍可能包含虚假陈述或来源不明素材。反过来，轻微使用AI校对错别字是否需要怎样标注，也要结合规定、平台规则和接收者合理理解。审查顺序应同时检查权利、真实性、标识和传播情境。
把责任落实到角色、证据和申诉
14.6 系统输出不能替人承担责任
责任（Responsibility）是参与者依据自己的角色，对选择、操作、结果与纠正承担的义务。AI模型没有人的身份、职权和道德判断，不能成为“由AI负责”的对象。提供资料者、模型或工具提供者、构建者、测试者、批准者、发布者和运行者所掌握的信息不同，应分别承担相应责任。
责任表不能只写一个“管理员”。数据负责人核对目的、字段和删除；作品负责人核对来源、许可与标识；系统负责人核对权限、测试和日志；发布负责人根据范围、已知问题与学校制度决定是否发布；申诉负责人接收更正、删除和停止请求。一个人可以兼任多个角色，但每项任务仍要明确由谁完成、凭什么证据签字。
高影响决定必须提供人工复核与申诉。若系统影响评价、机会、安全、财产或重要权益，被影响者应知道AI参与、主要依据和联系渠道，并有机会提交补充材料，由有权限的人复查和纠正。把“人工复核”做成一个默认通过按钮，或让复核者看不到原材料和日志，都不能形成有效监督。
申诉结果还要反馈到系统。一次错判可能来自资料错误、接口错误、模型边界或规则不公平，纠正当前记录后还应决定是否补测试、改版本、通知其他受影响者和暂停同类动作。可追踪日志帮助复盘，但日志只记录必要证据，并设置访问和删除规则，不能以问责为名无限保存个人数据。
保持学业诚信并准备职业变化
14.7 AI可以参与作品，但不能替代本人证明能力
学业诚信的关键不是简单统计用了多少AI，而是提交内容是否真实反映学习者的过程和能力。若任务允许AI生成页面草案，学生应保留意图、提示、版本、测试和人工修改，并能现场解释关键原理；若任务明确评估个人写作、计算或操作能力，把AI输出冒充本人独立完成就是不诚实。
不同课程、比赛和岗位有不同规则，开始前要询问允许范围。一个实用声明可以写：“我使用AI协助生成接口测试草案和整理格式，测试期望、B10判断、代码验证及最终说明由本组完成；使用工具与日期见记录。”它不需要抄完整对话，也不能用一句“使用了AI”掩盖生成了全部核心内容。
AI输出还可能伪造来源、代码或实验结果。引用必须回到原文，代码必须实际运行，图片许可必须核对，实验数据不能由模型补齐。课堂上保留失败不是成绩污点，而是证明测试真实；把没做的实机实验写成已完成、把AI编造访谈写成真实记录，会破坏后续判断的基础。
同伴协作也要说明贡献。负责人不应把全部操作交给一名会用工具的同学，再让其他人共同署名；每位成员至少负责一项可检查工作，并能解释它与系统整体的关系。AI降低了生成门槛，更需要用测试、说明与现场问答证明“作品属于本组的学习过程”。
14.8 职业变化更可能先改变任务组合
人工智能会改变信息整理、文案、编程、视觉制作、客服和设备维护等工作，但不能仅凭一次技术演示断言某个职业必然消失。国际劳工组织2025年研究指出，受到生成式AI影响的岗位更常见结果是任务转变而非岗位整体替代，影响在不同职业、地区和群体间也不均等。
岗位可以拆成任务分析：哪些是重复、材料充分、结果易验证的工作，适合AI辅助；哪些需要现场操作、关系沟通、价值判断、责任签署和异常处置，仍要由人主导；哪些新任务因AI出现而增加，如资料治理、接口设计、测试、标识、审计和人机工作流管理。这样比只问“AI会不会抢工作”更能指导学习。
个人能力时间线分为现在、一年后和毕业后。现在要能说明基本原理、给出清楚意图、验证输出和保护资料；一年后要能完成一个专业方向的模块、接口和测试；毕业后要能把AI嵌入真实岗位流程，与同事沟通边界并持续更新技能。具体工具会变化，计算、专业知识、核查、协作和责任判断更能长期迁移。
未来还包含不使用AI的能力。系统不可用、材料敏感、任务要求独立完成或自动化收益小于风险时，能够选择手工流程、普通程序或人工服务也是专业判断。会指挥AI做事，不等于所有事情都交给AI；真正的主动性包括决定何时使用、如何验证以及何时停止。
完成责任审查并发布v8.0
先运行v1的18项开发审查，记录它能找到哪些明显关键词、又漏掉哪些结构问题。随后补齐资产清单和四道门：隐私门检查目的、必要性、同意、期限和删除；著作权门检查来源、许可、改编与署名；标识门检查AI参与、显式提示与导出记录；责任门检查负责人、人工复核、申诉和停止机制。
使用v2重新运行18项开发审查，目标18/18。将规则与清单冻结后，打开10项最终审查。F10是一条纯模拟记录：某声音样本只取得“录音用于课堂展示”的同意，项目却把它用于AI音色克隆；清单有separate_consent:true和AI标识，v2没有比较consent_scope，因此错误放行，最终为9/10。
保留F10并停止该资产发布。修订计划不是再加一个“已同意”复选框，而是把目的和范围结构化：recording-display不能自动覆盖voice-clone，改变处理方式要重新告知并取得符合要求的选择。项目不实际采集或克隆任何声音，后续版本还要增加范围、期限、撤回和删除的组合测试。
生成责任版本v8.0：删除未经同意的人脸素材，换掉来源不明图片，为AI生成海报增加清晰标识与记录，为日志设置最小字段和删除期限，为系统添加负责人和申诉入口，并附“不做功能”清单。发布卡写明审查日期、适用范围和下一次复核时间，避免把今天的检查写成永久合规。
班级AI使用公约。公约要把原则写成可执行动作，而不是只写“合理使用AI”。至少包含：开始前核对任务是否允许；不输入无权处理的个人、内部和受保护材料；保留关键来源与AI参与记录；对事实、代码和实验实际核验；公开内容按要求标识；不冒充他人、不伪造过程；高影响决定由人复核；提供更正、删除、停止和申诉入口。
每条公约还要有证据。例如“保护隐私”的证据是资产清单、最小字段和删除记录；“保持诚信”的证据是贡献说明、版本和测试；“人来负责”的证据是角色签名和申诉流程。没有责任人、触发条件和检查方法的口号，遇到时间压力时很难执行。
公约允许修订。新工具、新法规、新岗位或一次真实失败都可能暴露旧规则不足。版本记录写修改日期、原因、影响条目和批准者，旧版留档但停止使用。规则变化后要重新检查相关项目，不能只改公约文字而不改页面、测试和工作流。
本章小结
隐私关注私人生活安宁和私密领域，个人信息还包括能够单独或组合识别自然人的记录。数据流程应从目的出发，限制到最小必要范围，说明知情选择、访问、期限、删除和更正。公开可见、去掉姓名或一次同意，都不能自动解决所有数据与肖像问题。
著作权检查作品来源、权利或许可、使用方式、改编、署名和发布范围。内容标识说明文本、图片、声音或视频是否由AI生成合成，并支持接收者辨别和后续追溯；标识不代替权利、真实性和安全审查。深度伪造也不是单一算法，而是一类可能造成冒充与误导的生成合成应用。
责任必须落到材料、构建、测试、批准、发布、运行和申诉角色，不能写成“AI负责”。v8.0用四道门完成18/18开发审查，最终保留声音同意范围F10，得到9/10。面向未来，我们既要学会与AI共同创造，也要保持专业知识、核查、协作、现场处置和决定何时不用AI的能力。
习题
基础题
- 分别解释隐私、著作权、内容标识和责任，并各举v8.0中的一项证据。
- 为什么删除姓名不一定完成匿名化？举出三项组合后能够识别学生的信息。
- 注明图片作者和链接，为什么仍不一定获得公开改编和传播的许可？
- 显式标识与隐式标识分别服务谁、解决什么问题？
应用题
- 为“统计信号卡触发次数”设计不保存原始视频的数据流程，写明字段、期限、访问和删除。
- 某组用AI生成海报、人工修改标题并公开展示。设计来源/参与记录、标识、复核和申诉入口。
- 为F10写一条新的接口规则和四条测试，说明为什么“同意录音展示”不能自动扩大到声音克隆。
探究题
- 【选做】选择一个专业岗位，把十项常见任务分成AI辅助、人主导和暂不使用AI三类，写出分类依据和一年能力计划。
本章交付物
1. 责任版本与公约
- v7.0资产与数据清单、四道门审查表。
- v1开发基线、v2开发18/18和最终9/10记录。
- F10停止发布决定、临时处置与下一版测试计划。
- 信号卡智能提醒器责任版本v8.0及“不做功能”清单。
- 班级AI使用公约、角色责任卡和申诉流程。
- 现在—一年后—毕业后的个人能力时间线。
2. 自评单
- [ ] 我不会把技术能做直接写成伦理上应做、法律上可发布。
- [ ] 数据清单覆盖目的、最小字段、依据、期限、访问和删除。
- [ ] 图片、文字和声音都有来源、许可/依据与使用范围记录。
- [ ] AI生成合成内容按课堂发布规则添加标识与过程记录。
- [ ] 每项高影响动作有负责人、人工复核、停止和申诉入口。
- [ ] 我如实声明AI参与，没有伪造来源、实验或个人贡献。
- [ ] F10没有被隐藏，声音同意范围问题得到明确处理。
- [ ] 我能说明未来一年要加强的专业、技术与责任能力。