14 · 合规、法律与伦理
⏱ 28 分钟 | ⭐ 做 To B / 企业内应用的必修
⚠️ 免责声明:本章是技术从业者的常识科普,不是法律意见。 具体合规问题请咨询专业法务——尤其涉及跨境、医疗、金融、未成年人时。
🎯 一句话
技术能不能做 ≠ 法律允许做。这一章讲四条最容易踩的红线,以及该在什么环节设防。
🚧 一、数据隐私
核心问题:你发给模型的数据去哪了
必须搞清楚的三件事: 1. 供应商的数据使用条款——企业版通常承诺不用于训练,个人版未必 2. 数据存储地域——涉及跨境传输时是重大合规问题 3. 保留期限——出于安全审计目的通常会存一段时间
实操防线
| 措施 | 说明 |
|---|---|
| PII 脱敏 ⭐ | 发送前自动识别并替换身份证/手机/银行卡/姓名 |
| 最小化原则 | 只发必要字段,别把整条数据库记录扔过去 |
| 本地部署 | 可以减少外发,但仍需核验遥测、外部工具、日志、备份与管理员访问(第 7 章) |
| 审计日志 | 记录谁在什么时候发了什么(但日志本身也含敏感数据…) |
⚠️ 最常见的事故:开发图省事,把生产数据库的完整记录直接拼进提示词。PII 就这么泄露出去了。
🕳️ 四个比"直接泄露"更隐蔽的泄露路径
| 路径 | 怎么发生的 |
|---|---|
| 日志和 tracing ⭐ | 你为了可观测性记录了完整提示词——日志系统的权限往往比数据库宽松得多 |
| 报错信息 | 异常堆栈里带着请求体,被发到第三方错误监控平台 |
| RAG 索引 | 把内部文档全量灌进向量库,没做权限过滤 → 任何人问都能检索到 ⭐ |
| 缓存 | 语义缓存把 A 用户的答案返回给 B 用户 |
🔑 RAG 那条是企业落地最常翻车的地方: 「HR 的薪资表进了知识库,普通员工一问就出来了」—— RAG 应在检索、上下文组装和返回链路强制核对文档/行/字段权限;不能只隐藏前端入口。
🔨 PII 格式匹配教学例(不构成完整脱敏器)
import re
PATTERNS = {
"PHONE": r"(?<!\d)1[3-9]\d{9}(?!\d)",
"IDCARD": r"(?<!\d)\d{17}[\dXx](?![\dXx])",
"EMAIL": r"[\w.+-]+@[\w-]+\.[\w.]+",
"BANK": r"(?<!\d)\d{16,19}(?!\d)",
}
def mask(text):
# 长格式优先,一次扫描原文,避免手机号先截断更长号码。
order = ("BANK", "IDCARD", "PHONE", "EMAIL")
combined = "|".join(f"(?P<{tag}>{PATTERNS[tag]})" for tag in order)
return re.sub(combined, lambda m: f"[{m.lastgroup}]", text)
⚠️ 正则只能挡住"格式明确"的那部分。姓名、地址、病情描述这类没有固定格式的 PII,正则挡不住—— NER 也会漏检,本地部署也需控制访问与外发。
这段原代码只是识别思路示例,不是完整脱敏器:格式边界、重叠匹配、空格变体都要用测试样本核查。
⚖️ 二、版权与知识产权
三件事分别确认,不要用“供应商允许商用”回答全部问题:
| 问题 | 应核对什么 |
|---|---|
| 训练数据是否合法使用 | 数据来源、许可、适用法域与具体用途;不能用“全球尚无定论”代替逐项判断 |
| 生成内容能否受版权保护 | 人类创作贡献、作品类型与适用规则;取得输出使用权不等于取得版权 |
| 输出是否侵犯他人权利 | 与既有作品的关系、使用方式、许可与其他权利;相似度工具只是筛查 |
例如,美国版权局的报告说明 强调人类创作贡献;这不是对所有法域的统一结论。实际使用前向专业法务确认,并保存创作过程与来源记录。
实操建议: - 商用生成内容前做相似度检查(尤其图像、代码、长文本) - 关注供应商是否提供版权赔偿承诺(部分企业版有) - 代码生成注意开源许可证污染风险
📜 三、监管框架(了解结构即可)
| 范围 | 先理解的结构 | 不能直接推出 |
|---|---|---|
| 欧盟 AI Act | 禁止用途、高风险义务、特定透明度义务,以及通用 AI 模型规则 | 不是看行业名称就能决定全部义务;“低风险”不代表免除隐私等其他法律要求 |
| 中国生成式 AI 服务相关规则 | 服务对象、业务性质、数据和内容要求,以及适用的备案/评估要求 | 不是所有内部工具都适用同一套公众服务规定,也不是内部使用就没有其他法律责任 |
| 美国 | 联邦、州与行业规则分别核对 | 不能只凭一张通用清单判断所有地区的许可和责任 |
核对入口:欧盟委员会 AI Act 说明、国家网信办《生成式人工智能服务管理暂行办法》。适用范围与分阶段生效安排应看现行文本,核对日期为 2026-09-09。
两个优先确认项:
- 什么情况下需要告知用户、标识生成内容,是否有例外?
- 什么决定需要人工监督、复核或申诉机制,谁有权停止系统?
它们是要核对的问题,不是全球所有 AI 都逐条适用的统一法律结论。
🧑⚖️ 四、伦理与产品责任
| 议题 | 你该做什么 |
|---|---|
| 偏见与公平 | 模型会放大训练数据里的社会偏见。招聘/信贷/教育场景必须做偏见测试 |
| 幻觉的后果 | 医疗/法律/金融建议出错代价极大 → 必须有免责声明 + 人工复核 |
| 可解释性要求 | 高风险决策要能给出理由(部分法规强制) |
| 脆弱群体 | 未成年人、心理健康场景要有特殊防护 |
| 就业影响 | 自动化替代的社会责任 |
| 环境成本 | 训练和推理的能耗 |
🔗 推荐系统里的信息茧房(推荐算法 11)也是这一类问题: 技术上可行 ≠ 应该这么做。
🗂️ 一份实操检查清单
以下是工程盘点清单,具体法律义务与人工监督方式仍须按场景确认。
要点
【数据】
☐ 知道供应商是否用我的数据训练
☐ 知道数据存在哪个地域、存多久
☐ 发送前做了 PII 脱敏
☐ 只发必要字段
【告知】
☐ 用户知道自己在和 AI 对话
☐ 有免责声明(尤其专业建议类)
【决策】
☐ 高风险决策有人工介入,不是 AI 单独决定
☐ 能给出决策理由
【内容】
☐ 商用生成内容做过相似度/侵权检查
☐ 代码生成检查了许可证风险
【记录】
☐ 有审计日志,能追溯
☐ 敏感场景保留人工复核记录
🔗 和站内其他章的关系
左列有的来自日常用 LLM 的经验,有的在站内别的板块讲过——碰上过哪几条就从哪几条接进来,一条没碰过也不影响读这一章。
| 你可能已经知道的 | 这一章的对应 |
|---|---|
| 信息茧房、多样性(推荐第 11 章) | 同类的技术伦理问题 |
| 本地部署(第 7 章) | 改变数据流向,不自动消除权限、留存与使用合法性问题 |
| 硬边界(智能体第 15 章) | 合规约束也该做成代码里的硬约束,不是提示词 |
| 权限分离(智能体第 16 章) | 高风险决策的人工介入 |
📦 深挖的话要学什么
本节给出技术检查入口,不替代法律意见。适用地区、业务角色、数据类型和生效时间要单独确认。
查清适用的规则
- 保留的主题:欧盟 AI Act、国内生成式 AI 服务相关规则、备案要求、GDPR 与 AI 的交叉。
- 下一站:对应监管机构的现行文本和专业法务;站内其他章节可以解释技术概念,不能据此认定已满足义务。
- 阅读产出:记录规则适用范围、责任人、待确认问题与证据,不用“本章是全站唯一出处”替代核对。
数据识别、脱敏与留存
- 下一站:数据这一关 19 · 隐私脱敏与留存。
- 看什么:直接与间接标识符、七种处理方法、哈希攻击、k-匿名及其漏洞、差分隐私的 ε、模型中的删除与机器遗忘。
- 边界:加随机噪声不自动构成差分隐私;盐与密钥并不总是一回事。示例中的 87.3% 重识别率不是任意数据集的固定风险。
- 继续深挖:联邦学习的更新泄漏、防护与信任假设,需要专门实验;不能仅靠“数据没集中”判断安全。
公平性怎样量
- 下一站:模型上线 19 · 合规审计与模型卡,测试集配合 数据 13。
- 看什么:公平性指标、代理变量检测、偏见测试集与缓解方法。
- 边界:一些指标在特定条件下不能同时满足;先解释场景、群体与伤害,再选指标。删掉性别字段不能证明消除了代理信息。
内容治理发生在什么时候
- 下一站:智能体工程 16c · 接进真实产品。
- 看什么:输入和输出审核、流式拦截、用户提示、误判申诉与审计。
- 继续深挖:水印、内容溯源、深度伪造检测。审核模型会误判;案例中的 3.2 秒用于提醒先输出后审核的风险,不是标准延迟。
谁负责维护治理证据
- 下一站:模型卡与审计 19、数据版本与血缘 17、数据契约 03。
- 看什么:模型卡、数据卡、第三方审计、预测到数据的追溯关系。
- 验收:规则、模型或数据更新后,负责人是否同步更新记录;写好一份文档不等于持续合规。
先画出数据去向、列出权限与法务待确认项,再按风险补专业知识。
⚖️ 要不要深挖
| 你的情况 | 建议 |
|---|---|
| 个人项目 / 内部工具 | 先识别数据与使用风险,不能默认免于隐私或合同义务 |
| 做 To C 产品 | 核对告知、隐私、内容治理与用户救济;免责声明不能替代责任与防护 |
| 做 To B / 企业交付 | ✅ 必修,这直接决定能不能签单 |
| 涉及医疗/金融/教育/招聘 | 请专业法务和领域人员参与,按具体用途确认高风险认定与义务 |
| 跨境业务 | ✅ 必修,数据跨境是重灾区 |
🔑 我的判断:这块技术含量低但商业价值高—— 它不会让你的模型更好,但能决定你的产品能不能上线、能不能签单。
清单是风险盘点起点,不是完整合规认证。配合 智能体工程 的权限边界与专业审查,逐项留下证据。
💡 一条贯穿全章的工程原则
把可执行的约束放到系统边界,并测试它有没有真正生效。
- 提示词可以说明要求,但不是权限控制器。
- 代码应验证身份、授权、允许的字段、外发去向与输出结构。
- 脱敏器和审核模型也会漏检;还需要日志最小化、人工复核与失败处理。
- 责任分工、合同和适用法律不能仅靠一段代码完成。
智能体工程 的“硬边界”原则适用于可验证的访问和动作约束;它不意味着任意 mask() 或 validate() 都提供完美识别与法律保证。
✅ 检查点
- 把生产数据发给模型 API 前,必须搞清楚哪三件事?
- 除了"直接把数据拼进提示词",还有哪四条更隐蔽的泄露路径?哪条在企业落地最常翻车?
- 正则做 PII 脱敏能挡住什么、挡不住什么?
- 输出使用权、版权保护和是否侵权,为什么要分别确认?
- 理解欧盟 AI Act 风险框架后,还需要核对哪些条件?
- 关于告知与人工监督,为什么不能照搬全球通用规则?
- 为什么要做系统约束,却不能说“代码保证合规”?
👀 答案
- 数据会不会被用于训练、存储在哪个地域、保留多久。
- ①日志和 tracing(日志系统权限往往比数据库宽松)②报错信息发到第三方监控 ③RAG 索引没做权限过滤 ④语义缓存串了用户。RAG 那条最常翻车——HR 的薪资表进了知识库,普通员工一问就出来。应在检索与返回链路按当前身份强制授权,并隔离索引/缓存;实现可采用文档、行或字段级规则。
- 正则只能匹配部分显式格式,仍可能误匹配或漏掉变体。姓名、地址等上下文识别更复杂;NER 与本地部署也需测试边界和控制外发。
- 三者对应供应商授权、作品保护条件、第三方权利;按地区、用途和人类创作贡献分别确认。
- 核对业务角色、具体用途、例外、生效时间及其他适用法律,也不能遗漏通用 AI 模型规则。
- 告知形式与例外、监督强度和适用主体取决于现行规则与场景,不能只凭行业名称下统一结论。
- 身份、权限、字段与动作要有可测试的约束,但识别代码也会出错;还需要流程、责任、合同与专业审查。
本节回顾
⚡ 走神救援
先记住这几件事
- 上线前先盘点数据怎样进入模型、日志、索引与缓存,以及谁能访问。
- 技术可行不等于获得许可;隐私、版权与适用规则需要单独确认。
- 把数据最小化、权限隔离与必要的人工作业落实到流程中,不能只写在提示词里。
下一节 👉 15-数学地基.md