🏠 总目录📚 本教程 14 · 合规与伦理 ← →

大模型全景导论 / 14

资料交给模型前,哪些边界必须先查清?

以数据去向和可控边界贯穿隐私、示意脱敏、版权和监管结构,保留日期/版本与合同条件。

📑 本页目录(点开跳转)

14 · 合规、法律与伦理

⏱ 28 分钟 | ⭐ 做 To B / 企业内应用的必修

⚠️ 免责声明:本章是技术从业者的常识科普,不是法律意见。 具体合规问题请咨询专业法务——尤其涉及跨境、医疗、金融、未成年人时。


🎯 一句话

技术能不能做 ≠ 法律允许做。这一章讲四条最容易踩的红线,以及该在什么环节设防。


🚧 一、数据隐私

核心问题:你发给模型的数据去哪了

用户输入 你的应用 模型 API(可能在境外) 供应商服务器 会不会被用于训练?会存多久?谁能看到?
箭头本身没什么可看的,要看的是它一路往右越过了你能控制的边界 —— 从第三格起,这三个问号只能靠对方的条款和合同来回答。

必须搞清楚的三件事: 1. 供应商的数据使用条款——企业版通常承诺不用于训练,个人版未必 2. 数据存储地域——涉及跨境传输时是重大合规问题 3. 保留期限——出于安全审计目的通常会存一段时间

实操防线

措施 说明
PII 脱敏 ⭐ 发送前自动识别并替换身份证/手机/银行卡/姓名
最小化原则 只发必要字段,别把整条数据库记录扔过去
本地部署 可以减少外发,但仍需核验遥测、外部工具、日志、备份与管理员访问(第 7 章)
审计日志 记录谁在什么时候发了什么(但日志本身也含敏感数据…)

⚠️ 最常见的事故:开发图省事,把生产数据库的完整记录直接拼进提示词。PII 就这么泄露出去了。

🕳️ 四个比"直接泄露"更隐蔽的泄露路径

路径 怎么发生的
日志和 tracing ⭐ 你为了可观测性记录了完整提示词——日志系统的权限往往比数据库宽松得多
报错信息 异常堆栈里带着请求体,被发到第三方错误监控平台
RAG 索引 把内部文档全量灌进向量库,没做权限过滤 → 任何人问都能检索到 ⭐
缓存 语义缓存把 A 用户的答案返回给 B 用户

🔑 RAG 那条是企业落地最常翻车的地方: 「HR 的薪资表进了知识库,普通员工一问就出来了」—— RAG 应在检索、上下文组装和返回链路强制核对文档/行/字段权限;不能只隐藏前端入口。

🔨 PII 格式匹配教学例(不构成完整脱敏器)

import re
PATTERNS = {
    "PHONE":  r"(?<!\d)1[3-9]\d{9}(?!\d)",
    "IDCARD": r"(?<!\d)\d{17}[\dXx](?![\dXx])",
    "EMAIL":  r"[\w.+-]+@[\w-]+\.[\w.]+",
    "BANK":   r"(?<!\d)\d{16,19}(?!\d)",
}
def mask(text):
    # 长格式优先,一次扫描原文,避免手机号先截断更长号码。
    order = ("BANK", "IDCARD", "PHONE", "EMAIL")
    combined = "|".join(f"(?P<{tag}>{PATTERNS[tag]})" for tag in order)
    return re.sub(combined, lambda m: f"[{m.lastgroup}]", text)

⚠️ 正则只能挡住"格式明确"的那部分。姓名、地址、病情描述这类没有固定格式的 PII,正则挡不住—— NER 也会漏检,本地部署也需控制访问与外发。

这段原代码只是识别思路示例,不是完整脱敏器:格式边界、重叠匹配、空格变体都要用测试样本核查。


⚖️ 二、版权与知识产权

三件事分别确认,不要用“供应商允许商用”回答全部问题:

问题 应核对什么
训练数据是否合法使用 数据来源、许可、适用法域与具体用途;不能用“全球尚无定论”代替逐项判断
生成内容能否受版权保护 人类创作贡献、作品类型与适用规则;取得输出使用权不等于取得版权
输出是否侵犯他人权利 与既有作品的关系、使用方式、许可与其他权利;相似度工具只是筛查

例如,美国版权局的报告说明 强调人类创作贡献;这不是对所有法域的统一结论。实际使用前向专业法务确认,并保存创作过程与来源记录。

实操建议: - 商用生成内容前做相似度检查(尤其图像、代码、长文本) - 关注供应商是否提供版权赔偿承诺(部分企业版有) - 代码生成注意开源许可证污染风险


📜 三、监管框架(了解结构即可)

范围 先理解的结构 不能直接推出
欧盟 AI Act 禁止用途、高风险义务、特定透明度义务,以及通用 AI 模型规则 不是看行业名称就能决定全部义务;“低风险”不代表免除隐私等其他法律要求
中国生成式 AI 服务相关规则 服务对象、业务性质、数据和内容要求,以及适用的备案/评估要求 不是所有内部工具都适用同一套公众服务规定,也不是内部使用就没有其他法律责任
美国 联邦、州与行业规则分别核对 不能只凭一张通用清单判断所有地区的许可和责任

核对入口:欧盟委员会 AI Act 说明、国家网信办《生成式人工智能服务管理暂行办法》。适用范围与分阶段生效安排应看现行文本,核对日期为 2026-09-09。

两个优先确认项:

  1. 什么情况下需要告知用户、标识生成内容,是否有例外?
  2. 什么决定需要人工监督、复核或申诉机制,谁有权停止系统?

它们是要核对的问题,不是全球所有 AI 都逐条适用的统一法律结论。


🧑‍⚖️ 四、伦理与产品责任

议题 你该做什么
偏见与公平 模型会放大训练数据里的社会偏见。招聘/信贷/教育场景必须做偏见测试
幻觉的后果 医疗/法律/金融建议出错代价极大 → 必须有免责声明 + 人工复核
可解释性要求 高风险决策要能给出理由(部分法规强制)
脆弱群体 未成年人、心理健康场景要有特殊防护
就业影响 自动化替代的社会责任
环境成本 训练和推理的能耗

🔗 推荐系统里的信息茧房(推荐算法 11)也是这一类问题: 技术上可行 ≠ 应该这么做。


🗂️ 一份实操检查清单

以下是工程盘点清单,具体法律义务与人工监督方式仍须按场景确认。

要点

【数据】

☐ 知道供应商是否用我的数据训练

☐ 知道数据存在哪个地域、存多久

☐ 发送前做了 PII 脱敏

☐ 只发必要字段

【告知】

☐ 用户知道自己在和 AI 对话

☐ 有免责声明(尤其专业建议类)

【决策】

☐ 高风险决策有人工介入,不是 AI 单独决定

☐ 能给出决策理由

【内容】

☐ 商用生成内容做过相似度/侵权检查

☐ 代码生成检查了许可证风险

【记录】

☐ 有审计日志,能追溯

☐ 敏感场景保留人工复核记录


🔗 和站内其他章的关系

左列有的来自日常用 LLM 的经验,有的在站内别的板块讲过——碰上过哪几条就从哪几条接进来,一条没碰过也不影响读这一章。

你可能已经知道的 这一章的对应
信息茧房、多样性(推荐第 11 章) 同类的技术伦理问题
本地部署(第 7 章) 改变数据流向,不自动消除权限、留存与使用合法性问题
硬边界(智能体第 15 章) 合规约束也该做成代码里的硬约束,不是提示词
权限分离(智能体第 16 章) 高风险决策的人工介入

📦 深挖的话要学什么

本节给出技术检查入口,不替代法律意见。适用地区、业务角色、数据类型和生效时间要单独确认。

查清适用的规则

  • 保留的主题:欧盟 AI Act、国内生成式 AI 服务相关规则、备案要求、GDPR 与 AI 的交叉。
  • 下一站:对应监管机构的现行文本和专业法务;站内其他章节可以解释技术概念,不能据此认定已满足义务。
  • 阅读产出:记录规则适用范围、责任人、待确认问题与证据,不用“本章是全站唯一出处”替代核对。

数据识别、脱敏与留存

  • 下一站:数据这一关 19 · 隐私脱敏与留存。
  • 看什么:直接与间接标识符、七种处理方法、哈希攻击、k-匿名及其漏洞、差分隐私的 ε、模型中的删除与机器遗忘。
  • 边界:加随机噪声不自动构成差分隐私;盐与密钥并不总是一回事。示例中的 87.3% 重识别率不是任意数据集的固定风险。
  • 继续深挖:联邦学习的更新泄漏、防护与信任假设,需要专门实验;不能仅靠“数据没集中”判断安全。

公平性怎样量

  • 下一站:模型上线 19 · 合规审计与模型卡,测试集配合 数据 13。
  • 看什么:公平性指标、代理变量检测、偏见测试集与缓解方法。
  • 边界:一些指标在特定条件下不能同时满足;先解释场景、群体与伤害,再选指标。删掉性别字段不能证明消除了代理信息。

内容治理发生在什么时候

  • 下一站:智能体工程 16c · 接进真实产品。
  • 看什么:输入和输出审核、流式拦截、用户提示、误判申诉与审计。
  • 继续深挖:水印、内容溯源、深度伪造检测。审核模型会误判;案例中的 3.2 秒用于提醒先输出后审核的风险,不是标准延迟。

谁负责维护治理证据

先画出数据去向、列出权限与法务待确认项,再按风险补专业知识。


⚖️ 要不要深挖

你的情况 建议
个人项目 / 内部工具 先识别数据与使用风险,不能默认免于隐私或合同义务
做 To C 产品 核对告知、隐私、内容治理与用户救济;免责声明不能替代责任与防护
做 To B / 企业交付 ✅ 必修,这直接决定能不能签单
涉及医疗/金融/教育/招聘 请专业法务和领域人员参与,按具体用途确认高风险认定与义务
跨境业务 ✅ 必修,数据跨境是重灾区

🔑 我的判断:这块技术含量低但商业价值高—— 它不会让你的模型更好,但能决定你的产品能不能上线、能不能签单。

清单是风险盘点起点,不是完整合规认证。配合 智能体工程 的权限边界与专业审查,逐项留下证据。


💡 一条贯穿全章的工程原则

把可执行的约束放到系统边界,并测试它有没有真正生效。

  • 提示词可以说明要求,但不是权限控制器。
  • 代码应验证身份、授权、允许的字段、外发去向与输出结构。
  • 脱敏器和审核模型也会漏检;还需要日志最小化、人工复核与失败处理。
  • 责任分工、合同和适用法律不能仅靠一段代码完成。

智能体工程 的“硬边界”原则适用于可验证的访问和动作约束;它不意味着任意 mask() 或 validate() 都提供完美识别与法律保证。


✅ 检查点

  1. 把生产数据发给模型 API 前,必须搞清楚哪三件事?
  2. 除了"直接把数据拼进提示词",还有哪四条更隐蔽的泄露路径?哪条在企业落地最常翻车?
  3. 正则做 PII 脱敏能挡住什么、挡不住什么?
  4. 输出使用权、版权保护和是否侵权,为什么要分别确认?
  5. 理解欧盟 AI Act 风险框架后,还需要核对哪些条件?
  6. 关于告知与人工监督,为什么不能照搬全球通用规则?
  7. 为什么要做系统约束,却不能说“代码保证合规”?
👀 答案
  1. 数据会不会被用于训练、存储在哪个地域、保留多久。
  2. ①日志和 tracing(日志系统权限往往比数据库宽松)②报错信息发到第三方监控 ③RAG 索引没做权限过滤 ④语义缓存串了用户。RAG 那条最常翻车——HR 的薪资表进了知识库,普通员工一问就出来。应在检索与返回链路按当前身份强制授权,并隔离索引/缓存;实现可采用文档、行或字段级规则。
  3. 正则只能匹配部分显式格式,仍可能误匹配或漏掉变体。姓名、地址等上下文识别更复杂;NER 与本地部署也需测试边界和控制外发。
  4. 三者对应供应商授权、作品保护条件、第三方权利;按地区、用途和人类创作贡献分别确认。
  5. 核对业务角色、具体用途、例外、生效时间及其他适用法律,也不能遗漏通用 AI 模型规则。
  6. 告知形式与例外、监督强度和适用主体取决于现行规则与场景,不能只凭行业名称下统一结论。
  7. 身份、权限、字段与动作要有可测试的约束,但识别代码也会出错;还需要流程、责任、合同与专业审查。

本节回顾

⚡ 走神救援

先记住这几件事

  • 上线前先盘点数据怎样进入模型、日志、索引与缓存,以及谁能访问。
  • 技术可行不等于获得许可;隐私、版权与适用规则需要单独确认。
  • 把数据最小化、权限隔离与必要的人工作业落实到流程中,不能只写在提示词里。

下一节 👉 15-数学地基.md

原始资料:regulatory framework ai · ai(核对:2026-10-18;外链仅供追溯,正文可离线阅读)。

打卡记录保存在你的浏览器里,首页能看到总进度