🏠 总目录📚 本教程 09 · 正常形博弈
📑 本页目录(点开跳转)

09 · 正常形博弈

44 分钟 | ⭐⭐ 从「一个人」到「一群人」:你的最优选择开始取决于别人怎么选


🎯 一句话

正常形博弈就是一张表:所有人同时、独立、只选一次,选完看表格里那一格,上面写着每个人各拿多少。

前两章你是一个人在做决定 —— 排序、算期望效用、挑最大的那个。 从这一章开始,表里的每一格都要两个人(或更多人)一起点头才能落到。 你还是那个最大化效用的你,但「最大化」这个动作的答案,第一次开始依赖别人。


🔀 一、转折:环境不会算计你,对手会

这是整个板块最大的一道坎,值得先讲透再讲定义。

第 7、8 两章的世界长这样:你面对的是一个不动脑子的世界。 骰子有六个面、概率是 1/6, 不会因为你押了「6」就偷偷改成 1/7。所以你能安心地算期望效用、挑最大的那个,算完就结束了。

强化学习也在这个世界里。MDP 里的转移概率是写死的一张表:你在状态 $s$ 做动作 $a$, 环境按固定的分布掷骰子给你下一个状态。环境有随机性,但它没有偏好,也不想赢你。

一句话记住分界:MDP 里你在跟掷骰子的自然打交道,博弈里你在跟另一个最大化器打交道。 自然的随机是固定的;对手的「随机」是针对你调过的

这个差别有多大?举个具体的:石头剪刀布。 如果对面是自然(比如一个真随机数发生器),你出什么都一样,期望收益恒为 0,这题没什么可想的。 但如果对面是个人,他会记住你上把出了什么。你一旦有任何规律 —— 哪怕只是「石头出得稍微多一点」—— 他就能针对你,你就会持续输钱。"最优策略"这个词在两种情形下指的根本不是一回事。

三个具体差别

单人决策(第 7、8 章 / MDP) 博弈(从这一章起)
你面对什么 一个固定的概率分布 另一个也在挑最优的 agent
「最优」怎么定义 期望效用最大的那个动作,唯一确定 要先假设别人怎么做,答案是循环依赖的
你的策略变好之后 环境不变,收益就是变好了 ⚠️ 对面会跟着改,你可能白忙一场

⚠️ 第三行是最容易吃亏的一条。单人优化里「我改进了 → 我收益变高了」是天经地义的; 博弈里这句话只在别人不改的前提下成立,而这个前提通常不成立。 后面第 11 章的纳什均衡,本质上就是在找「别人也不想改」的那些点 —— 只有在那里,你的改进才是真的。


🕵️ 二、先看例子:囚徒困境

两个同伙被分开审讯,证据不足,检察官分别给出条件:

刑期不能直接当收益(数越大越好才对),所以先按第 7 章的办法换成效用 —— 越靠前越舒服,效用越高

判决 效用
10 年 0
5 年 1
1 周 2
自由 3

于是整个局面缩成一张 2×2 的表。每格写两个数:前面那个是行玩家(甲)的收益,后面那个是列玩家(乙)的收益。

甲 \ 乙 合作(沉默) 叛变(指证)
合作(沉默) 2, 2 0, 3
叛变(指证) 3, 0 1, 1

(⭐ 这组数字全板块统一,第 10、11、12 章还会一直用它,记住它省很多事。)

现在把甲的心思走一遍。他不知道乙会怎么选,所以两种情况都想一遍

不管乙做什么,甲指证都严格更好。 乙的算盘完全对称。于是两个理性的人都指证, 落到 (1, 1),而两个人都沉默本可以各拿 2

💀 这就是囚徒困境的痛点每个人都做了对自己最优的选择,合起来把两个人都害了。 注意这里没有任何人犯错、没有任何人不理性、也没有信息不对称 —— 坏结果是理性推出来的。 所以你没法靠「教育大家聪明一点」解决它,只能换游戏规则(那是第 16 章机制设计的活)。


📐 三、形式化:只有三样东西

把上面那张表抽象一下,一个正常形博弈(normal-form game)就是一个三元组:

$$G = \big(N,\ (A_i)_{i \in N},\ (u_i)_{i \in N}\big)$$

记号 是什么 囚徒困境里
$N = \{1,\dots,n\}$ 玩家集合 $N = \{1, 2\}$
$A_i$ 玩家 $i$ 的行动集 $A_1 = A_2 = \{$合作, 叛变$\}$
$A = A_1 \times \cdots \times A_n$ 所有行动组合(表格里的格子) 4 个组合
$u_i : A \to \mathbb{R}$ 玩家 $i$ 的收益函数 $u_1($叛变, 合作$) = 3$

⭐ 注意 $u_i$ 的定义域是 $A$ 而不是 $A_i$ —— 这一个细节就是整章的转折所在。 你的收益不是你的动作的函数,是所有人动作的函数。 前两章里 $u$ 只吃你自己的选择,从这里开始不是了。

还有一个天天要用的记号:

$$A_{-i} = A_1 \times \cdots \times A_{i-1} \times A_{i+1} \times \cdots \times A_n$$

$a_{-i}$ 读作「除了 $i$ 之外所有人的动作」,于是一格可以写成 $(a_i, a_{-i})$。 上面「不管乙做什么甲都该指证」那句话,形式化就是 $u_1(\text{叛变}, a_{-1}) > u_1(\text{合作}, a_{-1})$ 对所有 $a_{-1}$ 成立 —— 下一章整章都在算这个式子。

给定一个行动组合 $a$,那一串数 $(u_1(a), \dots, u_n(a))$ 叫这一格的结果(outcome)。 ⚠️ 结果是一个向量,不是一个数。这一点在下一节讲帕累托时是全部的关键。

⚠️「同时、独立、只选一次」到底在说什么

这三个词是正常形博弈的适用条件,但都容易被字面误解:

有先后顺序、后手能看见前手的博弈叫扩展式博弈,在第 14 章。 那一章还会告诉你:任何扩展式博弈都能压平成一张正常形矩阵 —— 代价是矩阵会指数级变大, 而且会丢掉「谁先谁后」这个信息,所以才需要单独一套工具。


🥊 四、另外两个必须记住的例子

囚徒困境只是一类冲突。下面两个是另外两类,三个加起来基本覆盖了后面所有章节的举例需求。

性别之争(Battle of the Sexes):想在一起,但想去不同的地方

一对情侣分头下班,一个想看拳击、一个想看芭蕾,但两个人都更想在一起

甲 \ 乙 拳击 芭蕾
拳击 2, 1 0, 0
芭蕾 0, 0 1, 2

这里没有任何一个动作是「永远更好」的 —— 甲该选拳击还是芭蕾,完全取决于乙选什么。 所以上一节那套「不管对方怎样我都该……」的推理在这里一步都走不动, 下一章的支配工具对它完全无效,必须等到第 11 章的纳什均衡。

💀 而且它有个很真实的失败模式:两个人各挑各爱的,打出 (0, 0) —— 比任何一种「迁就」都差。 协调失败的代价往往比选错方向大得多。

石头剪刀布:一分钱都没有被创造出来

甲 \ 乙 石头 剪刀
石头 0, 0 1, −1 −1, 1
剪刀 −1, 1 0, 0 1, −1
1, −1 −1, 1 0, 0

每一格的两个数加起来都是 0 —— 这叫零和博弈你赢的正好是我输的。 零和是博弈论里性质最好的一块(第 13 章会讲, 那里纳什均衡的三个毛病同时消失),但也是最不像现实的一块 —— 真实世界里绝大多数冲突是「有共同利益也有分歧」的,比如上面两个例子。

⚠️ 还有一件事:这张表里每个纯动作都会被对手针对,一会儿你会发现它连一个「稳定格」都找不到。 解药是掷骰子(第 12 章)。

三个人怎么画?—— 晚餐困境

三个朋友去吃饭,说好账单平摊。菜有便宜的和贵的,贵的稍微好吃一点。 三个人玩就要两张表:第三个人的选择决定看哪张。

第三人点便宜的:

甲 \ 乙 便宜
便宜 3, 3, 3 1, 5, 1
5, 1, 1 4, 4, 0

第三人点贵的:

甲 \ 乙 便宜
便宜 1, 1, 5 0, 4, 4
4, 0, 4 2, 2, 2

把甲的四种情形都验一遍(每次固定住乙和第三人,比较甲的两行):

乙、第三人 甲点便宜 甲点贵
便宜、便宜 3 5
贵、便宜 1 4
便宜、贵 1 4
贵、贵 0 2

四种情况下点贵的都严格更好 —— 因为多花的钱有 2/3 是别人替你出的,好处却全归你。 于是三个人都点贵的,落到 (2, 2, 2);而三个人都点便宜的是 (3, 3, 3)和囚徒困境一模一样的结构,只是玩家从 2 个变成 3 个、故事从审讯室换成了饭桌。

⭐ 认出这个结构比记住这个例子重要:成本被摊薄、收益被独占 —— 公摊电费、共享打印机、开源项目的维护、云资源配额、A/B 实验平台的流量…… 只要有这个形状,(2,2,2) 就会自己长出来,不需要任何人使坏。


⚖️ 五、帕累托最优:怎么说「这个结果更好」

上一节留了个尖锐的问题:囚徒困境里 (1,1) 明显比 (2,2) 差,但「差」这个话该怎么严格地说?

麻烦在于结果是一个向量不是一个数(第三节最后强调过)。 $(3,0)$ 和 $(0,3)$ 谁更好?没法说 —— 甲觉得前者好,乙觉得后者好。 ⚠️ 你不能把两个人的效用加起来比大小 —— 第 7 章讲过效用是序数的, 甲的「3」和乙的「3」根本不是同一把尺子量出来的,相加没有意义。

所以只能用一个极其保守的标准:只在没有人反对的时候才说更好。

帕累托支配:结果 $o$ 帕累托支配 $o'$,当且仅当 $$\forall i,\ u_i(o) \ge u_i(o') \quad\text{且}\quad \exists j,\ u_j(o) > u_j(o')$$ 人话:所有人都不差,且至少有一个人真的更好。

帕累托最优(Pareto optimal / efficient):没有任何结果能帕累托支配它。 人话:想让任何一个人更好,就必然得让另一个人更差。

🔨 手算:把囚徒困境的四格全查一遍

判定套路很机械:拿一格,和其余每一格逐个比,看有没有谁能「两个数都不小、至少一个更大」地压过它。

格子 收益 有没有格子能支配它 结论
(合作, 合作) (2, 2) 找不到:(3,0) 乙更差、(0,3) 甲更差、(1,1) 两个都更差 帕累托最优
(叛变, 合作) (3, 0) 找不到:甲已经拿到最高的 3,谁也压不过 帕累托最优
(合作, 叛变) (0, 3) 同上,对称 帕累托最优
(叛变, 叛变) (1, 1) (2,2) 支配它 —— 2≥1 且 2≥1,两个都严格更大 不是

⭐⭐ 囚徒困境的全部悲剧就浓缩在最后一行: 四个格子里有三个是帕累托最优的,理性推导偏偏把两个人送进了唯一那个不是的格子

💀 这就是「个体理性 ≠ 集体最优」的精确表述。 后面第 16 章的机制设计,做的正是改规则让理性的人落到帕累托最优的格子里

⚠️ 三个常见误解

误解 实际
「帕累托最优 = 好」 (3,0) 也是帕累托最优的 —— 一个人拿光、另一个人一无所有,照样满足定义。帕累托最优完全不管公平,那是第 19 章的事
「帕累托最优只有一个」 ❌ 上表里就有三个。它是一个集合,不是一个点
「帕累托最优的结果一定会发生」 ❌ 囚徒困境的结局恰恰不是。帕累托讲的是「哪些结果不浪费」,不是「哪个会实现」 —— 后者要等第 11 章的均衡

🌐 你在别的板块已经见过它了

本站另外两处都在用这个结构,但都没有定义过它 —— 这一节就是它们的定义处

💡 换句话说,多目标优化里的「帕累托前沿」和博弈论里的「帕累托最优」是同一个定义, 只是一个把维度当成「目标」,一个把维度当成「人」。


🔗 这一章连到哪里

去哪 为什么
10 · 支配策略 本章「不管乙做什么甲都该指证」那句话,下一章会变成一套能机械执行的手算工具,并告诉你它什么时候完全失效(性别之争)
11 · 纳什均衡 ⭐ 性别之争用支配工具一步都走不动,必须等纳什均衡。那一章才回答「到底会发生什么」
16 · 机制设计在解什么 ⭐⭐ 囚徒困境没法靠「教育大家聪明点」解决,只能换规则。那一章开始,问题从「给定规则会怎样」翻转成「想要某个结果,规则该怎么设计」
../强化学习基础/02-MDP.html 回去对照本章第一节那道坎:MDP 的转移概率是写死的一张表,环境有随机性但没有偏好、不想赢你。那一套之所以能收敛,正是因为环境不会针对你调整
../智能体工程教程/13-多Agent协作.html ⚠️ 别把两种「多 agent」搞混:那一章的多个 Agent 目标一致,难点是工程(怎么编排、怎么传上下文);这一套里 agent 目标冲突,难点是理论(会不会有人偷偷偏离)
../推荐算法/11-重排与多样性.html 那一章的准确性 vs 多样性权衡就是本章第五节的定义换个维度(把「人」换成「目标」)。⚠️ 它没用「帕累托」这个词,所以对照着读才看得出是同一件事

✅ 检查点

  1. 单人决策和博弈最本质的差别是什么?为什么说「我改进了所以我收益变高了」在博弈里不一定成立?
  2. 正常形博弈的三个组成部分是什么?$u_i$ 的定义域为什么是 $A$ 而不是 $A_i$?
  3. 囚徒困境里,为什么甲不需要知道乙怎么选就能决定自己怎么做?两人最终落在哪一格、收益多少?
  4. 「同时、独立、只选一次」这三个条件各自真正的含义是什么?哪一条对囚徒困境最致命?
  5. 性别之争和囚徒困境的结构差别在哪?为什么「不管对方怎样我都该……」这套推理对它无效?
  6. 晚餐困境和囚徒困境是什么关系?那个结构的一句话概括是什么?
  7. 为什么不能把两个玩家的效用加起来比较大小?
  8. 写出帕累托支配的定义。囚徒困境四格里哪些是帕累托最优的?
  9. (3,0) 是帕累托最优的吗?这说明帕累托最优和「公平」是什么关系?
  10. 帕累托最优的结果一定会发生吗?举一个反例。
👀 答案
  1. 单人决策面对的是固定的概率分布(骰子不会因为你押 6 就改成 1/7),博弈面对的是另一个也在挑最优的 agent。⭐ 所以「我改进了 → 我收益变高」只在别人不改的前提下成立,而这个前提通常不成立——对面会跟着调整。第 11 章的纳什均衡就是在找「别人也不想改」的那些点。
  2. $G=(N,(A_i),(u_i))$:玩家集合、每人的行动集、每人的收益函数。⭐ $u_i$ 定义域是 $A=A_1\times\cdots\times A_n$ 而不是 $A_i$——你的收益不是你的动作的函数,是所有人动作的函数。这一个细节就是从单人决策到博弈的全部转折。
  3. 因为两种情况都算一遍,指证都更好:乙沉默时 3 > 2,乙指证时 1 > 0。⭐ 不管乙做什么,指证严格更优。两人都指证 → (1, 1),而都沉默本可各拿 2。💀 没有人犯错、没有信息不对称,坏结果是理性推出来的
  4. 同时 = 不要求物理同一秒,真正要求是做决定时看不到对方的选择(隔周投密封标书也算);独立 = 不能先商量好(那是第 22 章合作博弈);只选一次 = 没有下次报复。⚠️ 第三条对囚徒困境最致命——现实中同伙反复见面,重复博弈里合作是能撑住的。
  5. 囚徒困境里存在「永远更好」的动作,性别之争里 ⭐ 没有任何动作是永远更好的——甲该选拳击还是芭蕾完全取决于乙。所以支配类工具对它一步都走不动,必须等纳什均衡。💀 它还有个真实失败模式:各挑各爱打出 (0,0),比任何一种迁就都差。
  6. 结构完全一样,只是玩家从 2 个变 3 个、故事从审讯室换到饭桌:四种情形下点贵的都严格更好,三人都点贵落到 (2,2,2),而都点便宜是 (3,3,3)。⭐ 一句话概括:成本被摊薄、收益被独占——公摊电费、共享打印机、开源维护、云配额、A/B 流量,只要是这个形状,坏结局就会自己长出来。
  7. 因为效用是序数的(第 7 章)。甲的「3」和乙的「3」不是同一把尺子量出来的,单调变换后仍表示同一个偏好,相加没有意义。这正是为什么只能用帕累托这种保守标准。
  8. $o$ 帕累托支配 $o'$ ⟺ $\forall i,\ u_i(o)\ge u_i(o')$ $\exists j,\ u_j(o)>u_j(o')$。帕累托最优 = 没有结果能支配它。囚徒困境里 (2,2)、(3,0)、(0,3) 三格都是帕累托最优,⭐⭐ 只有 (1,1) 不是(被 (2,2) 支配)——四格里三格最优,理性偏偏把人送进唯一那个不是的。
  9. 。⚠️ 一个人拿光、另一个一无所有,照样满足定义。⭐ 帕累托最优完全不管公平——它只说「没有浪费」,不说「分得合理」。公平是第 19 章的事。
  10. 不一定。囚徒困境就是反例:三个帕累托最优格一个都没发生,实际落在 (1,1)。⭐ 帕累托讲的是「哪些结果不浪费」,不是「哪个会实现」——后者要等第 11 章的均衡。

🛑 可以停在这里

走神救援

⭐⭐ 这一章是全板块最大的一道坎:从「一个人」到「一群人」。 第 7、8 章你面对的是不动脑子的世界 —— 骰子有六面、概率 1/6,不会因为你押了 6 就改成 1/7;MDP 的转移概率也是写死的表,环境有随机性但没有偏好、不想赢你。从这一章起,对面是另一个最大化器,他的「随机」是针对你调过的。⚠️ 最容易吃亏的一条推论:单人优化里「我改进了 → 收益变高」天经地义,博弈里这只在别人不改时成立 —— 第 11 章的纳什均衡就是在找那些「别人也不想改」的点。形式化只有三样东西:$G=(N,(A_i),(u_i))$,⭐ 关键细节是 $u_i$ 的定义域是全体行动组合 $A$ 而不是 $A_i$ —— 你的收益不是你的动作的函数,是所有人动作的函数,转折全在这里。记号 $a_{-i}$ = 除你之外所有人的动作。三个必背例子囚徒困境(效用 自由3/1周2/5年1/10年0)—— 乙沉默时甲指证拿 3 > 2,乙指证时拿 1 > 0,⭐不管乙做什么指证都更好,两人落到 (1,1) 而都沉默本可各拿 2;💀 没人犯错、没有信息不对称,坏结果是理性推出来的,所以教育不管用,只能换规则(第 16 章)。性别之争(2,1 / 0,0 / 0,0 / 1,2)—— ⭐没有任何动作永远更好,支配工具一步都走不动,必须等纳什均衡;💀 各挑各爱打出 (0,0),比任何迁就都差。石头剪刀布 —— 每格两数和为 0,零和;性质最好但最不像现实。三人晚餐困境:四种情形点贵的都更好,落到 (2,2,2) 而都点便宜是 (3,3,3) —— ⭐ 认出这个形状比记住例子重要:成本被摊薄、收益被独占(公摊电费、共享打印机、开源维护、云配额)。「同时、独立、只选一次」三条:同时 = 决定时看不到对方(隔周投密封标书也算)、独立 = 不能商量、⚠️ 只选一次对囚徒困境最致命(重复博弈里合作撑得住)。⭐⭐ 帕累托:因为效用是序数的,甲的 3 和乙的 3 不是同一把尺子,不能相加,所以只能用最保守的标准 —— 所有人都不差、至少一人更好才叫支配;没人能支配它就叫帕累托最优(想让谁更好就必然让另一个更差)。手算囚徒困境四格:(2,2)、(3,0)、(0,3) 都是帕累托最优,只有 (1,1) 不是(被 (2,2) 支配)—— ⭐⭐ 四格里三格最优,理性偏偏把人送进唯一那个不是的。三个误解要记牢:(3,0) 也是帕累托最优的(它完全不管公平)、帕累托最优是一个集合不是一个点、帕累托最优不一定会发生(囚徒困境就没发生)。⭐ 最后一条跨板块:《推荐算法》11 的准确性 vs 多样性权衡(⚠️ 那一章没用「帕累托」这个词)和《模型上线之后》15 的帕累托前沿,用的就是这个定义,只是把「人」换成了「目标」—— 那两处一直在用这个结构,定义在这里

下一节 👉 10-支配策略.md

打卡记录保存在你的浏览器里,首页能看到总进度