1. 前置
2. 基本定义
以下默认 (G) 是群，(F) 是域，(V) 是 (F) 上的向量空间。记 (GL(V)) 为 (V) 上全体可逆线性变换构成的一般线性群。若 (\dim V=n<\infty)，选定基后有 (GL(V)\cong GL(n,F))。
2.1. 表示
(G) 在 (V) 上的表示有下面两个常用定义，二者等价。(V) 称为表示空间，表示常记成 ((\rho,V)) 或简记为 (V)。
定义 A（同态）
群同态
[
\rho: G\to GL(V).
]
即每个 (g\in G) 对应一个可逆线性映射 (\rho(g):V\to V)，并且
[
\rho(g_1 g_2)=\rho(g_1)\circ\rho(g_2).
]
由此自动有 (\rho(e)=\mathrm{id}_V)
证明：(\rho(e)=\rho(ee)=\rho(e)\circ\rho(e))，在 (GL(V)) 中左乘 (\rho(e)^{-1}) 得 (\mathrm{id}_V=\rho(e))。
定义 B（线性作用）
(G) 在集合 (V) 上的群作用 (\phi:G\times V\to V)，记 (g\cdot v:=\phi(g,v))，并且每个 (g) 的作用对 (V) 的线性结构是线性的：
[
g\cdot(\alpha v+\beta w)=\alpha(g\cdot v)+\beta(g\cdot w).
]
2.2. 定义的等价性
二者的对应是
[
g\cdot v=\rho(g)(v).
]
证明（A (\Leftrightarrow) B）
先由 A 推 B。给定 (\rho:G\to GL(V))，定义 (\phi(g,v):=\rho(g)(v))。则
[
e\cdot v=\rho(e)(v)=\mathrm{id}_V(v)=v,
]
[
(g_1 g_2)\cdot v=\rho(g_1 g_2)(v)=\bigl(\rho(g_1)\circ\rho(g_2)\bigr)(v)=\rho(g_1)\bigl(\rho(g_2)(v)\bigr)=g_1\cdot(g_2\cdot v).
]
故 (\phi) 是群作用。
又 (\rho(g)\in GL(V))。按 (GL(V)) 的定义，其中每个元素都是 (V) 上的可逆线性映射，故 (\rho(g)) 线性：
[
\rho(g)(\alpha v+\beta w)=\alpha\rho(g)(v)+\beta\rho(g)(w).
]
于是
[
g\cdot(\alpha v+\beta w)=\rho(g)(\alpha v+\beta w)=\alpha\rho(g)(v)+\beta\rho(g)(w)=\alpha(g\cdot v)+\beta(g\cdot w).
]
这是线性作用。
再由 B 推 A。给定线性作用 (\phi)，对每个 (g\in G) 定义 (\rho(g):V\to V) 为
[
\rho(g)(v):=g\cdot v.
]
要说明 (\rho(g)\in GL(V))，需要两件事：线性，以及可逆。二者来源不同。
线性来自定义 B 的线性公理。对任意 (\alpha,\beta\in F) 和 (v,w\in V)，
[
\rho(g)(\alpha v+\beta w)=g\cdot(\alpha v+\beta w)=\alpha(g\cdot v)+\beta(g\cdot w)=\alpha\rho(g)(v)+\beta\rho(g)(w).
]
这正是线性映射的定义，所以 (\rho(g)) 线性。这里还没有用到 (g) 可逆。
可逆来自群作用公理，与线性无关。任意群作用都使 (v\mapsto g\cdot v) 成为集合 (V) 上的双射，逆映射是 (v\mapsto g^{-1}\cdot v)：
[
\rho(g)\bigl(\rho(g^{-1})(v)\bigr)=g\cdot(g^{-1}\cdot v)=(g g^{-1})\cdot v=e\cdot v=v,
]
[
\rho(g^{-1})\bigl(\rho(g)(v)\bigr)=g^{-1}\cdot(g\cdot v)=(g^{-1} g)\cdot v=e\cdot v=v.
]
因此 (\rho(g)^{-1}=\rho(g^{-1}))，(\rho(g)) 是双射。线性映射若可逆，就属于 (GL(V))，故 (\rho(g)\in GL(V))。
再由作用的结合性，
[
\rho(g_1 g_2)(v)=(g_1 g_2)\cdot v=g_1\cdot(g_2\cdot v)=\rho(g_1)\bigl(\rho(g_2)(v)\bigr),
]
即 (\rho(g_1 g_2)=\rho(g_1)\circ\rho(g_2))。故 (\rho:G\to GL(V)) 是群同态。
平凡表示：(\rho(g)=\mathrm{id}_V) 对一切 (g) 成立。一维平凡表示常记为 (\mathbf 1)。
2.3. 矩阵表示、维数与忠实性
若 (\dim V=n<\infty)，选定基后，(\rho(g)) 成为可逆矩阵。此时称 (\rho) 为 (n) 维矩阵表示，(n=\dim V) 称为表示的维数或次数。
同态核 (\ker\rho={g\in G:\rho(g)=\mathrm{id}_V}) 是 (G) 的正规子群。若 (\ker\rho={e})，即 (\rho) 单射，则称表示忠实。
2.4. 不变子空间、子表示与商表示
设 ((\rho,V)) 是表示。子空间 (W\subseteq V) 称为 (G)-不变子空间（或不变子空间），如果
[
\forall g\in G,\quad \rho(g)W\subseteq W.
]
这其实等价于更强的等式 (\rho(g)W=W)。
证明
已有 (\rho(g)W\subseteq W)。把同一个条件用在 (g^{-1}) 上，得 (\rho(g^{-1})W\subseteq W)。两边用 (\rho(g)) 作用（任意映射都保持包含关系）：
[
\rho(g)\bigl(\rho(g^{-1})W\bigr)\subseteq\rho(g)W.
]
左边是 (\bigl(\rho(g)\circ\rho(g^{-1})\bigr)W=\mathrm{id}_V(W)=W)，故 (W\subseteq\rho(g)W)。两头一夹，
[
\rho(g)W=W.
]
因此 (G) 把 (W) 映进自己，实际上是把 (W) 双射到自己：(\rho(g)|_W\in GL(W))。这也是子表示良定义的原因。
Note
不变的是子空间作为集合，不是其中每个向量都不动。即
[
v\in W\implies \rho(g)v\in W,
]
而一般 (\rho(g)v\neq v)。
({0}) 与 (V) 永远是不变子空间，称为平凡不变子空间。
checkpoint
若 (W) 不变，则 (\rho) 限制在 (W) 上给出子表示 ((\rho|W,W))。此时商空间 (V/W) 上也有自然的商表示：
[
\rho{V/W}(g)(v+W)=\rho(g)v+W.
]
2.5. 不可约、可约与完全可约
设 (V\neq{0})。称 ((\rho,V)) 不可约，如果 (V) 中不存在非平凡的 (G)-不变子空间：
[
(\rho,V)\text{ 不可约}
\iff
\nexists W\subseteq V,\quad {0}\subsetneq W\subsetneq V,\quad
\forall g\in G,\ \rho(g)W\subseteq W.
]
此时也称 (V) 为不可约表示（irrep）。直观上，它是群作用下不能再拆的最小线性对称性模块。
若存在非平凡不变子空间，则称表示可约。
称表示完全可约（或半单），如果它同构于不可约表示的直和：
[
V\cong V_1\oplus V_2\oplus\cdots\oplus V_k,
]
每个 (V_i) 不可约。有限维时，这等价于：每个不变子空间都有不变补空间。
注意：
- 可约不必完全可约。有限群（特征不整除 (|G|)）和紧群的连续有限维表示是完全可约的；一般非紧群不必。
- 不可约依赖于数域。同一个实表示，复化后可能变成可约。
2.6. 等变映射与表示的等价
设 ((\rho,V))、((\sigma,W)) 是 (G) 的两个表示。线性映射 (T:V\to W) 称为 (G)-等变映射（也叫交织算子、intertwiner），如果
[
T\circ\rho(g)=\sigma(g)\circ T\qquad\forall g\in G,
]
即图交换：(T(g\cdot v)=g\cdot T(v))。全体等变映射记作 (\mathrm{Hom}_G(V,W))。
若存在可逆的等变映射 (T:V\to W)，则称两个表示等价（或同构），记 (V\cong W)。等价的表示是“同一套对称性的不同坐标实现”。
2.7. 直和与张量积
直和：在 (V\oplus W) 上定义
[
(\rho\oplus\sigma)(g)(v,w)=(\rho(g)v,\sigma(g)w).
]
选定基后，矩阵呈分块对角。等变网络里，节点特征常写成若干不可约表示的直和。
张量积：在 (V\otimes W) 上定义
[
(\rho\otimes\sigma)(g)(v\otimes w)=\rho(g)v\otimes\sigma(g)w.
]
两个不可约表示的张量积一般可约，需要再分解成不可约直和。分解系数称为 Clebsch–Gordan（CG）系数。
2.8. 特征标
有限维表示的特征标是
[
\chi_\rho:G\to F,\qquad \chi_\rho(g)=\operatorname{Tr}\rho(g).
]
它是类函数：(\chi_\rho(hgh
2.9. 酉表示
若 (V) 是内积空间，且每个 (\rho(g)) 都是酉算子（实情形为正交算子），则称 (\rho) 为酉表示。紧群的连续有限维表示都等价于酉表示。此时不变子空间的正交补也不变，故完全可约。
3. 基本性质
- 一维表示都不可约。一维空间没有中间子空间。
- Maschke 定理（有限群）。若 (G) 有限，且 (\mathrm{char},F) 不整除 (|G|)，则 (G) 的每个有限维表示完全可约。紧群的连续有限维表示有平行结论。
- 舒尔引理。设 (V,W) 不可约，(T\in\mathrm{Hom}_G(V,W))。则 (T=0)，或 (T) 是同构。特别地，若 (V\cong W) 且 (F) 代数闭（例如 (F=\mathbb C)），则
[
\mathrm{Hom}_G(V,V)={\lambda,\mathrm{id}_V:\lambda\in F}.
]
因此，同一不可约表示上的等变线性映射只能是标量乘单位映射。若有若干个相同不可约表示的拷贝（通道），等变线性层只能在通道维上混合，不能搅动单个不可约块的内部坐标。实数域上结论较弱：(\mathrm{Hom}_G(V,V)) 是实可除代数，可能是 (\mathbb R,\mathbb C) 或 (\mathbb H)。 - 特征标的正交性（有限群 / 紧群）。不可约特征标构成类函数空间的正交基底，可用来判断两个表示是否等价、以及完全可约表示中各 irrep 的重数。
- Peter–Weyl 定理。紧群 (G) 上，有限维不可约酉表示的矩阵元在 (L^2(G)) 中完备。傅里叶级数、球谐展开都是它的特例。
一句话：表示论给出对称性下的“特征类型”，以及这些类型之间允许的线性组合规则。
4. 例子
例 1（一维表示）
任何一维表示都不可约。
例 2（(SO(2)) 作用在 (\mathbb R^2)）
旋转整个平面。每个非零向量都会动，但没有任何一条实直线在所有旋转下不变，因此这是 (\mathbb R) 上的不可约表示。把它复化到 (\mathbb C^2) 后可约，会分成两个一维复表示。这说明不可约依赖于数域。
例 3（(SO(3)) 的 (l=1) 表示）
三维向量空间 (\mathbb R^3)。旋转下没有非平凡不变子空间，因此不可约。这就是普通三维向量的变换规则 (v\mapsto Rv)。
例 4（可约但很简单）
设 (C_2={e,s})，(s^2=e)，作用在 (\mathbb R^2) 上：
[
\rho(e)=\begin{pmatrix}1&0\0&1\end{pmatrix},\qquad
\rho(s)=\begin{pmatrix}1&0\0&-1\end{pmatrix}.
]
(x) 轴与 (y) 轴都是不变子空间，故可约，并且完全可约：它是两个一维表示的直和。
例 5（平凡不变子空间总存在）
({0}) 与 (V) 始终不变。不可约不是“没有子空间”，而是“没有介于二者之间的不变子空间”。
5. SO(3) 的表示：Wigner D 与球谐
三维旋转群 (SO(3)) 是紧群，有限维表示完全可约。它的有限维不可约表示（在 (\mathbb C) 上，也在 (\mathbb R) 上）由非负整数 (l=0,1,2,\dots) 标记，维数是 (2l+1)。
- (l=0)：标量，旋转不变。
- (l=1)：三维向量，按旋转矩阵 (R) 变换。
- (l=2)：二阶对称无迹张量，维数 (5)。
- 一般 (l)：用 Wigner (D) 矩阵 (D^l(R)) 表示，大小是 ((2l+1)\times(2l+1))。
（半整数自旋对应的是 (SU(2)) 的表示，不能忠实地下到 (SO(3))。）
球谐函数 (Y_{lm}(\hat r)) 给出 (SO(3)) 不可约表示在单位球面函数空间中的一组基。方向 (\hat r) 的 (l) 阶分量
[
Y_l(\hat r)={Y_{l,-l},\dots,Y_{l,l}}
]
在旋转下按 (D^l(R)) 变换：
[
Y_l(R^{-1}\hat r)=D^l(R)^\top Y_l(\hat r)
]
（具体转置/复共轭约定随归一化而变）。因此球谐常用来把方向信息变成等变特征。
两个不可约表示的张量积分解为
[
l_1\otimes l_2\cong\bigoplus_{l=|l_1-l_2|}^{l_1+l_2} l,
]
且每个 (l) 恰好出现一次。分量公式用 CG 系数：
[
(u\otimes v)^{l_o}{m_o}
=\sum{m_i,m_j}
C^{l_o m_o}{l_i m_i,,l_j m_j}
u^{l_i}{m_i}v^{l_j}_{m_j}.
]
等变网络里，不同阶特征要组合时，就用这套规则。
6. SE(3) 与几何深度学习中的等变
(SE(3)) 是特殊欧几里得群，描述三维刚体变换：
[
g=(R,t),\qquad R\in SO(3),\ t\in\mathbb R^3.
]
作用在点上：
[
x\mapsto Rx+t.
]
乘法：
[
(R,t)(R’,t’)=(RR’,Rt’+t).
]
它是半直积 (SO(3)\ltimes\mathbb R^3)，用齐次坐标可写成 (4\times 4) 矩阵
[
\begin{pmatrix}R&t\0&1\end{pmatrix}.
]
设群 (G) 同时作用在输入空间和输出空间。映射 (\Phi) 称为等变，如果
[
\Phi(g\cdot x)=g\cdot\Phi(x);
]
称为不变，如果
[
\Phi(g\cdot x)=\Phi(x).
]
不变是等变的特例：输出空间上的作用取平凡表示。等变比不变更强：不变只要求输出不变，等变要求输出跟着输入一起变换。
对点云 (P={x_i})，全局 (SE(3)) 变换为 (x_i\mapsto Rx_i+t)。
- 输出能量 (E)：应是 (SE(3)) 不变的。
- 输出每个点的力 (F_i)：应旋转等变、平移不变，
[
F_i(RP+t)=R F_i(P).
] - 输出高阶特征 (h_i^l\in\mathbb R^{2l+1})：应满足
[
h_i^l\mapsto D^l(R)h_i^l.
]
严格来说，(SE(3)) 是非紧群，其酉不可约表示大多是无穷维的。几何深度学习里说的“(SE(3)) 等变”，通常并不是直接用这些酉 irrep，而是：
- 对旋转：用 (SO(3)) 的有限维不可约表示 (l=0,1,2,\dots)；
- 对平移：用相对坐标、中心化、距离，使平移不变或等变自动成立。
所以许多模型更准确的说法是“(SO(3)) 等变 + 平移不变/等变”。平移通常不是靠 Wigner (D) 处理的。
7. 等变网络的构造
一个典型的 (SE(3)/SO(3)) 等变消息传递网络大致如下。它把第 2 节的定义变成架构约束：特征按 irrep 存放，线性层必须是等变映射，不同 (l) 只能经张量积和 CG 耦合。
-
特征按不可约表示存储
每个节点特征写成直和（可带通道重数）
[
h_i=\bigoplus_l h_i^l,\qquad h_i^l\in\mathbb R^{n_l\times(2l+1)}.
]
旋转时 (h_i^l\mapsto h_i^l,D^l(R)^\top)（或按列向量约定写成 (D^l(R)h_i -
用相对位置提取几何信息
[
r_{ij}=x_i-x_j,\qquad d_{ij}=|r_{ij}|,\qquad \hat r_{ij}=r_{ij}/d_{ij}.
]
距离 (d_{ij}) 是旋转、平移都不变的标量。方向 (\hat r_{ij}) 用球谐 (Y_l(\hat r_{ij})) 展开，得到 (l) 型等变特征。 -
张量积 + CG 耦合
把邻居特征与球谐做张量积，再耦合到输出阶：
[
h_j^{l_i}\otimes Y_{l_f}(\hat r_{ij})\ \longrightarrow\ m_{ij}^{l_o}.
]
径向网络只吃距离：
[
\phi_{l_i,l_f,l_o}(d_{ij})\in\mathbb R
]
是标量，乘上去不破坏等变性。 -
消息聚合与更新
[
m_{ij}=\sum_{l_i,l_f,l_o}\phi_{l_i,l_f,l_o}(d_{ij}),\mathrm{CG}\bigl(h_j^{l_i},Y_{l_f}(\hat r_{ij})\bigr),
]
[
h_i’=\sum_{j\in\mathcal N(i)} m_{ij}.
]
求和本身是等变的。 -
线性层必须等变
由舒尔引理，同一 (l) 的等变线性层只能作用于通道维，不能混入 (2l+1) 维内部：
[
W_l\otimes I_{2l+1}.
]
不同 (l) 之间的混合必须通过张量积和 CG 系数。 -
非线性要保持等变
逐元素 ReLU 会破坏等变性。常用范数门控
[
h^l\mapsto\sigma(|h^l|),h^l,
]
其中 (\sigma) 是标量函数：范数旋转不变，再乘回原向量，等变性保持。 -
输出
- (l=0)：不变标量，如能量、分类 logits。
- (l=1)：等变向量，如力、速度、力矩。
因此，不可约表示就是等变网络的基本积木。设计网络本质上是在决定：用哪些 (l)、每个 (l) 有多少通道、它们如何经张量积耦合、以及如何处理平移。
8. 常见模型与工具
- Tensor Field Networks：早期 (SE(3)) 等变点云网络。
- SE(3)-Transformer：等变注意力。
- NequIP、Allegro、MACE：分子/材料势函数，强调 (E(3)) 或 (SE(3)) 等变。
- EGNN：不显式用球谐，而用相对向量构造等变消息。
- e3nn：PyTorch 中常用的等变神经网络库，提供
Irreps、张量积、球谐、CG 系数等。
应用包括分子性质预测、力场、蛋白质结构、材料建模、点云分割、机器人策略学习等。
等变性是架构先验，不只是数据增强。它通常带来更好的数据效率、泛化性和物理一致性。高阶 (l) 表达能力更强，计算和内存开销也更大。
9. 要点与常见误解
- 群表示论提供“特征类型”和“组合规则”：(l=0) 标量、(l=1) 向量、(l=2) 高阶张量等。
- 等变要求输出与输入一同变换；不变是输出空间取平凡表示的特例。
- 严格 (SE(3)) 酉表示很复杂；实际网络常用 (SO(3)) 不可约表示加相对坐标处理平移。
- 误解：不可约表示里每个向量都不变。 不变的是子空间，不是每个向量不动。
- 误解：不可约就是没有子空间。 ({0}) 与 (V) 总是子空间，只是太平凡。
- 误解：不可约就是维数小。 (SO(3)) 的 (l=10) 表示维数是 (21)，仍然不可约。
- 误解：可约一定完全可约。 对有限群和紧群的常见表示成立；对一般非紧群不一定。(SE(3)) 是非紧群，所以实际模型不用它的无穷维酉 irrep 来当特征类型。
- 误解：舒尔引理在实数域上总给出“只能乘标量”。 需要基域代数闭；实不可约表示的等变自同态可能更宽。
一句话总结：
群表示把对称性变成线性代数。不可约表示是不能再拆的最小对称性模块，相当于对称世界里的“素数”或“傅里叶基频”。(SE(3)) 等变网络用 (SO(3)) 的这些模块组织特征，用相对坐标处理平移，用球谐和 Clebsch–Gordan 张量积构造等变层，从而让模型对刚体变换保持一致。