設$\Omega$是一個集合,那么群$G$到對稱群$S(\Omega)$的每個同態$\phi:G\to S(\Omega)$叫做群$G$在集合$\Omega$上的一個置換表示.特別的如果$\phi$是單的,那么稱$\phi$是忠實表示.
注意群$G$中任意元素$g$在$\phi$下的像$\phi(g)$是$\Omega$中的一個置換,因此我們可以將群$G$中的每個元素視作置換,即$$ga:=\phi(g)a,\forall a\in\Omega$$形象的看就是群作用在集合上.
如果我們在$\Omega$中定義關系$a\sim b\Leftrightarrow\exists g\in G$使得$ga=b$,不難驗證這是一個等價關系,那么$\Omega$可被分解成一些等價類的無交並,如果我們記$[a]=\{ga:g\in G\}$為等價類,那么$$\Omega=\bigcup_{a}[a]$$其中每個等價類稱為$G-$軌道,元素$a$的軌道也記作$$\mathrm{Orb}_a:=[a]$$也記作$O_a$.特別的如果$\Omega$只有一條軌道,那么稱$G$在$\Omega$上的作用是傳遞的(也稱為可遷的).那么顯然$G$在每條軌道上的作用是傳遞的.我們來看具體的群作用的例子:
例1.設$G$是群,取$\Omega=G$,考慮映射$\phi:G\to S(G)$,定義$\phi(g)a=ga,\forall a,g\in G$,那么$\phi$是一個同態,這是因為$\forall g,h,a\in G$有$$\phi(gh)a=gha=\phi(g)\phi(h)a$$因此$\phi$是群$G$在集合$G$上的一個置換表示,並且$$\mathrm{Ker}\phi=\{1\}$$我們也把這個表示稱為群$G$的左正則表示,且顯然這個表示是忠實的.類似的可以定義右正則表示.
利用此我們可以得出如下的Cayley定理:每個群均同構於某個置換群.
只需對例1中的左正則表示用同態基本定理$G=G/\mathrm{Ker}\phi\simeq\mathrm{Im}\phi\leq S(G)$,這就說明群$G$同構於某個置換群.
例2.設$H\leq G$,取$\Omega:=\{aH:a\in G\}$即為全體左陪集構成的集合,考慮映射$\pi_H:G\to S(\Omega)$,定義$\pi_H(g)(aH)=gaH$,不難驗證這也是一個同態,稱為$G$對於子群$H$的左誘導表示.如果$g\in\mathrm{Ker}\pi_H$,那么$\forall a\in G$有$\pi_H(g)(aH)=gaH=aH\Rightarrow g\in aHa^{-1}$,注意$a$的任意性可知$$\mathrm{Ker}\pi_H=\bigcap_{a\in G}aHa^{-1}$$即為$H$的全體共軛子群之交.類似的也可以定義右誘導表示.
例3.設$A\subset G$是群$G$的任意子集,取$\Omega:=\{aAa^{-1}:a\in G\}$即為$A$的共軛子集的全體.考慮映射$\rho_A:G\to S(\Omega)$,定義$\rho_A(g)aAa^{-1}=gaAa^{-1}g^{-1}$,這也是一個同態,稱為群$G$對於子集$A$的共軛表示.類似的可求出其同態核$$\mathrm{Ker}\rho_A=\bigcap_{a\in G}aN_G(A)a^{-1}$$即為$A$的正規化子$N_G(A)$的全體共軛子群之交.
設$a\in\Omega$,我們考慮集合$\mathrm{Stab}(a):=G_a:=\{g\in G:ga=a\}$,即為保持元素$a$不動的那些群元素之集合.不難驗證其構成群$G$的子群,即$\mathrm{Stab}(a)\leq G$,稱作元素$a$的穩定子群.我們有如下的:
軌道-穩定子定理 設有限群$G$作用在集合$\Omega$上,那么$\forall a\in \Omega$有$$|G|=|\mathrm{Orb}(a)|\cdot|\mathrm{Stab}(a)|\leftrightarrow|\mathrm{Orb}(a)|=[G:\mathrm{Stab}(a)]$$證明 設$G=\cup_{i=1}^{n}g_i\mathrm{Stab}(a)$,注意到$\forall g,h\in G$,那么$$g\mathrm{Stab}(a)=h\mathrm{Stab}(a)\Leftrightarrow h^{-1}g\in\mathrm{Stab}(a)\Leftrightarrow h^{-1}ga=a\Leftrightarrow ga=ha$$這說明在同一陪集中的元素作用在$a$上的結果是相同的,且不同陪集的元素作用結果不同.這便說明了$$|\mathrm{Orb}(a)|=[G:\mathrm{Stab}(a)]$$
特別的如果$G$在$\Omega$上的作用是可遷的,那么$$|G|=|\Omega|\cdot|\mathrm{Stab}(a)|,\forall a\in\Omega$$而若$G$是無限群,軌道長度有限時,我們通常用后面的表達形式$|\mathrm{Orb}(a)|=[G:\mathrm{Stab}(a)]$.
特別的如果$a,b$位於同一軌道中,即存在$g\in G$使得$b=ga$,那么我們看他們的穩定子群有什么關系.任取$h\in\mathrm{Stab}(b)$,則$hb=b\Rightarrow hga=ga\Rightarrow g^{-1}hg\in\mathrm{Stab}(a)$,即$\mathrm{Stab}(b)\subset g\mathrm{Stab}(a)g^{-1}$,類似可得$\mathrm{Stab}(b)\subset g\mathrm{Stab}(a)g^{-1}$,這說明$$\mathrm{Stab}(b)=g\mathrm{Stab}(a)g^{-1}$$即同一軌道中元素的穩定子群是共軛的.
例4.正$n(n\geq3)$邊形的對稱群.
我們把平面中能夠使得圖形$\Gamma$與自身重合的正交變換(旋轉和鏡面反射)稱作稱作圖形$\Gamma$的對稱,顯然全體這種對稱構成一個群,稱為圖形$\Gamma$的對稱群,記作$S(\Gamma)$,特別的正$n$邊形的對稱群,記作$D_n$.我們來考慮它的結構:
顯然$D_n$可看做是對$n$個頂點的置換,我們可以視作群$D_n$作用在頂點擊$\Omega=\{1,2,\cdots,n\}$上,顯然這個作用是傳遞的,用繞中心旋轉$\frac{2\pi}{n}$的置換$\sigma=(12\cdots n)$依次作用即可.再者對於某個頂點$1$,保持$1$不動的置換只有兩個,分別是恆等置換和保持$1$不動的反射
\[\tau = \left\{ \begin{array}{l}
(2,n)\left( {3,n - 1} \right) \cdots \left( {\frac{n}{2},\frac{n}{2} + 2} \right),n \equiv 0(\bmod 2) \\
\left( {2,n} \right)\left( {3,n - 1} \right) \cdots \left( {\frac{{n + 1}}{2},\frac{{n + 3}}{2}} \right),n \equiv 1(\bmod 2) \\
\end{array} \right.\]
根據軌道-穩定子定理$|D_n|=|\Omega|\cdot|\mathrm{Stab}(1)|=2n$.注意到$\sigma^i\tau^j(0\leq i\leq n-1,0\leq j\leq1)$恰為$2n$個不同的置換,因此$$D_n=\{\sigma^i\tau^j:0\leq i\leq n-1,0\leq j\leq1\}$$並且運算滿足$\sigma^n=\tau^2=1,\tau\sigma=\sigma^{-1}\tau$且$\sigma\tau=\tau\sigma^{-1}$,據此可以得到更一般的$$\tau\sigma^m=\sigma^{-m}\tau,\forall m\in\mathbb Z$$
進一步的我們可以求出$D_n$的中心$C(D_n)$.顯然$\sigma^i\tau\notin C(D_n)$,而若$\sigma^i\in C(D_n),(0\leq i\leq n-1)$,注意到$D_n$的結構,僅需保證其與$\tau$可換即可,即$$\sigma^i\tau=\tau\sigma^i\Leftrightarrow\sigma^{2i}=1\Leftrightarrow n\big|2i$$因此$$C(D_n)=\left\{\begin{matrix}\{1,\sigma^m\}&n=2m\\\{1\}&n=2m+1\end{matrix}\right.$$
與穩定子群類似,$\forall g\in G$,我們定義元素$g$作用下的不動點的概念$$N(g):=\{a\in\Omega:ga=a\}$$,即$\Omega$中在置換$g$作用下保持不動的那些元素.關於不動點,我們有著名的Burnside引理:
設有限群$G$作用在集合$\Omega$上,那么$\Omega$中軌道的條數$$m=\frac{1}{|G|}\sum_{g\in G}|N(g)|$$直觀來講就是$G$在$\Omega$的作用時,平均有$t$個不動點.下面給出他的證明:
按照定義顯然有$\sum\limits_{a\in\Omega}|\mathrm{Stab}(a)|=\sum\limits_{g\in G}|N(g)|$,另一方面注意到位於同一軌道中兩元素的穩定子群是共軛的,因而具有相同的基數,從而$$\sum_{a\in\Omega}\mathrm{Stab}(a)=\sum_{i=1}^{m}|\mathrm{Orb}(a_i)|\cdot|\mathrm{Stab}(a_i)|=m|G|$$因此定理成立.
這是組合數學中一個重要的計數定理，但是在實際應用時$N(g)$並不好直接計算,所以有更進一步的的Polya定理來處理計數問題.有興趣不妨查閱組合數學的教材.
類似的我們可以定義群$G$作用下的不動點:$$\Omega_0:=\{a\in\Omega:ga=a,\forall g\in G\}$$即群$G$每個元素都保持不動的$\Omega$中的元素.
在后面的Sylow定理中會涉及整個群作用下不動點的應用.