Théorème de Lie-Kolchin

Si toutes les matrices de G sont des matrices d'homothéties (en particulier si n = 0), le résultat est vrai. Raisonnons par récurrence sur n, en supposant, pour un n > 0, que le lemme est vrai en toute dimension strictement inférieure à n, et en le démontrant en dimension n sous l'hypothèse que G contient un élément g qui n'est pas une matrice d'homothétie.

Soient V un sous-espace propre (non nul) de g (il en existe car K est algébriquement clos) et d sa dimension (qui est donc strictement comprise entre 0 et n). Comme tous les éléments de G commutent, V est G-stable.

${\displaystyle g={\begin{pmatrix}\varphi _{1}(g)&\psi (g)\\0&\varphi _{2}(g)\end{pmatrix}},}$

pour certaines applications

${\displaystyle \varphi _{1}:G\to M_{d}(K),\quad \varphi _{2}:G\to M_{n-d}(K)\quad {\text{et}}\quad \psi :G\to M_{d,n-d}(K)}$

qui vérifient entre autres :

${\displaystyle \forall g_{1},g_{2}\in G\quad \varphi _{1}(g_{1}g_{2})=\varphi _{1}(g_{1})\varphi _{1}(g_{2})\quad {\text{et}}\quad \varphi _{2}(g_{1}g_{2})=\varphi _{2}(g_{1})\varphi _{2}(g_{2}).}$

Les images de φ₁ et φ₂ sont donc des ensembles de matrices qui commutent. Comme d et n – d sont strictement inférieurs à n, on peut appliquer l'hypothèse de récurrence, à savoir qu'il existe une base de trigonalisation pour φ₁(G), en des matrices triangulaires supérieures, et une pour φ₂(G), et l'on conclut en concaténant ces deux bases.

Soit ${\displaystyle S}$ l'ensemble des commutateurs et ${\displaystyle \Phi :(M,N)\in G\times G\mapsto MNM^{-1}N^{-1}\in S}$. ${\displaystyle G\times G}$ est connexe et ${\displaystyle \Phi }$ est continue donc ${\displaystyle \Phi (G\times G)=S}$ est connexe. Soit ${\displaystyle m\geq 1}$ et ${\displaystyle S_{m}}$ l'ensemble des produits ${\displaystyle s_{1}\dots s_{m}}$ avec s${\displaystyle _{i}\in S}$. C'est l'image par l'application continue ${\displaystyle (g_{1},\dots ,g_{m})\mapsto g_{1}\dots g_{m}}$ de ${\displaystyle S^{m}}$ qui est connexe car ${\displaystyle S}$ l'est. Ainsi, ${\displaystyle S_{m}}$ est connexe. Or, ${\displaystyle D(G)=\{Id\}\cup \left(\cup _{m\geq 1}S_{m}\right)}$, comme ${\displaystyle Id\in S_{m}}$ pour tout ${\displaystyle m\geq 1}$, ${\displaystyle D(G)}$ est connexe.

Si G est abélien (en particulier si n = 0), le résultat est vrai d'après le lemme 1, sans même supposer G connexe. Raisonnons par récurrence sur n, en supposant, pour un n > 0, que le théorème est vrai en toute dimension strictement inférieure à n, et en le démontrant en dimension n sous l'hypothèse que G est non abélien.

• Montrons d'abord que Kⁿ possède un sous-espace vectoriel G-stable non trivial, c'est-à-dire distinct de {0} et de Kⁿ.
  • Notons :
    • m la classe de résolubilité de G, c'est-à-dire l'entier (> 1 puisque G est supposé non abélien) tel que D^{m – 1}(G) soit commutatif mais non réduit au neutre,
    • H = D^{m – 1}(G),
    • P l'ensemble des vecteurs (non nuls) propres simultanément pour tous les éléments de H
    • et pour un tel vecteur p, χ_p(h) la valeur propre associée à p et à un élément h de H.
  • Fixons un vecteur v dans P (il en existe d'après le lemme 1). Le sous-groupe H est normal dans G (parce que le sous-groupe dérivé d'un groupe est caractéristique) et l'on en déduit que pour tout élément g de G, gv appartient encore à P (avec χ_gv(h) = χ_v(g^–1hg) pour tout h dans H).
    Pour h fixé, l'image de G par l'application g ↦ χ_gv(h) est finie car incluse dans l'ensemble des valeurs propres de h. Elle est de plus connexe car l'application est continue. C'est donc un singleton, si bien que le sous-espace Vect(Gv) est propre pour h. Par construction, ce sous-espace est G-stable et non réduit au vecteur nul.
  • Montrons par l'absurde qu'il n'est pas non plus égal à Kⁿ. S'il l'était, chaque élément de h de H serait une homothétie. De plus, comme h appartient à D(G) (car m > 1), son déterminant est égal à 1 donc son rapport d'homothétie – notons-le χ(h) – serait une racine n-ième de l'unité. L'ensemble des χ(h) quand h parcourt H serait alors fini, mais aussi connexe (car H est connexe d'après le lemme 2), donc réduit à {1}. Ainsi, H serait réduit au neutre, ce qui contredirait la définition de m.
• On sait à présent que Kⁿ possède un sous-espace vectoriel G-stable V dont la dimension d est strictement comprise entre 0 et n. Alors, dans une base de Kⁿ formée en complétant une base de V, un élément de G a pour forme :${\displaystyle g={\begin{pmatrix}\varphi _{1}(g)&\psi (g)\\0&\varphi _{2}(g)\end{pmatrix}}}$et les applications${\displaystyle \varphi _{1}:G\to GL_{d}(K),\quad \varphi _{2}:G\to GL_{n-d}(K)}$sont continues en tant que projections et sont des morphismes de groupes. Or l'image d'un groupe résoluble par un morphisme de groupes est résoluble. L'image d'un connexe par une application continue étant connexe, on peut, comme dans le lemme 1, appliquer l'hypothèse de récurrence pour conclure.

1. ↑ (en) E. R. Kolchin, « Algebraic matric groups and the Picard-Vessiot theory of homogeneous linear ordinary differential equations », Ann. Math, 2^e série, vol. 49,‎ 1948, p. 1-42 (JSTOR 1969111, MR 0024884)
2. ↑ (en) Tamás Szamuely, Lectures on linear algebraic groups, 2011 (lire en ligne), Remarks 7.2
3. ↑ (en) William C. Waterhouse, Introduction to Affine Group Schemes, Springer, coll. « GTM » (n^o 66), 1979, 164 p. (ISBN 978-0-387-90421-4, lire en ligne), p. 74
4. ↑ (en) Robert Steinberg, « On theorems of Lie-Kolchin, Borel, and Lang », dans Hyman Bass, Phyllis J. Cassidy et Jerald Kovacic (éds.), Contributions to Algebra : A Collection of Papers Dedicated to Ellis Kolchin, Academic Press, 1977 (lire en ligne), p. 350
5. ↑ (de) G. Frobenius, « Über vertauschbare Matrizen », S'ber. Akad. Wiss. Berlin,‎ 1896, p. 601-614
6. ↑ ^{a et b} Jean-Pierre Serre, Groupes finis : cours à l'ENSJF, 1979, arXiv:math.GR/0503154, théorème 3.10
7. ↑ Définition d'une « upper unitriangular matrix » dans D.J.S. Robinson, A Course in the Theory of Groups, 2^e édition, Springer, 1996, p. 127. Usage de l'expression française « matrice unitriangulaire inférieure » dans Jounaidi Abdeljaoued et Henri Lombardi, Méthodes matricielles - Introduction à la complexité algébrique, Springer, 2003, p. 57, partiellement consultable sur Google lives.
8. ↑ Waterhouse 1979, p. 62
9. ↑ (en) E. R. Kolchin, « On Certain Concepts in the Theory of Algebraic Matric Groups », Ann. Math., 2^e série, vol. 49,‎ 1948b, p. 774-789 (lire en ligne)
10. ↑ (en) Katie Gedeon, Simultaneous Triangularization of Certain Sets of Matrices, 2012 (lire en ligne)
11. ↑ ou plus généralement : de matrices sommes d'une matrice scalaire et d'une matrice nilpotente : cf. Gedeon 2012 ou (en) Heydar Radjavi et Peter Rosenthal, Simultaneous Triangularization, Springer, 2000, 318 p. (ISBN 978-0-387-98466-7, lire en ligne), p. 79.
12. ↑ Gedeon 2012 le déduit du théorème de Jacob Levitzki « Pour tout corps gauche K, tout demi-groupe de M_n(K) constitué de matrices nilpotentes est trigonalisable », démontré dans (en) Irving Kaplansky, Fields and Rings, UCP, 1995, 2^e éd., 206 p. (ISBN 978-0-226-42451-4, lire en ligne), p. 135. La preuve classique du théorème de Kolchin (Kolchin 1948b, Serre 1979) utilise seulement le théorème de Burnside-Wedderburn sur les représentations irréductibles de groupes, ou sa généralisation aux demi-groupes, démontrée dans Serge Lang, Algèbre [détail des éditions], XVII, § 3 de l'éd. en anglais de 1978. (Corollaire 17.3.4, p. 663, dans S. Lang, Algèbre, 3^e édition révisée, Dunod, Paris, 2004.)
13. ↑ Frédéric Paulin, « Sur les automorphismes de groupes libres et de groupes de surface », Séminaire Bourbaki, n^o 1023,‎ juin 2010, arXiv:1110.0203.pdf, p. 15
14. ↑ (en) Irving Kaplansky, « The Engel-Kolchin theorem revisited », dans H. Bass, P. J. Cassidy et J. Kovacic, Contributions to Algebra : A Collection of Papers Dedicated to Ellis Kolchin, Academic Press, 1977, p. 233-237
15. ↑ (en) Abraham A. Klein, « Solvable groups of unipotent elements in a ring », Canad. Math. Bull., vol. 25,‎ 1982, p. 187-190 (lire en ligne)