dans tout ce qui suit on se situe dans un espace vectoriel E de dimension finie n.

Définition

Nous avons vu que pour tout corps algébriquement clos (cas de ℂ, toute matrice était semblable à une matrice triangulaire de la forme:
λ1 x x x x
0 λ2 x x x
0 0 . . .
0 0 0 λ n-1 x
0 0 0 0 λn
C'est à dire qu'elle pouvait s'écrire comme somme d'une matrice diagonale et d'une autre matrice comme ceci:
λ1 0 0 0 0
0 λ2 0 0 0
0 0 . . .
0 0 0 λ n-1 0
0 0 0 0 λn
+
0 x x x x
0 0 x x x
0 0 . . .
0 0 0 0 x
0 0 0 0 0
Nous allons maintenant nous pencher tout particulièrement sur les matrices N du type:
0 x x x x
0 0 x x x
0 0 . . .
0 0 0 0 x
0 0 0 0 0
Nous pensons qu'il est clair pour tout le monde que
N2 sera du type: N3 sera du type: et enfin Nn sera:
0 0 x x x
0 0 0 x x
0 0 . . x
0 0 0 0 0
0 0 0 0 0
0 0 0 x x
0 0 0 0 x
0 0 . . 0
0 0 0 0 0
0 0 0 0 0
0 0 0 0 0
0 0 0 0 0
0 0 . . 0
0 0 0 0 0
0 0 0 0 0
C'est à dire qu'une puissance de N sera nulle. Ce sera le point de départ de notre étude.
Une matrice est dite 'nilpotente' si une de ces puissances est nulle. De la même façon un endomorphisme est dite 'nilpotent' si une de ses puissances (au sens de la composition des applications) est nulle.
Il est clair que:
Un endomorphisme est nilpotent si et seulement si on peut trouver une base telle que sa matrice par rapport à cette base soit nilpotente.

Exemples

Nous venons de voir que les matrices triangulaires supérieures 'strictes' (avec des zéros sur la diagonale) sont nilpotentes, mais ce cas n'est pas le seul possible.
On voit par exemple, par transposition que c'est aussi le cas pour toutes les matrices triangulaires inférieures strictes.
Voici un autre exemple:
3 9 -9
2 0 0
3 3 -3
On peut vérifier avec le petit programme python donné en exemple que le cube de cette matrice est nul.
Voici maintenant une appliquette qui calcule les puissances successives d'une matrice.
Matrice A
Matrice An
type de la matrice
TSS TIS DIA
ℤ/5ℤ
Ordre de la matrice carrée A  :

Indice d'un endomorphisme nilpotent

Si u désigne un endomorphisme nilpotent de E, on appelle 'indice' de u le plus petit entier p tel que up=0.
On a le résultat suivant:
Si u est nilpotent d'indice p, les sous espaces Ei=Ker(ui) forment une suite strictement croissante de sous-espaces de E avec E0={0} et Ep=E, et on a
u(Ei+1) ⊆ Ei pour 0≤i≤p-1

La seconde partie de l'énoncé est parfaitement évidente, de même que les inclusions. Il suffit de montrer qu'on ne peut avoir l'égalité.
Supposons que Ei=Ei+1 pour un certain indice i, 0 ≤i≤p.
Sachant qu'on a ui+1(up-1-i(x))=0 ∀ x ∈ E, on a:
up-1-i(x) ∈ Ei+1 ∀ x ∈ E, et si Ei=Ei+1
up-1-i(x) ∈ Ei ∀ x ∈ E, ce qui signifie que:
ui(up-1-i(x))=0 ∀ x ∈ E, soit: up-1(x) = 0 ∀ x ∈ E
Ce qui contredit la définition de p.
Il en résulte que:
L'indice d'un endomorphisme nilpotent est au plus égal à la dimension de l'espace.

Quelques propriétés remarquables des endomorphismes nilpotents

Un endomorphisme nilpotent ne peut avoir que 0 comme valeur propre.
En effet u(x)=λx ⇒ up(x)=λpx si up(x)=0 avec x ≠ 0 on a λp=0, donc λ=0.
Si u est nilpotent d'indice p alors 1-u est inversible et son inverse est:
1+u+u2+...+up-1
Il suffit pour le voir de développer le produit (1-u)(1+u+u2+...+ up-1)

Théorème de structure

Nous allons maintenant étudier en quelque sorte une réciproque, à une similitude près, du résultat qui dit qu'une matrice triangulaire stricte est nilpotente. Ce résultat est même plus fort encore.
Soit u un endomorphisme nilpotent de E d'indice p. Alors il existe une base de E par rapport à laquelle la matrice de u est de la forme:
0 ν2 0 ... 0 0
0 0 ν3 ... 0 0
. . . ... . 0
0 0 0 ... 0 νn
0 0 0 ... 0 0
où pour chaque i 2≤i≤ n νi=0 ou νi=1
Considérons les sous-espace Ei=Ker(ui) 0 ≤i≤ p , p étant l'indice de u.
Pour prouver notre théorème nous aurons besoin de deux résultats préliminaires:
Lemme 1: Soit i un entier 1 ≤i≤p-1 et F un sous-espace de E tel que F∩Ei={0}; on a alors:
u(F)∩Ei-1={0} et u induit un isomorphisme de F sur u(F).

Soit x ∈ u(F)∩Ei-1 alors x=u(y) avec y ∈ F et ui-1(x)=0 donc ui(y)=0, donc y ∈ F∩Ei donc y=0 et u(y)=x=0.
Supposons que u(x) =0 avec x ∈ F alors x ∈ Ker(u)=E1 ⊆ Ei pour i ≥ 1, donc x =0.
La restriction de u à F est donc injective, considérée comme application à valeurs dans u(F) elle est évidemment surjective, d'où la preuve intégrale du lemme 1.
Lemme 2: Il existe des sous-espaces vectoriels de E, F1, ..., Fp qui possèdent les propriétés suivantes:
  1. Ei est somme directe de Ei-1 et de Fi pour tout i 1≤i≤p
  2. u applique injectivement Fi dans Fi-1 pour tout i 2≤i≤p

Soit Fp un supplémentaire de Ep-1 dans Ep=E
Puisque u(Fp) ne rencontre Ep-2 qu'en 0, on peut compléter u(Fp) en un supplémentaire de Ep-2, que nous désignerons par Fp-1, et ainsi de suite par récurrence descendante.
Nous pouvons maintenant passer à la démonstration du théorème lui-même.

Considérons donc une suite de sous-espaces Fi 1≤i≤p comme dans le lemme 2.
Soit (x1,1,x1,2,...,x1,r1 ) une base de Fp On peut donc construire une base de Fp-1 de la forme:
(x2,1,x2,2,...,x2,r1,x2,r1+1,...,x2,r2)
où x2,1=u(x1,1),...,x2,r1=u(x1,r1)
Et ainsi de suite.
Cela dit il est clair que E=Fp⊕Fp-1⊕Fp-2⊕...⊕ F1
On obtiendra donc une base de E en réunissant les bases de Fp, Fp-1, ...,F1 construites comme il est dit plus haut. En prenant les vecteurs de cette base en colonnes et de bas en haut, on obtient une base:
B=(x1,...,xn) telle que:
Soit u(xi)=0 soit u(xi)=xi-1
relativement à cette base la matrice de u a la forme annoncée.

Café Python

Voici un programme qui vérifie si une matrice est nilpotente: