E désigne un espace de dimension finie sur K. Nous avons déjà vu ce qu'est une matrice triangulaire.

Définition

Un endomorphisme u de E est dit 'trigonalisable' si on peut trouver une base B de E telle que la matrice de u par rapport à B soit triangulaire.

Condition nécessaire et suffisante de trigonalisation

Remarquons tout de suite qu'il résulte de la définition que:
Si u est trigonalisable relativement à la base B=(x1,...,xn), le premier vecteur de B soit x1 est un vecteur propre de u associé au premier coefficient diagonal α1,1 de la matrice triangulaire représentant u.
Supposons u trigonalisable relativement à B=(x1,...,xn) et soit F l'hyperplan de E engendré par (x2,...,xn).
Soit maintenant v l'endomorphisme de F ainsi défini:
v est la restriction de u à F composé avec la projection sur F parallèlement à x1.
Alors la matrice de v relativement à (x2,...,xn) s'obtient tout simplement en retirant la première ligne et la première colonne de la matrice de u relativement à B. Et on a : De cette remarque, en raisonnant par récurrence, nous déduisons:
Une condition nécessaire et suffisante pour que u soit trigonalisable est que le polynôme caractéristique de u possède toutes ses racines dans K.
Ce sera en particulier le cas si K est algébriquement clos.
Nous obtenons donc comme corollaire:
Tout endomorphisme d'un espace vectoriel complexe de dimension finie est trigonalisable.

Un exemple traité

On cherche à trigonaliser l'endomorphisme u de matrice:
1 -1 1 0 1
0 0 1 1 0
0 -1 2 0 1
0 0 0 1 -2
0 0 0 2 -3
Soit B=(e1,e2,e3,e4,e5) la base canonique de ℝ5.
On remarque de e1 est un vecteur propre correspondant à la valeur propre 1. Tout revient donc à trigonaliser la projection de la restriction de u au sous-espace engendré par (e2,e3,e4,e5).
Cette restriction a pour matrice:
0 1 1 0
-1 2 0 1
0 0 1 -2
0 0 2 -3
Le polynôme caractéristique est (X-1)2(X+1)2.
On constate que e2+e2 est un vecteur propre associé à la valeur propre +1.
Relativement à la base (e1,e2+e3,e3,e4,e5) la matrice de u est :
1 0 1 0 1
0 1 1 1 0
0 0 1 -1 1
0 0 0 1 -2
0 0 0 2 -3
Tout revient donc à trigonaliser la projection de la restriction de u au sous-espace engendré par (e4,e5).
La matrice de cette restriction est:
1 -2
2 -3
On constate que e4+e5 est un vecteur propre correspondant à la valeur propre -1.
Si on écrit la matrice de u par rapport à la base (e1,e2+e3,e3,e4+e5,e5) on trouve:
1 0 1 1 1
0 1 1 1 0
0 0 1 0 1
0 0 0 1 -2
0 0 0 0 -1
qui est bien une matrice triangulaire.