Définition

On dit qu'un système linéaire de m équations à n inconnues est 'sous-déterminé' , si le nombre des équations est strictement inférieur au nombre des inconnues (m < n).
Cett définition appelle une première remarque concernant le rang r d'un tel système. A priori on a r ≤ m d'après la théorie du rang d'une matrice. De fait,
Pour ce qui concerne la résolution, on peut toujours supposer que le rang r du système est égal à m, le nombre de lignes.
Cela revient à montrer qu'on peut toujours éliminer certaines équations 'superflues'. Supposons en effet que le rang r soit <m. Quitte à permuter les équations on peut toujours supposer que les r premières lignes du systèmes sont indépendantes en tant que formes linéaires et que les m-r dernières sont combinaisons linéaires des r premières.
Supposons par exemple que la r+1-ième ligne (forme fr+1) soit combinaison linéaire des r premières formes f1,..., fr
fr+1= λ1f1+...+λrfr
Alors de deux choses l'une: Dans le premier cas, on voit que toute solution des r premières équations est aussi solution de la r+1-ième ligne, auquel cas cette équation est redondante et peut être supprimée.
Dans le second cas on voit immédiatement qu'il ne peut y avoir aucune solution puisque toute solution du système formé par les r premières lignes ne peut être solution de la r+1-ième ligne.
Nous pouvons maintenant affirmer:
Un système sous-déterminé de m équations et de rang m possède une infinité de solutions formant une variété affine de dimension n-m.
Pour la résolution proprement dite, on peut procéder ainsi. Si le système est de rang m, on peut extraire de la matrice A du système un mineur d'ordre m non nul. Quitte à renommer les inconnues, on peut supposer, sans perte de généralité, que les m premières colonnes de la matrice sont indépendantes.
Réécrivons alors notre système:
α1,1x1+...+α1,rxr11,r+1xr+1-...-α1,nxn
α2,1x1+...+α2,rxr22,r+1xr+1-...-α2,nxn
..............................................
αr,1x1+...+αr,rxrrr,r+1xr+1-...-αr,nxn
où nous considérons x1,...,xr comme les inconnues et xr+1,...,xn comme des paramètres.
Remarquons que dans ce système la matrice carrée A'=(αi,j) 1≤i,j≤r est inversible. Donc si X' désigne le vecteur colonne dont les coordonnées sont (x1,...,xr) et si X" désigne le vecteur colonne dont les coordonnées sont les seconds membres de ce système, on a :
X'=(A')-1X"
Ce qui permet par exemple d'exprimer les solutions x1,...,xp au moyen des formules de Cramer.

Un exemple traité

Résolvons le système:
x-2y+z+t=1
x-2y+z-t=-1
x-2y+z+5t=5
On constate que f3=3f1-2f2 et que la condition de compatibilité 5=3×1-2×-1 est vérifiée.
La troisième ligne peut donc être supprimée et on est ramené à la résolution du système de rang 2:
x-2y+z+t=1
x-2y+z-t=-1
Que l'on peut écrire: x+t=1+2y-z
x-t=-1+2y-z
Qui est un système de Cramer en les deux seules inconnues x et t.
La résolution donne :
t=1
x=2y-z
Soit encore:
x=0+2u-v
y=0+1u+0v
z=0+0u+1v
t=1+0u+0v
Donc un plan de solutions passant par le point M(0,0,0,1) et de vecteurs directeurs:
V=(2,1,0,0)
W=(-1,0,1,0)

Remarque

Un système dont le nombre d'équations est au moins égal au nombre d'inconnues (donc a priori qui n'est pas sous-déterminé) peut parfois se ramener à un système sous-déterminé. Ce sera le cas chaque fois que le rang du système est strictement inférieur au nombre d'inconnues et que les conditions de compatibilité sont vérifiées.
Exemple:
2x-y+z=1
x-y+z=2
3x-2y+2z=3
est en fait équivalent au système sous-déterminé:
2x-y+z=1
x-y+z=2
Car la troisième ligne est la somme des deux premières.