Pré-requis

Nous avons déjà vu ce qu'on entend par 'point-fixe' d'une application f d'un ensemble E dans lui-même. Il s'agit de tout élement x de E égal à sa propre image par f.
Nous avons également vu ce qu'est une suite de Cauchy. (Suivre ce lien).
Nous avons également vu ce qu'est un espace métrique (Suivre ce lien).
Nous supposons ici, de plus, connues les notions de suite convergente et de fonction continue. (Pas encore exposées dans ce cours)
Pour comprendre l'énoncé qui va suivre il faut savoir ce qu'est un espace métrique 'complet'.
Un espace métrique est dit 'complet' si toute suite de Cauchy de cet espace est convergente.
ℝ et ℂ sont complets.
Il en est de même de ℝn et ℂn.
Voici encore une définition (E désigne un espace métrique):
Une application f de E dans E est dite 'contractante' si elle vérifie:
d(f(x),f(y)) ≤ kd(x,y) ∀ (x,y) ∈ E×E, où k est une constante 0<k<1.

Le théorème de Picard-Banach

Stefan Banach (1892-1945) Emile Picard (1856-1941)
voici l'énoncé du théorème attribué à ces deux mathématiciens:
Soit f une application contractante d'une espace métrique E complet dans lui-même, dans ces conditions:
f est continue
f possède un unique point fixe x
Pour tout élément x0 de E x est limite de la suite récurrente commençant par x0 et définie par xn+1=f(xn)

L'hypothèse faite sur f prouve que d(x-y) < ε ⇒ d(fx),f(y)) < ε . La continuité en résulte. On montre par récurrence que si (xn) est une suite telle que dans l'enoncé, on a:
d f x n + 1 , f x n k n d x 1 , x 0
et si p ≥ q
d f x p , f x q i = q p 1 d f x i , f x i + 1
d f x p , f x q i = q p 1 k i d x 0 , x 1
d f x p , f x q k q i = 0 p 1 q k i d x 0 , x 1
d f x p , f x q k q 1 k d x 0 , x 1
Cette inégalité montre que la suite x0,f(x0), f(f(x0)),...,fn(x0) est une suite de Cauchy. Elle est donc convergente vers une limite x.
Comme on a f(xn)=xn+1 et que f est continue, on a en passant à la limite f(x)=x et x est un point fixe de f.
Si x et y sont deux points quelconques on a d(fx),f(y)) < d(x,y) on ne peut donc avoir deux points fixes distincts et ceci achève la démonstration.
Ce théorème porte le nom de 'théorème des approximations successives' . Il dit en substance que pour trouver une suite convergeant vers le point fixe de f il suffit de partir d'une valeur quelconque x0 et de transformer à répétition par f.
Naturellement plus x0 est voisin de x et plus k est petit, plus la convergence sera rapide.

Image http://en.wikipedia.org/wiki/File:Sine_fixed_point.svg (modifiée)

Application à la résolution des systèmes

Considérons un système de Cramer:
AX=B
La matrice A peut s'exprimer de différentes manières sous la forme A=D+M où D est inversible.
Le système équivaut donc à:
(D+M)X=B
ou encore
DX=B-MX
X=-D-1MX+D-1B
Tout revient donc à trouver un point fixe à l'application f: X → -D-1MX+D-1B
On pourra appliquer la méthode des itérations successives si cette application est contractante.
Or d(f(X)-f(Y)) = ||D-1MX+D-1B- D-1MY+D-1B||=||D-1MX-D-1MY|| =||D-1M(X-Y)||.
Introduisons la norme matricielle de D-1M, on a:
||D-1M(X-Y)|| ≤ ||D-1M||×||X-Y||.
L'application f sera donc contractante si ||D-1M|| <1
Ce qui sera le cas si ||D-1||×||M|| < 1