La formule des probabilités totales

On se donne un espace probabilisé (Ω,,P) et un système complet d'évènements A1, A2, ..., An ayant chacun une probabilité pi>0.
Dans ces conditions il est possible de reconstituer la probabilité 'totale' P(B) de tout évènement B en fonction de ses probabilités conditionnelles P(B|Ai) sachant les évènements Ai réalisés.
Le calcul est donné par une formule dite des 'probabilités totales' et qui est la suivante :
P ( B ) = i = 1 n P ( B A i ) × P ( A i )
La preuve en est fort simple
B = 1 i n B A i
P ( B ) = i = 1 n P ( B A i ) = i = 1 n P ( B A i ) P ( A i )

Exemple d'application:

Une compagnie d’assurance estime que les gens peuvent être répartis en deux classes : Les statistiques de cette compagnie montrent qu’un individu à haut risque a une probabilité de 0.40 d’avoir un accident en l’espace d’un an ; cette probabilité tombe à 0.20 pour les gens à risque modéré.
Quelle est la probabilié qu’un nouvel assuré soit victime d’un accident durant l’année qui suit la signature de son contrat ?
Définissons les évènements suivants: En appliquant la formule des probabilités totales, il vient :
P(B)=0.4×0.3+0.2×0.7=0.26

Le théorème de Bayes

Extrait de l'encyclopédie Wikipédia :
Thomas Bayes est un mathématicien britannique et pasteur de l'Église presbytérienne, connu pour avoir formulé le théorème de Bayes.
Ses découvertes en probabilités ont été résumées dans son Essais sur la manière de résoudre un problème dans la doctrine des risques (Essay Towards Solving a Problem in the Doctrine of Chances - 1763) publié à titre posthume dans les comptes-rendus de l'Académie royale de Londres (the Philosophical Transactions of the Royal Society of London). Ce résultat est très utilisé en classification automatique. Un exemple parmi d'autres est la lutte contre le spam, par la méthode dite d'inférence bayésienne.
Thomas Bayes (1702-1761/UK)
On se place dans les hypothèses du paragraphe précédent, le système complet Ai étant considéré comme les 'causes'.
On sait maintenant qu'un évènement B, de probabilité non nulle, s'est produit dont on connait les probabilités conditionnelles suivant le système Ai, on cherche inversement à connaître pour chaque 'cause' la probabilité qu'elle soit à l'origine de l'évènement.
En somme il faut reconstituer P(Ai|B) en fonction des P(B|Ai). Le théorème de Bayes est souvent appelé 'théorème de probabilité des causes'. Il s'énonce ainsi sous forme d'une formule :
P ( A i B ) = P ( A i ) × P ( B A i ) i = 1 n P ( B A i ) P ( A i )
La preuve est simple, dans le quotient de droite de la formule de Bayes, le dénominateur est simplement P(B) par la formule des probabilités totales, le numérateur est P(Ai∩B).
Compte tenu de la formule des probabilités totales, le théorème de Bayes se résume à la définition d'une probabilité conditionnelle.

Exemple (la compagnie d'assurance, suite et fin)

Un nouveau signataire a un accident dans l’année qui suit la signature de son contrat.
Quelle est la probabilité qu’il fasse partie de la classe 'haut risque' ?
P ( A 1 B ) = P ( B A 1 ) P ( B ) = P ( B A 1 ) × P ( A 1 ) P ( B ) = 0.4 × 0.3 0.26 = 6 13

Café Python

Voici un exemple de script python utilisant le théorème de Bayes.