Probabilités, statistiques, signaux aléatoires

Probabilités, statistiques,
signaux aléatoires
Mohamed CHETOUANI
[email protected]
Plan
Plan
Probabilités
Signaux aléatoires
• Probabilités et Statistiques
• Processus aléatoires
• Caractérisation temporelle et statistique de signaux
aléatoires
2
Rappels de probabilité
Plan
Probabilités
• Notion de probabilité
Signaux aléatoires
• Théorie des probabilités
• Variables aléatoires
• Lois discrètes et continues classiques
3
Notion de probabilité
Plan
Probabilités
Signaux aléatoires
• Expérience aléatoire (épreuve):
• Expérience dont on ne peut prévoir à l’avance le
résultat et qui, dans des conditions identiques peut
donner ou aurait donné lieu à des résultats différents.
• Le résultat d’une expérience aléatoire est un événement
noté ω.
• ω est un élément de tous les résultats possibles Ω (univers
des possibilités).
4
Notion de probabilité
Plan
• Exemple:
On jette une pièce de monnaie. On choisit Ω:{ω1, ω2}
où ω1 représente l’événement « le coté visible est pile » et
ω2 « le côté visible est face ».
Probabilités
Signaux aléatoires
La définition des événements est arbitraire et dépend de ce
que l’on cherche à observer…
⇒Loi de probabilité:
Loi qui régit l’expérience aléatoire
5
Théories des probabilités
Plan
• L’univers Ω représente l’ensemble des événements
possibles:
• P(Ω)=1 => P(Ø)=0 (ensemble vide)
Probabilités
Signaux aléatoires
•Soit A un événement de probabilité non nulle
• A ∈ Ω de probabilité P(A)
• Probabilité du contraire:
P(A ) = 1" P(A)
!
6
Théories des probabilités
Plan
Probabilités
Signaux aléatoires
• Soit B un événement de l’univers Ω de probabilité
P(B).
• Monotonie:
A " B # P(A) $ P(B)
• Probabilités totales:
P(A " B) = P(A) + P(B) # P(A $ B)
! • Probabilités d’un ensemble d’événements:
n
P(") = $ P(# i ) = 1
!
i=1
7
!
Théories des probabilités
Plan
Probabilités d’un ensemble d’événements:
Probabilités
Signaux aléatoires
n
P(") = $ P(# i ) = 1
i=1
Equiprobabilité:
P("1 ) = P(" 2 ) = ... = P(" n )
!
Calcul de probabilité dans le cas équiprobable:
!
P(A) =
nombre d'issues favorables à A
nombre d'issues possible
8
!
Théories des probabilités
Plan
Probabilités
Signaux aléatoires
• Probabilité conditionnelle:
• Le fait de savoir qu’un événement s’est produit
peut modifier la probabilité que nous attachons
à un autre événement.
• Notation:
=> P(A | B) =
P(A | B)
P(A " B)
P(B)
!
!
9
Théories des probabilités
Plan
Probabilités
Signaux aléatoires
•Formule de Bayes:
• Recherche des probabilités des causes d’événements
donnés
Exemple:
• Deux usines fabriquent des ampoules:
• 1% des ampoules fabriquées par la 1ère usine sont
défectueuses.
• 3% des ampoules fabriquées par la 2nde usine sont
défectueuses.
• Dans un lot de 1000 ampoules, 600 viennent de la 1ère usine
et 400 de la seconde. On tire au hasard une ampoule et celle-ci
est défectueuse.
• Question: Quelle est la probabilité pour que l’ampoule
défectueuse provienne de la 1ère
1 usine?
0
Théories des probabilités
Plan
Probabilités
Signaux aléatoires
•Formule de Bayes:
• Recherche des probabilités des causes
d’événements donnés.
• Soit A l’événement « l’ampoule provient de la 1ère
usine » et B l’événement « l’ampoule provient de
la 2nde usine »
• Soit D l’événement « l’ampoule est défectueuse »
•
•Répondre à la question revient à estimer:
P(A | D)
1
1
!
Théories des probabilités
Plan
•La formule de Bayes permet ce calcul:
Probabilités
Signaux aléatoires
P(A | D) =
P(A " D) P(D | A)P(A)
=
P(D)
P(D)
• Réponse:
!
P(A | D) =
• Cas général:
P(Bi | A) =
!
6
P(A " D)
1000 = 1
=
6 + 12
P(D)
3
1000
P(A | Bi )P(Bi )
=
P(A)
P(A | Bi )P(Bi )
n
" P(A | B )P(B )
j
j=1
1
2
!
j
Variables aléatoires
Plan
Probabilités
Signaux aléatoires
• « Grandeur » variant selon le résultat d’une expérience
aléatoire.
• Somme des faces de 2 dés (discrète)
• Distance entre le point d’impact d’une flèche et la cible
(continue)
• [km parcouru retard du bus] (vecteur aléatoire de
dimension 2)
1
3
Variables aléatoires
Plan
Probabilités
Signaux aléatoires
• A chaque élément ω de Ω correspond un nombre réel x
associé à la variable aléatoire X
1
4
Variables aléatoires
Plan
Probabilités
Signaux aléatoires
Exemple:
On tire au hasard une personne dans une population
donnée:
L’événement élémentaire ωi est : « on a tiré la
personne i »
On définit les variables aléatoires U, V, W par:
• U(ωi)= taille de la personne
• V(ωi)= poids de la personne
• W(ωi)= année de naissance
•…
1
5
Variables aléatoires
Plan
Probabilités
Variable aléatoire discrète ou continue:
Signaux aléatoires
X(Ω) dénombrable: variable discrète
X(Ω) non dénombrable: variable continue
1
6
Variables aléatoires
Plan
Probabilités
Signaux aléatoires
Loi de probabilité d’une variable aléatoire:
Une variable aléatoire est caractérisée par l’ensemble des valeurs
qu’elle peut prendre et par la probabilité de ces valeurs
Variable aléatoire U.
Soit ui = 1,73m
P(U=ui) est la probabilité de tirer au
hasard une personne dont la taille est
égale à 1,73m.
P(U=ui) est parfois simplifiée par pui
1
7
Variables aléatoires
Plan
Probabilités
Signaux aléatoires
Fonction de répartition:
On appelle fonction de répartition d’une variable aléatoire X, la fonction
FX telle que:
1
8
Variables aléatoires
Plan
Probabilités
Exemple :
Signaux aléatoires
1
9
Variables aléatoires continues
Plan
Probabilités
Signaux aléatoires
Une variable aléatoire est dite continue si elle peut
prendre toutes les valeurs d’un intervalle donné.
Exemple:
- masse corporelle,
- Distance entre le point d’impact d’une flèche et la cible
(continue)
2
0
Variables aléatoires continues
Plan
Probabilités
Signaux aléatoires
Densité de probabilité:
On appelle densité de probabilité tout fonction continue
positive de la forme:
Telle que:
2
1
Variables aléatoires continues
Plan
Probabilités
Densité de probabilité:
Signaux aléatoires
2
2
Variables aléatoires continues
Plan
Probabilités
Fonction de répartition:
Signaux aléatoires
La fonction de répartition FX est la primitive de la fonction
de densité de probabilité f(x)
2
3
Variables aléatoires continues
Plan
Probabilités
Signaux aléatoires
Fonction de répartition:
Soit X une variable aléatoire continue de densité f et de
fonction de répartition FX, alors:
2
4
Variables aléatoires continues
Plan
Probabilités
Signaux aléatoires
Fonction de répartition:
Probabilité cumulée
2
5
Variables aléatoires continues
Plan
Probabilités
Signaux aléatoires
Fonction de répartition:
Propriétés:
2
6
Espérance et Variance
Plan
Probabilités
Signaux aléatoires
Espérance mathématique:
L’espérance d’une variable aléatoire E[X] correspond à la
moyenne des valeurs possibles de X pondérées par les
probabilités associées à ces valeurs.
=> Moment d’ordre 1
2
7
Espérance et Variance
Plan
Probabilités
Signaux aléatoires
Propriétés:
Si X et Y deux variables aléatoires définies sur un même
univers Ω, admettant une espérance alors:
2
8
Espérance et Variance
Plan
Probabilités
Signaux aléatoires
Variance:
Si X est une v.a. ayant une espérance E[X], on appelle
variance de X:
=> Moment centré d’ordre 2
Et on appelle écart-type de X:
2
9
Espérance et Variance
Plan
Probabilités
Signaux aléatoires
Variable aléatoire centrée et réduite:
Une variable aléatoire X est dite centrée si E[X]=0
Une variable aléatoire X est dite réduite si V[X]=1
A toute v.a. X d’espérance E[X] et de variance V[X] on
peut associer la variable suivante:
Dite v.a. centrée réduite
3
0
Quelques lois de probabilité
Plan
Probabilités
Lois de probabilité classiques:
Signaux aléatoires
Loi uniforme:
Densité de probabilité
Fonction de répartition
3
1
Quelques lois de probabilité
Plan
Probabilités
Lois de probabilité classiques:
Signaux aléatoires
Loi normale:
Densité de probabilité
Fonction de répartition
3
2
Exercices
Plan
Probabilités
Signaux aléatoires
3
3
Exercices
Plan
Probabilités
Signaux aléatoires
3
4
Signaux aléatoires
Plan
Probabilités
Signaux aléatoires
Un signal aléatoire est un phénomène qui dépend à la fois
du temps et du hasard…
3
5
Signaux aléatoires
Plan
Probabilités
Signaux aléatoires
Un signal aléatoire est un phénomène qui dépend à la fois
du temps et du hasard…
Caractérisation temporelle (moments temporels):
Moyenne temporelle:
3
6
Signaux aléatoires
Plan
Probabilités
Auto-corrélation temporelle:
Signaux aléatoires
3
7
Signaux aléatoires
Plan
Probabilités
Caractérisation statistique:
Signaux aléatoires
Moyenne statistique:
3
8
Signaux aléatoires
Plan
Probabilités
Caractérisation statistique:
Signaux aléatoires
Fonction d’auto-corrélation statistique:
Fonction d’inter-corrélation statistique:
3
9
Signaux aléatoires
Plan
Probabilités
Signaux aléatoires
Stationnarité:
Un signal est stationnaire au premier ordre si sa valeur
moyenne est constante:
Un signal est stationnaire au second ordre si sa valeur
moyenne est constante et si sa fonction d’auto-corrélation
est fonction du retard τ:
4
0
Signaux aléatoires
Plan
Probabilités
Signaux aléatoires
Ergodicité:
Un signal est ergodique si ses moyennes statistiques et
temporelles sont égales (1er ordre):
Second ordre: les fonctions d’auto-corrélation statistique
4
1
Signaux aléatoires
Plan
Probabilités
Signaux aléatoires
Stationnarité
et Ergodicité:
4
2
Exercice
Plan
Probabilités
Signaux aléatoires
4
3