Filtrage adaptatif : théorie et applications Volume 1 théorie et

Filtrage adaptatif : théorie et applications
Volume 1
théorie et algorithmes
sous la direction de
François MICHAUT
Maurice BELLANGER
version 6
26 Juin 2005

LISTE DES AUTEURS
BELLANGER Maurice
CNAM PARIS
adresse : 292 rue Saint Martin 75141 Paris Cedex 03
mel : <b[email protected]r>
BROSSIER Jean-Marc
LIS/ENSIEG Grenoble
BP46. 38402 Saint Martin d’Hères cedex.
mel : <jean-marc.b[email protected]>
DELMAS Jean Pierre CITI Department
Institut National des Télécommunications Evry
9 rue Charles Fourier 91011 EVRY
email [e-mail]
GILLOIRE Andre
France Telecom Lannion
adresse : , Technopôle Anticipa, 2 Av Pierre Marzin 22307 Lannion Cedex
mel : <andre.gilloir[email protected]etelecom.com>
MICHAUT François
ENSEA Cergy (Département Signal et Télécoms)
6 avenue du Ponceau 95000 Cergy
mel : mich[email protected]
REGALIA Phillip A.
Institut National des Telecommunications Evry
9, rue Charles Fourier F-91011 Evry cedex France
[e-mail] or [email protected]rg
SCALART Pascal
ENSSAT, Lannion
6 rue de Kerampont BP 80518, 22305 Lannion Cedex
Mel : pascal.[email protected]
3

4 Filtrage adaptatif
Notations et abréviations
R C Z N Ensembles numériques
H=L2(Ω) Espace de Hilbert des v.a. de carré intégrable
H=RdEspace euclidien standard
A,xMatrices et vecteurs fixes en gras droit (possibilité)
<x,y>Produit scalaire sur H espace de Hilbert
ωEpreuve aléatoire ou réalisation
p.a. Processus aléatoire
p.s. Propriété "presque sûre" (avec proba 1)
m.q. En moyenne quadratique (convergence)
E(X) = mXEspérance du vecteur aléatoire X
Xc=X−mXVariable ou vecteur aléatoire centré
E(X|Y)Espérance conditionnelle à la tribu σ(Y)
EL(X|Y)Estimation linéaire en m.q. sur V ect(Y)
cov(X, Y )Covariance de 2 variables aléatoires
Γ(X, Y ) = E(XcYT
c) = cov(X, Y )Matrice intercovariance de vect. aléatoires
var(X) = σ2
XVariance de X
i.i.d., bruit blanc fort Indépendant identiquement distribué (p.a.)
xnou x(n)ou x(n, ω)n∈ZSignal numérique aléatoire
Γx(n, m) = cov(xn, xm)Fonction de covariance d’un p.a.
γx(p) = cov(xn, xn−p)Fonction de corrélation de xn
γxy(p) = cov(xn, yn−p)Fonction d’intercorrélation de xet y
◦
γx(ν) =
+∞
P
−∞
e−2iπνpγX(p)Densité spectrale (DSP)
γx(z) =
+∞
P
p=−∞
γX(p)z−pDensité en z de x
ν∈[1] Intervalle des fréquences de longueur 1
◦
x(ν)TF de la suite numérique x
x(z)TZ de la suite x
Df(a)Différentielle de f:Rn→Rp
J(θ)Fonction de coût de l’algorithme
EQM Erreur quadratique moyenne
Jmin =J(θ∗)EQM minimale du θ∗optimal
θou w∈RdVecteur des paramètres à estimer
µnµ λnλ= 1 −µPas ou facteur d’oubli de l’algorithme
∇J(w)∈RdGradient en wde la fonction J:Rd→R
∇2J(w)Hessien de J(w) (matrice n×nsymétrique)
ATA∗Transposée ou transconjuguée d’une matrice
R= E(U.UT)Matrice d’autocorrélation de (un), > 0
cond(R) = λmax/λ1Conditionnement de la matrice R > 0
ρ(A) = max(|λi(A)|)Rayon spectral de la matrice carrée A
Tr(A) = PλiTrace de la matrice carrée A
Sp(A)Spectre (ensemble des v.p.) de A
Re λ(A)>0v.p. de Aà partie réelle >0
U(n), ϕn, X(n)vecteur d’état de l’algorithme

Avant-Propos
Le Traité IC2 relève le double défi de l’accessibilité à tous des sciences et tech-
niques, et du transfert de connaissances, dans le domaine Information, Traitement du
Signal et Communications. Il était donc nécessaire qu’un de ses volumes fasse le point
sur le Filtrage Adaptatif, domaine qui a connu une grande activité dans la communauté
du Traitement du Signal et des images depuis les années 1970. C’est l’objectif de cet
ouvrage, qui sera publié en deux volumes :
Volume 1 : Théorie et algorithmes
Volume 2 : Applications du Filtrage adaptatif en Signal et Télécommunications
Le Volume 1 présenté ici se situe au niveau des algorithmes de réalisation adapta-
tive (en ligne, dans des contextes éventuellement non stationnaires) des tâches d’op-
timisation du TS : les domaines d’applications sont nombreux (filtrage optimal de
Wiener, annulation d’écho et suppression de bruit, égalisation ou filtrage inverse, ana-
lyse spectrale, compression de l’information, modélisation), et plusieurs d’entre eux
seront approfondis dans le Volume 2.
Pour des raisons de simplicité d’écriture et d’énoncé des résultats, nous traiterons
exclusivement du Traitement de Signaux réels monodimensionnels, même si la plupart
des méthodes exposées s’étendent à des cas complexes ou multidimensionnels. Nous
nous proposons donc :
1) d’exposer les principes de base et les méthodes générales qui sous-tendent la
multiplicité des approches que l’on trouve dans la littérature spécialisée : quelques
idées simples doivent servir de guide pour se retrouver dans ce maquis, pour classifier
les algorithmes particuliers, et être capable de les adapter à un besoin spécifique,
2) de donner un accès rapide et direct aux algorithmes, leur compréhension, leur
utilisation, et les résultats que l’on peut en attendre : quelques exemples de base seront
développés et permettront d’illustrer (y compris par des simulations) et de comparer
les différents algorithmes,
5

6 Filtrage adaptatif
3) de donner les résultats mathématiques plus sophistiqués nécessaires à l’étude
des problèmesde convergencedes algorithmes : ces compléments pourront alors servir
d’introduction et de guide général pour aborder des ouvrages plus spécialisés ou des
articles donnés en références.
Cet ouvrage est une synthèse de nombreux travaux faits dans le domaine. Il pourra
intéresser aussi bien des étudiants de 2◦et 3◦cycle universitaires ou des écoles d’ingé-
nieurs utilisant le Traitement du Signal, que les ingénieurs ou scientifiques travaillant
dans le domaine du Traitement du Signal et des Télécommunications. Le langage ma-
thématique utilisé est accessible au scientifique-ingénieur muni d’une culture standard
de niveau second cycle universitaire en algèbre linéaire et probabilités-statistique. Des
connaissances à ce niveau sont également requises concernant les concepts de base et
problèmes du Traitement du Signal .
Le contenu du livre
Le Chapitre 1 présente le problème de base du Filtrage de Wiener, dans sa version
de filtrage RIF. Il est remis dans le contexte général des problèmes d’optimisation en
TS, et on donne ensuite les algorithmes standards d’Analyse numérique permettant la
résolution de l’optimisation déterministe de la fonction de coût de Wiener (Gradients,
Moindres carrés).
Le Chapitre 2 étudie les deux grandes classes d’algorithmes adaptatifs utilisés
pour le Filtrage transverse (RIF) : gradients stochastiques (LMS) et Moindres carrés
récursifs (RLS). Ceci constitue l’essentiel des utilisations courantes des traitements
adaptatifs en TS, et les propriétés de convergence y sont étudiées par des méthodes
spécifiques à ces deux algorithmes. Les variantes intermédiaires (NLMS, Projection
affine APA, algorithmes en treillis) sont aussi présentées. La convergence et les per-
formances des algorithmes sont étudiés dans les contextes stationnaires.
Le Chapitre 3 étend ces algorithmes à des modèles où la fonction de coût J(θ)
n’est plus quadratique en θ. Les méthodes générales d’étude de la convergence tran-
sitoire, du comportement asymtotique de fluctuation en situation stationnaire, puis de
poursuite de modèle en contexte lentement variable, sont développées et illustrées sur
plusieurs exemples simples. En particulier des méthodes d’approximation de sous-
espaces sont développées en détail, en montrant à la fois l’intérêt et aussi les limita-
tions des méthodes et résultats généraux de convergence.
Le Chapitre 4 présente plusieurs approches des Algorithmes de Moindres carrés
rapides (MCR) indispensables pour la mise en oeuvre en temps réel de l’algorithme
RLS : il s’agit de réduire la complexité de calcul pour la rendre proportionnelle à
la longueur M du filtre adaptatif. Sont ainsi développés les algorithmes transversaux
rapides, puis les versions en treillis ou à base de décomposition QR. Le contrôle de la
stabilité numérique de ces algorithmes est aussi abordé.