Introduction à l`Optimisation : notions fondamentales

Notions fondamentales
Introduction à l’Optimisation : notions
fondamentales
24 septembre 2013
Notions fondamentales
Plan
1
Notions fondamentales
Notions fondamentales
Notions d’ensemble structuré
Loi de composition interne
On appelle loi de composition interne sur un ensemble E toute
application de E × E dans E.
L’ensemble structuré défini par E muni de sa loi de composition
interne < . > se note (E, .). Pour une notation additive, la loi de
composition se note généralement < + > et on écrit alors
a + b = c.
L’ensemble structuré défini par E muni de la loi < + > se note (E, +).
Notions fondamentales
Notions d’ensemble structuré
Associativité, commutativité et élément neutre
Soit un ensemble structuré (E, .).
(i) la loi < . > est dı̂te associative si
∀a, b, c ∈ E, (ab)c = a(bc).
(ii) la loi < . > est dı̂te commutative si
∀a, b ∈ E, ab = ba.
(E, .) est dit ensemble commutatif,
(iii) l’élément e ∈ E est dit élément neutre pour la loi < . > si
∀x ∈ E, ex = xe = x.
Si il existe, il est unique.
Notions fondamentales
Notions d’ensemble structuré
Groupe
Un ensemble E muni d’une loi de composition interne notée < . > est
un groupe si
1
la loi < . > est associative :
∀a, b, c ∈ E, (ab)c = a(bc)
2
elle admet un unique élément neutre e :
∀a ∈ E, ae = ea = a
3
tout élément a de E admet un inverse dans E noté a−1 tel que
aa−1 = a−1 a = e
Si de plus la loi est commutative, le groupe est dit commutatif (parfois
dénommé groupe abélien).
Notions fondamentales
Notions d’ensemble structuré
Dans la suite, on considérera des groupes commutatifs. On notera sa
loi composition interne de manière additive. Dans ce contexte,
l’élément neutre est noté 0E (ou encore 0 si il n’y a pas d’ambiguité),
appelé élément nul. L’inverse d’un élément a de E est noté −a et est
appelé opposé de a.
Notions fondamentales
Notions d’ensemble structuré
Anneau
Soit E un ensemble muni de deux lois de composition interne notées
< + > et < . >. On dit que l’ensemble structuré défini par (E, +, .) est
un anneau si :
1
(E, +) est un groupe commutatif,
2
la loi < . > est associative,
3
la loi < . > est distributive par rapport à la loi < + >, ie.
∀a, b, c ∈ E,
4
a(b + c)
(b + c) ∗ a
= (ab) + (bc) Distributivité à gauche
= (ba) + (ca) Distributivité à droite
l’ensemble E admet un élément neutre pour la loi < . >. Si la loi
< . > est commutative alors l’anneau (E, +, .) est dit commutatif.
Notions fondamentales
Notions d’ensemble structuré
Corps
Soit E un ensemble muni de deux lois de composition interne notées
< + > et < . >. On dit que l’ensemble structuré défini par (E, +, .) est
un corps si :
1
(E, +, .) est un anneau,
2
tout élément de E\{0E } admet un inverse dans E pour la loi
< . >. De plus, si la loi < . > est commutative alors le corps
(E, +, .) est dit commutatif.
Notions fondamentales
Notions d’espace vectoriel
Espace vectoriel
Un ensemble E est un espace vectoriel sur un corps commutatif K si
1
(E, +) est un groupe commutatif de loi de composition interne
notée < + >.
2
E est muni d’une loi de composition externe sur K appelée
multiplication scalaire définie comme
< . > : (K, E) −→ E
(λ, x) 7−→ λ.x
et possédant les propriétés suivantes
(i)
(ii)
(iii)
(iv )
∀λ ∈ K, ∀x, y ∈ E, λ.(x + y ) = λ.x + λ.y
∀λ, µ ∈ K, ∀x ∈ E, (λ + µ).x = λ.x + µ.)
∀λ, µ ∈ K, ∀x ∈ E, (λµ).x = λ.(µ.x)
∀x ∈ E, 1K .x = x
Notions fondamentales
Notions d’espace vectoriel
On dit alors que E est un K-espace vectoriel dont les éléments sont
appelés vecteurs. Les éléments de K sont nommés scalaires.
Propriétés
1
∀x ∈ E, 0K .x = x
2
∀λ ∈ K, λ.0E = 0E
3
λ.x = 0E =⇒ (λ = 0 ou x = 0E )
4
∀λ ∈ K, ∀x ∈ E, (−λ).x = −(λ.x) = λ.(−x)
Notions fondamentales
Notions d’espace vectoriel normé
Norme
Soit E un espace vectoriel. Une norme est une application de E dans
R notée
k.kE : E −→ R
x 7−→ kxkE
qui à tout élément x ∈ E associe le réel kxkE et qui vérifie les
propriétés suivantes
1
Positivité :
∀x ∈ E, kxkE ≥ 0
2
Inégalité triangulaire :
∀x ∈ E, ∀y ∈ E, kx + ykE ≤ kxkE + kykE
3
kxkE = 0 ⇐⇒ x = 0E
4
∀λ ∈ R, ∀x ∈ E, kλxkE = |λ| kxkE
Notions fondamentales
Notions d’espace vectoriel normé
Espace vectoriel normé
Un ensemble E est un espace vectoriel normé sur K si E est un
K-espace vectoriel muni d’une norme notée k.kE
Produit d’evn
Soit une famille de n K-espaces vectoriels E1 , E2 , · · · , En . L’ensemble
produit E1 × E2 × · · · × En est l’ensemble des n-uplets de vecteurs
(x1 , ..., xn ) avec xi ∈ Ei , ∀i = 1 · · · n. Si on munit E1 × E2 × · · · × En des
deux lois
(x1 , · · · , xn ) + (y1 , · · · , yn ) = (x1 + y1 , · · · , xn + yn )
λ.(x1 , · · · , xn ) = (λ.x1 , · · · , λ.xn ), λ ∈ K
alors c’est un K-espace vectoriel. Si de plus, les K-espaces Ei sont
de dimension finie alors
dim(E1 × E2 × · · · × En ) = dim(E1 ) + · · · + dim(En )
Notions fondamentales
Espace vectoriel normé en dimension finie
Soient E est une espace vectoriel et k.kE,1 et k.kE,2 deux normes sur
E. On dit que ces deux normes sont équivalentes si il existent des
constantes C1 et C2 positives telles que
∀x ∈ E, C1 kxkE,1 ≤ kxkE,2 ≤ C2 kxkE,1 .
Equivalence des normes en dimension finie
Sur les espaces vectoriels de dimension finie, toutes les normes sont
équivalentes et seuls les e.v.n.de dimensions finis ont cette propriété.
Notions fondamentales
Espace vectoriel normé en dimension finie
L’ensemble produit E = Kn est un K -espace vectoriel de
dimension fini défini par
Kn , {(x1 , ..., xn )|x1 ∈ K, · · · , xn ∈ K}.
Muni des deux lois < + > et < ∆ > définies pour tous vecteurs
(x1 , · · · , xn ) et (y1 , · · · , yn ) appartenant à Kn et pour tout λ ∈ K
par :
(x1 , · · · , xn ) + (y1 , · · · , yn ) , (x1 +K y1, ..., xn +K yn )
λ.(x1 , · · · , xn ) , (λ ×K x1 , · · · , λ ×K xn )
Un vecteur de Kn est un n-uplet noté x = (x1 , x2 , · · · , xn ).
L’élément neutre pour l’addition est 0K n , (0, 0, · · · , 0).
Base canonique : B = {e1 , · · · , en ) où ei est un vecteur dont les
composantes sont toutes nulles sauf à la i-ème composante où
elle vaut 1. Sur cette base tout vecteur x ∈ Kn peut être
décomposé de manière unique et alors
x = x1 e1 + x2 e2 + · · · + xn en .
xi ∈ K sont les coordonnées du vecteur x dans B.
Notions fondamentales
Elements de topologie
E et F désignent des e.v.n.et ∈ R.
(i) x ∈ E et > 0, la boule ouverte de centre x et de rayon :
B(x, ) = {y ∈ E/ky − xkE < }
(ii) x ∈ E et ∈ R+ , la boule fermée de centre x et de rayon :
B 0 (x, ) = {y ∈ E/ky − xkE ≤ }
(iii) Ω ⊂ E est un ouvert de E si
∀x ∈ Ω, ∃ > 0, B(x, ) ⊂ Ω
(iv ) Ω ⊂ E est une partie bornée dans E si
∃ ∈ R+ , Ω ⊂ B(0, )
(v ) On dit qu’un sous-ensemble V de E est un voisinage de a ∈ E
s’il existe un ouvert Ω de E tel que a ∈ Ω et Ω ⊂ E.
Notions fondamentales
Notion de continuité
Continuité, cas générale
Une application f de E dans F est continue en un point a ∈ E si, pour
tout voisinage VF de f (a) dans F, il existe un voisinage VF de a dans E
tel que f (VE ) ⊂ VF .
Pour qu’une application f de E dans F soit continue en a ∈ E, il
faut et il suffit, que pour tout > 0, il existe α > 0 tel que
kx − akE < α =⇒ kf (x) − f (a)kF < Ceci est équivalent à une caractérisation par la limite : soit
f : Ω ∈ E −→ F, on dit que f est continue au point a ∈ Ω si
limx→a,x∈Ω f (x) = f (a).
Notions fondamentales
Notion de continuité
La continuité est aussi préservée par différentes opérations sur des
applications continues :
1
soient f et g deux applications de Ω ⊂ E dans F. Si f et g sont
continues en a ∈ Ω alors f + g l’est aussi.
2
soient f une application de Ω ⊂ E dans F continue en a ∈ Ω,
alors ∀λ ∈ K, λf l’est aussi.
3
Composée d’applications continues : soient f : Ω ⊂ E −→ F une
application continue en a ∈ Ω et g : Ω0 ⊂ F −→ G une application
continue en f (a) ∈ Ω0 . Alors g ◦ f est continue en a.
Si une application f est continue en tout point de E, on dit qu’elle est
continue dans E.
Notions fondamentales
Notion de continuité, dimension finie
Soit f : Ω ⊂ Rn −→ Rm , f est continue au point a ∈ Ω, si ∀ > 0 réel,
∃η > 0 tel que
kx − akE < η et x ∈ Ω =⇒ kf (x) − f (a)kF < .
Proposition
soit f : Ω ⊂ Rn −→ Rm , avec par définition f = (f1 , · · · , fm ), alors on a
alors
f est continue au point a ⇐⇒
lim f (x) = f (a)
x→a,x∈Ω
Dans ce cas, la continuité de f au point a équivaut à avoir la
continuité de chacune des fonctions fi , i = 1 · · · m, vues comme
fonctions de Rn dans R.
NB : Les propriétés précédentes sur les fonctions continues
s’appliquent également.
Notions fondamentales
Applications linéaires
Application lineaire
On appelle application linéaire de E vers F toute application
f : E −→ F vérifiant ∀x, y ∈ E et ∀λ ∈ K
1
f (x + y) = f (x) + f (y)
2
f (λx) = λf (x)
Proposition
soit f : E −→ F, f est dite linéaire si et seulement si
∀x, y ∈ E, ∀λ, µ ∈ R, f (λx + µy ) = λf (x) + µf (y)
Notions fondamentales
Applications linéaires et continuité
soit E et F deux e.v.n., soit f : E −→ F une application linéaire alors
les assertions suivantes sont équivalentes
1
f est continue sur E,
2
f est continue en 0E ,
3
il existe une constante k positive telle que
∀x ∈ E, kf (x)kF ≤ k kxkE ,
4
kf kL(E;F) = supkxkE ≤1 kf (x)kF < +∞
On peut également montrer que l’ensemble des applications linéaires
continues est un e.v.n.noté L(E; F). Il peut être muni de la norme
muni de kf kL(E,F) = kf k∞ comme donnée ci-dessus . En particulier,
on peut démontrer que kf k∞ est la plus petite constante k telle que
kf (x)kF ≤ kkxkE . Si F = K, alors les éléments de L(E, K) sont
appelées formes linéaires continues.
Notions fondamentales
Applications linéaires en dimensions finies
Caractérisation de la continuité en dimension finie
soit E et F deux e.v.n.de dimensions finies, alors toutes les
applications linéaires de E dans F sont continues.
Soient E = Kn et F = Km . Les vecteurs de K n dans la base
canonique sont représentées par une matrice colonne de taille n × 1.
De manière identique, une application linéaire f de L(Kn ; Km ) peut
être représentée dans la base canonique de Kn et Km par une
matrice de taille m × n. De la même manière, les formes linéaires de
L(Kn ; K) s’identifient à des matrices lignes de taille 1 × n.