Perfectionnement des algorithmes d`optimisation par essaim

UNIVERSITÉ PARIS-EST
ÉCOLE DOCTORALE MATHEMATIQUES ET STIC
(MSTIC, E.D. 532)
THÈSE DE DOCTORAT
EN INFORMATIQUE
par
Abbas EL DOR
Sujet de la thèse
Perfectionnement des algorithmes
d’Optimisation par Essaim Particulaire.
Applications en segmentation d’images et en électronique
Thèse soutenue le 5 décembre 2012
Jury :
Damien TRENTESAUX Professeur des Universités Université de Valenciennes Président
Frédéric SAUBION Professeur des Universités Université d’Angers Rapporteur
Marc SEVAUX Professeur des Universités Université de Bretagne-Sud Rapporteur
Gérard BERTHIAU Professeur des Universités Université de Nantes Examinateur
Laurent DEROUSSI Maître de Conférences Université de Clermont-Ferrand Examinateur
Maurice CLERC Ingénieur consultant Annecy Co-directeur de thèse
Patrick SIARRY Professeur des Universités Université Paris-Est Créteil Directeur de thèse

Remerciements
Je voudrais tout d’abord remercier Patrick Siarry, Directeur de l’équipe Traitement de
l’Image et du Signal du Laboratoire Images, Signaux et Systèmes Intelligents, et Directeur
de cette thèse, ainsi que Maurice Clerc, pour m’avoir donné la possibilité de faire cette
thèse, et pour leur encadrement parfait. Ils ont toute ma gratitude pour m’avoir laissé
une grande liberté dans mes recherches, aidé et encouragé dans les moments difficiles et
m’avoir consacré leur temps malgré leurs occupations.
Je tiens à exprimer ma gratitude à Frédéric Saubion et à Marc Sevaux pour avoir accepté
d’être les rapporteurs de cette thèse. Je voudrais également remercier Damien Trentesaux
pour avoir accepté de présider mon jury. Je remercie aussi Gérard Berthiau et Laurent
Deroussi pour avoir accepté d’examiner mes travaux. J’adresse un grand merci à tous les
membres de mon jury, pour avoir ainsi marqué leur intérêt pour mon travail, et pour les
remarques qu’ils ont apportées durant la relecture et la soutenance de ma thèse.
Je souhaite également exprimer ma reconnaissance envers tous les membres du LiSSi,
pour m’avoir accueilli chaleureusement, et pour toutes les conversations scientifiques ou
non que l’on a pu avoir. Un grand merci à Patricia Jamin, Sandrine David et Frédéric Du-
mont, pour m’avoir aidé à surmonter toutes sortes de problèmes. Je remercie également
Brigitte David, de l’ancienne Ecole Doctorale SIMME, et Sylvie Cach, de la nouvelle ED
MSTIC.
Je remercie tous mes collègues doctorants, pour la bonne ambiance et leur amitié. Merci
en particulier à Kamel Aloui, Ilhem Boussaïd, Julien Lepagnot et Mustapha Dakkak.
J’ai eu la chance d’enseigner en tant que vacataire, pendant mes deux premières années
de thèse, à l’Université Paris-Est Créteil. J’ai beaucoup aimé enseigner à l’université, et je
souhaite remercier toute l’équipe enseignante avec qui j’ai eu l’honneur de travailler. Merci
notamment à Eric Petit et Ahmed Raji.
II

Remerciements
Je suis très reconnaissant envers les membres de l’IUT de Créteil/Vitry qui m’ont cha-
leureusement accueilli parmi eux. Un grand merci pour leur bienveillance, et pour tous les
bons conseils qu’ils m’ont prodigués.
Ce travail n’aurait pas pu être réalisé sans le soutien de ma famille, que je remercie
tout particulièrement. Un grand merci à mes parents, à mes frères et mes sœurs, qui m’ont
soutenu tout au long de mes études et dont je serai indéfiniment redevable.
Je tiens aussi à remercier tous ceux qui ont, de près ou de loin, aidé à rendre ce travail
possible, que ce soit par des idées ou par des encouragements.
Merci à tous !
III

Résumé
La résolution satisfaisante d’un problème d’optimisation difficile, qui comporte un
grand nombre de solutions sous-optimales, justifie souvent le recours à une métaheuristique
puissante. La majorité des algorithmes utilisés pour résoudre ces problèmes d’optimisation
sont les métaheuristiques à population. Parmi celles-ci, nous intéressons à l’Optimisation
par Essaim Particulaire (OEP, ou PSO en anglais) qui est apparue en 1995. PSO s’inspire de
la dynamique d’animaux se déplaçant en groupes compacts (essaims d’abeilles, vols grou-
pés d’oiseaux, bancs de poissons). Les particules d’un même essaim communiquent entre
elles tout au long de la recherche pour construire une solution au problème posé, et ce en
s’appuyant sur leur expérience collective. L’algorithme PSO, qui est simple à comprendre,
à programmer et à utiliser, se révèle particulièrement efficace pour les problèmes d’optimi-
sation à variables continues. Cependant, comme toutes les métaheuristiques, PSO possède
des inconvénients, qui rebutent encore certains utilisateurs. Le problème de convergence
prématurée, qui peut conduire les algorithmes de ce type à stagner dans un optimum lo-
cal, est un de ces inconvénients. L’objectif de cette thèse est de proposer des mécanismes,
incorporables à PSO, qui permettent de remédier à cet inconvénient et d’améliorer les per-
formances et l’efficacité de PSO.
Nous proposons dans cette thèse deux algorithmes, nommés PSO-2S et DEPSO-2S,
pour remédier au problème de la convergence prématurée. Ces algorithmes utilisent des
idées innovantes et se caractérisent par de nouvelles stratégies d’initialisation dans plu-
sieurs zones, afin d’assurer une bonne couverture de l’espace de recherche par les parti-
cules. Toujours dans le cadre de l’amélioration de PSO, nous avons élaboré une nouvelle
topologie de voisinage, nommée Dcluster, qui organise le réseau de communication entre
les particules. Les résultats obtenus sur un jeu de fonctions de test montrent l’efficacité
des stratégies mises en œuvre par les différents algorithmes proposés. Enfin, PSO-2S est
appliqué à des problèmes pratiques, en segmentation d’images et en électronique.
Mots clés : Optimisation, optimisation continue, métaheuristiques, optimisation par essaim
particulaire, segmentation d’image.
IV

Abstract
The successful resolution of a difficult optimization problem, comprising a large num-
ber of sub optimal solutions, often justifies the use of powerful metaheuristics. A wide range
of algorithms used to solve these combinatorial problems belong to the class of population
metaheuristics. Among them, Particle Swarm Optimization (PSO), appeared in 1995, is ins-
pired by the movement of individuals in a swarm, like a bee swarm, a bird flock or a fish
school. The particles of the same swarm communicate with each other to build a solution
to the given problem. This is done by relying on their collective experience. This algorithm,
which is easy to understand and implement, is particularly effective for optimization pro-
blems with continuous variables. However, like several metaheuristics, PSO shows some
drawbacks that make some users avoid it. The premature convergence problem, where the
algorithm converges to some local optima and does not progress anymore in order to find
better solutions, is one of them. This thesis aims at proposing alternative methods, that can
be incorporated in PSO to overcome these problems, and to improve the performance and
the efficiency of PSO.
We propose two algorithms, called PSO-2S and DEPSO-2S, to cope with the prema-
ture convergence problem. Both algorithms use innovative ideas and are characterized by
new initialization strategies in several areas to ensure good coverage of the search space
by particles. To improve the PSO algorithm, we have also developed a new neighborhood
topology, called Dcluster, which can be seen as the communication network between the
particles. The obtained experimental results for some benchmark cases show the effective-
ness of the strategies implemented in the proposed algorithms. Finally, PSO-2S is applied
to real world problems in both image segmentation and electronics fields.
Keywords : Optimization, continuous optimization, metaheuristics, particle swarm optimiza-
tion, image segmentation.
V