Conception de métaheuristiques d`optimisation pour la

THÈSE DE DOCTORAT
DE L’UNIVERSITÉ PARIS 12-VAL DE MARNE
UFR de Sciences et Technologie
par
Amir NAKIB
pour obtenir le grade de
DOCTEUR EN SCIENCES
Spécialité : SCIENCES DE L’INGÉNIEUR
Option : Traitement d’images, optimisation
Équipe d’accueil : Laboratoire Images, Signaux et Systèmes Intelligents (LiSSi, E.A. 3956)
Ecole Doctorale : École Doctorale Sciences et Ingénierie : Matériaux - Modélisation - Environnement (SIMME)
Sujet de la thèse:
Conception de métaheuristiques d’optimisation
pour la segmentation d’images. Application à des
images biomédicales
soutenue le 5 décembre 2007 devant la commission d’examen composée de :
Pierre COLLET Professeur à l’Université de Strasbourg Rapporteur
Jean DEVARS Professeur à l’Université de Paris 6 Rapporteur
Christian OLIVIER Professeur à l’Université de Poitiers Examinateur
Jean LOUCHET INRIA Rocquencourt Examinateur
Hammouche OULHADJ Maître de conférences à l’Université de Paris 12 Examinateur
Patrick SIARRY Professeur à l’Université de Paris 12 Directeur de thèse

R E S U M E
a segmentation des images est généralement l’étape la plus importante dans un système
d’analyse d’images : dans l’aide au diagnostic en médecine, en navigation autonome des
véhicules, etc. Toutes les tâches ultérieures à ces applications, comme l’extraction de primitives, la
détection d’une position, ou la reconnaissance d’un objet dépendent fortement de la qualité de la
segmentation. L’inconvénient majeur des algorithmes de segmentation actuels est leur incapacité à
s’adapter aux différents types d’images.
L’apparition des "métaheuristiques" remonte aux années quatre-vingts. Ces algorithmes
stochastiques d’optimisation globale peuvent être appliqués à tout problème, du moment qu’il est
formulé sous la forme de l’optimisation de critère(s). Ces algorithmes sont inspirés par des analogies
avec la physique (recuit simulé, recuit microcanonique), avec la biologie (algorithmes
évolutionnaires) ou avec l’éthologie (colonies de fourmis, essaims particulaires). Ils se prêtent aussi à
toutes sortes d’extensions, notamment en optimisation multiobjectif.
Afin de concevoir un système de segmentation qui permet d’avoir une meilleure qualité de la
segmentation sur une grande variété d’images, nous formulons la segmentation comme un problème
d’optimisation, mono-objectif dans un premier temps, puis multiobjectif.
Dans l’approche mono-objectif, nous adaptons plusieurs métaheuristiques au problème de la
segmentation. Une application sur des images par résonance magnétique (IRM) cérébrales est
ensuite réalisée. Cette adaptation des différentes métaheuristiques pour la segmentation nous
permet de les comparer sur les plans suivants : la complexité, la vitesse de convergence,
l’adaptabilité, et la reproductibilité des solutions.
Nous proposons ensuite une approche multiobjectif pour résoudre le problème de la
segmentation des images. Dans ce contexte, nous développons trois schémas de systèmes de
segmentation adaptatifs : le premier est basé sur l’agrégation de critères, le second sur l’approche
non-Pareto, et le troisième sur l’approche Pareto. Enfin, dans le cas particulier de la segmentation
des espaces de ventricules cérébraux, nous appliquons différentes approches sur des IRM saines et
d’autres pathologiques.
Mots clés : segmentation, seuillage, optimisation, optimisation multiobjectif, recuit simulé, recuit
microcanonique, colonies de fourmis, algorithmes génétiques, algorithmes évolutionnaires, dérivation non-
entière, entropie, entropie exponentielle, entropie survivante exponentielle, images IRM.
L

A B S T R A C T
mage segmentation generally is the important step in any automated image analysis system, such
as autonomous vehicle navigation, object recognition, etc. All these subsequent tasks, such as
feature extraction, object detection, and object recognition, depend on the quality of segmentation.
One of the fundamental weaknesses of current image segmentation algorithms is their inability to
adapt the segmentation process to different kinds of images.
The metaheuristics appeared in the eighties. These global optimization algorithms are stochastic and
can be applied to any problem, at the condition it is formulated as a mono-objective or
multiobjective optimization problem. They are inspired from an analogy with physics (simulated
annealing, microcanonical annealing), with biology (evolutionary algorithms) or with ethology (ant
colonies, particle swarms). They also can be extended, particularly to multiobjective optimization.
In order to design a segmentation system that allows to have good segmentation results on different
kinds of images, we formulate the segmentation as: a mono-objective then a multiobjective
optimization problem.
In the mono-objective approach, we adapt several metaheuristics to the segmentation problem.
Then, an application to the brain magnetic resonance images (MRI) is performed. This adaptation
allows to compare the different metaheuristics in terms of complexity, convergence speed,
adaptability and solution reproducibility.
Afterwards, we propose a multiobjective optimization approach to solve the image segmentation
problem. In this context, we develop three adaptive methods: the first is based on aggregation of
criteria, the second is based on a non-Pareto approach and the third is based on a Pareto approach.
Finally, we consider the case of brain ventricle space segmentation and we apply the different
approaches to sane and pathologic MRI.
Keywords: segmentation, thresholding, optimization, multiobjective optimization, simulated annealing,
microcanonical annealing, ant colonies, genetic algorithms, evolutionary algorithms, fractional differentiation,
entropy, exponential entropy, survival exponential entropy, MRI.
I

1
TABLEDESMATIERES
Tabledesmatières...................................................................................................................................1
Introductiongénérale..............................................................................................................................1
Chapitre1:Etatdel’artdesméthodesdesegmentationd’images......................................................5
1.1Introduction.................................................................................................................................5
1.2Leseuillage..................................................................................................................................5
1.3Lesméthodesnonparamétriques...............................................................................................7
1.3.1Laméthoded’Otsuetsesvariantes.....................................................................................7
1.3.2Leseuillageentropique........................................................................................................9
1.3.2.1Seuillageàbasedel’entropieàunedimension...............................................................9
1.3.2.2Entropieàdeuxdimensions...........................................................................................11
1.4Lesméthodesparamétriques....................................................................................................13
1.4.1Approximationdel’histogrammeparfonctionsdedensitédeprobabilité.......................13
1.4.2Calculdesseuilsdesegmentation......................................................................................14
1.4.3Algorithmeespérance‐maximisation.................................................................................15
1.5Seuillageadaptatif.....................................................................................................................16
1.6Segmentationparclassification................................................................................................16
1.7Lesméthodesdesegmentation"baséesrégions"....................................................................18
1.7.1Approcheparagrégationdepixels....................................................................................19
1.7.2Approchedivision‐fusion....................................................................................................20
1.7.3Lesapprochespyramidales................................................................................................21
1.7.4Approchesbaséessurlamorphologiemathématique......................................................21
1.8Lesméthodesdesegmentation"baséescontours"..................................................................22
1.9Conclusion.................................................................................................................................22
Chapitre2:Métaheuristiquesd’optimisationetsegmentation:étatdel’art...................................23
2.1Introduction...............................................................................................................................23
2.2Formulationduproblèmedelasegmentation.........................................................................23
2.3L’optimisationmultiobjectif......................................................................................................24
2.3.1Transformationenunproblèmemono‐objectif................................................................24
2.3.1.1Méthoded’agrégation....................................................................................................24
2.3.1.2Autresméthodesdetransformation..............................................................................25
2.3.2Approchenon‐Pareto.........................................................................................................26
2.3.3ApprochePareto................................................................................................................26
2.3.3.1OptimumausensdePareto...........................................................................................27
2.3.3.2Lanotiondedominance.................................................................................................27
2.3.3.3LafrontièredePareto....................................................................................................28
2.3.3.4Lanotiondedominanceaveccontrainte.......................................................................28
2.4Lesmétaheuristiques................................................................................................................28
2.4.1Lerecuitsimulé..................................................................................................................28
2.4.1.1AlgorithmedeMetropolis..............................................................................................29
2.4.1.2Algorithmedurecuitsimulé...........................................................................................29

Tabledesmatières
2.4.2Lerecuitmicrocanonique...................................................................................................31
2.4.2.1AlgorithmedeCreutz.....................................................................................................31
2.4.2.2Algorithmedurecuitmicrocanonique...........................................................................31
2.4.3Algorithmesgénétiques.....................................................................................................32
2.4.3.1Principe...........................................................................................................................32
2.4.3.2Lesalgorithmesgénétiquesenoptimisationmultiobjectif............................................35
2.4.4L’optimisationparessaimparticulaire(OEP).....................................................................35
2.4.4.1Principe...........................................................................................................................36
2.4.4.2L’optimisationparessaimsparticulairesenoptimisationmultiobjectif........................37
2.4.5Lesalgorithmesdecoloniesdefourmis.............................................................................38
2.5Lesmétaheuristiquesensegmentationd’images.....................................................................40
2.6Conclusion.................................................................................................................................42
Chapitre3:Contributionàlasegmentationparmétaheuristiquesenoptimisationmono‐
objectif......................................................................................................................................43
3.1Introduction...............................................................................................................................43
3.2Applicationdurecuitsimulécontinuàlasegmentation...........................................................43
3.2.1Algorithmedesegmentation..............................................................................................44
3.2.2Résultats.............................................................................................................................46
3.2.3Bilan....................................................................................................................................46
3.3Segmentationparentropieàdeuxdimensions(E2D)etrecuitmicrocanonique.....................47
3.3.1Algorithmedesegmentation..............................................................................................47
3.3.2Résultats.............................................................................................................................49
3.3.3Bilan....................................................................................................................................50
3.4Segmentationparentropieexponentielleàdeuxdimensions(eE2D)etrecuit
microcanoniquehybride...........................................................................................................50
3.4.1Entropieexponentielleàdeuxdimensions........................................................................50
3.4.2Algorithmedesegmentationparrecuitmicrocanoniquehybridé.....................................51
3.4.2.1Algorithmedusimplex...................................................................................................51
3.4.2.2Hybridationdurecuitmicrocanoniquepourlasegmentation.......................................53
3.4.3Résultats.............................................................................................................................54
3.4.4Bilan....................................................................................................................................56
3.5SegmentationpareE2DetOEPadaptatif(TRIBES)...................................................................56
3.5.1DescriptiondeTRIBES........................................................................................................57
3.5.2AlgorithmedesegmentationviaTRIBES............................................................................58
3.5.3Résultats.............................................................................................................................58
3.5.4Bilan....................................................................................................................................58
3.6SegmentationparentropiesurvivanteexponentielleàdeuxdimensionsetOEP....................59
3.6.1L'entropiesurvivanteexponentielleàdeuxdimensions....................................................59
3.6.2Méthodedesegmentation.................................................................................................61
3.6.3Résultatsetdiscussion.......................................................................................................61
3.6.4Bilan....................................................................................................................................64
3.7Segmentationparvarianceintraclassebiaiséeetcoloniesdefourmis....................................64
3.7.1Algorithmedesegmentation..............................................................................................65
3.7.1.1Lecritèredevarianceintraclassebiaisée.......................................................................65