Approches connexionnistes pour la visualisation et la classification

Université Paris – Nord
THESE
Pour obtenir le grade de
DOCTEUR DE L’UNIVERSITE PARIS 13
Présentée par
Khalid BENABDESLEM
Spécialité Informatique
Sujet:
Approches connexionnistes pour la visualisation et la classification des
séquences évolutives : Application aux données issues d’usages d’Internet
Le 17 Décembre 2003
Devant le jury composé de
Mme Sylvie THIRIA Présidente
M. Mohamed QUAFAFOU Rapporteur
M. Dominique LAURENT Rapporteur
M. Younès BENNANI Directeur
M. Philippe DAGUE Examinateur
Mme. Adeline NAZARENKO Examinatrice
Mme. Catherine RECANATI Examinatrice
M. Eric JANVIER Invité

1
Remerciements
J’adresse mes sincères remerciements à monsieur Mohamed Quafafou, Professeur à
l’université d’Avignon et monsieur Dominique Laurent, Professeur à l’université de Cergy
Pontoise qui ont accepter d’évaluer ce travail.
J’exprime ma profonde gratitude à Madame Sylvie Thiria, Professeur à l’université de
Versailles Saint Quentin en Yveline, pour avoir accepté de présider le jury de ma thèse.
Je tiens également à remercier monsieur Philippe Dague, Professeur à l’université Paris 13,
madame Adeline Nazarenko, Maître de conférence à l’université Paris 13 et Madame
Catherine Récanati, Maître de conférences à l’université Paris 13; pour avoir accepté
d’examiner mes travaux.
Je suis très reconnaissant à mon directeur de thèse, monsieur Younès Bennani, Professeur à
l’université Paris 13. Je le remercie pour ses précieux conseils et pour son soutien pendant
toutes ces années. Cela a été pour moi un véritable plaisir de travailler avec lui. Je n’oublie
pas de remercier tous les membre de l’équipe universitaire du laboratoire LIPN.
Je suis aussi très reconnaissant et je tiens à remercier monsieur Eric Janvier, Directeur associé
à LDANumSight. Je le remercie pour ses précieux conseils et pour son soutien à l’intérieur de
l’entreprise. Sa rigueur de travail et sa gentillesse ont également contribué au bon
déroulement de mes recherches au sein de l’entreprise.
Je tiens à exprimer ma sympathie à toutes les personnes avec qui j’ai travaillé durant ces trois
années de thèse : Farida Zehraoui, Rushed Kanawati, Sylvie Salloti, Arnaud Zeboulon,
Fabrice Bossaert, Antonio Albuquerque, Sandrine Fabre, Emmanuel Ecosse et Frédéric
Martin.
Enfin, merci à mes grands parents, mes parents, ma femme, ma belle famille qui m’ont
encouragé et soutenu sans arrêt. Je remercie aussi toute ma famille qui m’a soutenu pendant
toutes ces années de thèse.

2
Table des Matières
Introduction Générale : Problématique.................................................................................9
1.1 Introduction..............................................................................................................10
1.2 Modélisation d’utilisateur ........................................................................................10
1.3 Les difficultés rencontrées en modélisation d’utilisateurs des sites Web................11
1.4 La reconnaissance des formes en modélisation d’utilisateur...................................11
1.5 Les avantages des techniques de la reconnaissance des formes...............................12
1.6 E-Mining ..................................................................................................................12
1.6.1 Présentation......................................................................................................12
1.6.2 Les problèmes traités en E-Mining ..................................................................13
1.7 Le plan du rapport....................................................................................................15
Données comportementales : Codage...................................................................................17
1.8 Introduction..............................................................................................................18
1.9 Les données comportementales................................................................................19
1.10 Le fichier Log...........................................................................................................20
1.11 Exemple d’analyse statistique d’un site web............................................................22
1.12 Pré-traitement...........................................................................................................27
1.13 La notion de session.................................................................................................27
1.14 Codage......................................................................................................................28
1.14.1 Le codage relationnel.......................................................................................28
1.14.1.1 L’adresse URL .........................................................................................28
1.14.1.2 Le contenu de la page...............................................................................29
1.14.2 Une nouvelle technique de codage : Le codage par matrice quasi-
comportementale..............................................................................................................31
1.14.3 Incorporation de la dynamique dans la matrice quasi-comportementale.........32
1.15 Application : analyse quasi – comportementale des sessions de navigations..........34
1.16 Conclusion................................................................................................................36
2 Classification non supervisée : Visualisation...............................................................37
2.1 Introduction..............................................................................................................38
2.2 Apprentissage supervisé et non supervisé...............................................................38
2.3 Un réseau à compétition simple...............................................................................39
2.3.1 Définition d’un neurone formel........................................................................39
2.3.2 Activation d’un neurone formel.......................................................................39
2.3.3 Architecture compétitive..................................................................................39
2.3.4 Apprentissage compétitif..................................................................................40
2.4 Le modèle des cartes Auto – Organisées de Kohonen.............................................41
2.4.1 Structure topologique.......................................................................................41
2.4.2 Architecture......................................................................................................43
2.4.3 Une heuristique pour déterminer la topologie dans SOM................................44
2.4.4 Apprentissage...................................................................................................46

3
2.5 Analyse du processus d’auto – organisation............................................................49
2.5.1 Convergence.....................................................................................................49
2.5.2 Etat d’équilibre.................................................................................................50
2.5.3 Voisinage..........................................................................................................50
2.5.4 Une variante sur les cartes topologiques..........................................................52
2.6 De la théorie à la pratique ........................................................................................55
2.6.1 Choix des paramètres.......................................................................................55
2.6.2 Mesure de la qualité de quantification .............................................................55
2.6.2.1 Distorsion.....................................................................................................56
2.6.2.2 Contraste.......................................................................................................56
2.7 Choix du nombre de classes.....................................................................................57
2.7.1 Hiérarchie et distance ultramétrique ................................................................57
2.7.2 Les mesures d’agrégation entre les classes......................................................59
2.7.3 Algorithme général de la classification ascendante hiérarchique ....................60
2.7.4 Construction de la hiérarchie indicée...............................................................61
2.7.5 La formule de récurrence de Lance et de Williams .........................................62
2.8 Application : visualisation du site tel que les internautes l’utilisent........................62
2.8.1 Dimensions de la carte .....................................................................................63
2.8.2 Construction de la carte....................................................................................63
2.9 Conclusion................................................................................................................66
3 Typologie de sessions : Profiling...................................................................................67
3.1 Introduction..............................................................................................................68
3.2 Les données..............................................................................................................69
3.2.1 Segmentation....................................................................................................69
3.3 Codage par poids de position (Pdp) .........................................................................70
3.4 Quantification vectorielle.........................................................................................72
3.4.1 Principe général................................................................................................72
3.5 Programmation dynamique......................................................................................74
3.5.1 Principe général................................................................................................74
3.5.2 Distance entre chaînes......................................................................................75
3.6 Application : codage et reconnaissance des sessions de navigations.......................76
3.6.1 Reconnaissance de sessions par programmation dynamique : Résultats et
comparaison .....................................................................................................................78
3.6.2 Données de validation......................................................................................80
3.6.2.1 Génération de sessions artificielles étiquetées .............................................80
3.6.3 Résultats et comparaison avec le calcul de distorsion pour la reconnaissance de
prototypes sur les données artificielles.............................................................................82
3.7 Conclusion................................................................................................................84
4 Modèles de mélanges : Une autre approche pour le profiling....................................85
4.1 Introduction..............................................................................................................86
4.2 Une approche de mélange de vraisemblance pour la classification.........................86
4.3 Identifiabilité............................................................................................................88
4.4 Classification par modèles de mélange de distribution............................................89
4.4.1 Principe général................................................................................................89
4.4.2 Formalisation mathématique............................................................................89
4.4.3 Des distributions bien adaptées aux séquences : les chaînes de Markov.........91
4.4.3.1 Définition générale.......................................................................................92

4
4.4.4 Estimation des paramètres du modèle : l’algorithme EM................................93
4.4.4.1 Principe général............................................................................................93
4.4.4.2 Importance de l’initialisation .......................................................................94
4.4.4.3 Limites de l’algorithme EM.........................................................................94
4.4.5 Détermination du nombre de classes optimal ..................................................95
4.4.5.1 Problématique et solution classique.............................................................95
4.4.5.2 Exemples de critères à optimiser..................................................................95
4.5 Application : Modélisation des sessions de navigation Web...................................96
4.5.1 Classification de sessions par modèle de mélange de chaînes de Markov.......98
4.5.2 Initialisation de l’algorithme EM...................................................................100
4.5.3 Résultats de test de validité de la classification .............................................101
4.5.3.1 Validité des classifications obtenues par attribution douce et dure des
sessions aux classes....................................................................................................101
4.5.3.2 Indépendance de la classification vis à vis de l’échantillon initial ............105
4.5.3.3 Résultat de test de critères pour la détermination du nombre de classes ...107
4.5.4 Discussion, analyse et interprétation des résultats.........................................109
4.5.4.1 Reconnaissance ..........................................................................................109
4.5.4.1.1 Comparaison DTW / QV pour les données artificielles.......................109
4.5.4.2 Classification..............................................................................................110
4.5.4.2.1 Validité de la classification..................................................................110
4.5.4.3 Indépendance de la classification vis à vis de l’échantillon initial ............112
4.5.4.4 Choix du critère pour la détermination du nombre de classe optimal........112
4.6 Conclusion..............................................................................................................113
5 Classification Évolutive : Restructuration.................................................................115
5.1 Introduction............................................................................................................116
5.2 État de l’art.............................................................................................................116
5.2.1 Classification hiérarchique évolutive.............................................................116
5.2.1.1 Détermination de la place du nouvel élément dans la hiérarchie...............116
5.2.1.2 La mise à jour de la taxonomie ..................................................................117
5.2.2 La méthode IGG (Incremental Grid Growing) ..............................................118
5.2.3 La méthode GNG (Growing Neural Gas)......................................................120
5.3 Un bref rappel sur les cartes auto-organisatrice (SOM).........................................123
5.4 Une version évolutive pour les cartes topologiques...............................................123
5.4.1 La gestion des nouveaux neurones.................................................................123
5.4.2 La mise à jour de la topologie........................................................................125
5.4.3 L’élimination des nouveaux neurones............................................................125
5.5 Application : mise à jour du modèle de visualisation ............................................126
5.6 Conclusion..............................................................................................................128
6 Conclusion générale et perspectives ...........................................................................130
7 Brevets et Publications.................................................................................................132
8 Bibliographie……………………………………………………………….................. 176