Désassemblage et détection de logiciels malveillants auto

AVERTISSEMENT
Ce document est le fruit d'un long travail approuvé par le jury de
soutenance et mis à disposition de l'ensemble de la
communauté universitaire élargie.
Il est soumis à la propriété intellectuelle de l'auteur. Ceci
implique une obligation de citation et de référencement lors de
l’utilisation de ce document.
D'autre part, toute contrefaçon, plagiat, reproduction illicite
encourt une poursuite pénale.
Contact : [e-mail]
LIENS
Code de la Propriété Intellectuelle. articles L 122. 4
Code de la Propriété Intellectuelle. articles L 335.2- L 335.10
http://www.cfcopies.com/V2/leg/leg_droi.php
http://www.culture.gouv.fr/culture/infos-pratiques/droits/protection.htm

´
Ecole doctorale IAEM Lorraine
D´esassemblage et d´etection de logiciels
malveillants auto-modifiants
TH` ESE
pr´esent´ee et soutenue publiquement le 11 mars 2015
pour l’obtention du
Doctorat de l’Universit´e de Lorraine
(mention informatique)
par
Aur´elien Thierry
Composition du jury
Rapporteurs : Fr´ed´eric Cuppens Professeur, T´el´ecom Bretagne
Herv´e Debar Professeur, T´el´ecom SudParis
Examinateurs : S´ebastien Bardin Charg´e de recherche, CEA
Guillaume Bonfante Maˆıtre de conf´erences, Universit´e de Lorraine
Pierrick Gaudry Directeur de recherche, CNRS
Val´erie Viˆ et Triˆ em Tˆ ong Maˆıtre de conf´erences, Sup´elec
Directeur de thèse : Jean-Yves Marion Professeur, Universit´e de Lorraine
Laboratoire Lorrain de Recherche en Informatique et ses Applications — UMR 7503

Remerciements
Je tiens en premier lieu à remercier les membre du jury qui ont accepté d’évaluer mon
travail de thèse et en particulier Frédéric Cuppens et Hervé Debar d’avoir pris le temps
de relire ce document en me faisant de précieux retours.
Ma reconnaissance va principalement à mon directeur de thèse, Jean-Yves Marion.
Il a su me guider scientifiquement pendant ces années et a pu accorder beaucoup de
temps à la relecture du manuscrit malgré ses nombreuses contraintes. Merci d’avoir su me
proposer les orientations pertinentes pour ma recherche tout en me laissant libre du choix.
Je remercie également Pierrick Gaudry de m’avoir apporté un point de vue extérieur très
pertinent sur mes travaux.
J’ai eu un grand plaisir à travailler au sein de l’équipe CARTE et en particulier avec
mes collègues du LHS. Merci à Fabrice Sabatier pour son expertise, sa bonne humeur et
sa disponibilité, même lorsque le temps nous manquait, à Guillaume Bonfante d’avoir
su proposer et porter des sujets originaux, à Thanh Dinh et Joan de m’avoir fait découvrir
des sujets connexes au mien dans le domaine de l’analyse de code. Je suis plus générale-
ment reconnaissant envers tous les membres de CARTE pour leur accueil et leur énergie
alimentant des discussions passionnées. Merci aux membres du bureau B235, particulière-
ment à Hugo et Hubert pour nos discussions quotidiennes, toujours intéressantes, souvent
scientifiques et parfois productives, ainsi que pour la bonne humeur qui régnait dans notre
bureau.
Je tiens également à remercier Guillaume de m’avoir donné l’opportunité d’enseigner
et pour ses conseils dans ce domaine, ainsi que Karen pour ses conseils pédagogiques
avisés. Je remercie mes étudiants de m’avoir permis, à leurs dépends, de diversifier mon
emploi du temps et d’avoir (parfois) été réceptifs à mes enseignements.
Je n’oublierai pas non plus les doctorants du Loria qui m’ont fait découvrir le labora-
toire et qui ont, entre autres, animé le picnic hebdomadaire. Merci aux anciens, à Nicolas,
Jean-Christophe, Henri, à Frédéric, Hamza, aux plus jeunes, à Laurent, Ludovic, Éric et
tous les autres. Merci aux amis avec qui j’ai découvert et pratiqué l’escalade, à Aurélia,
Răzvan, Svyatoslav et Jordi. Merci à Will, Bianca, Christophe, Dounia et Aurélie avec
qui j’ai découvert Nancy et qui ont égayé mon séjour en Lorraine.
Je suis également reconnaissant à Ludovic Mé ainsi qu’à l’ensemble des enseignants
de l’équipe CIDRE à Rennes de m’avoir fait découvrir la recherche, ainsi qu’à Mounir et
Thomas grâce à qui j’ai décidé de continuer dans cette voie.
Merci à mes parents et à mon frère pour leur soutien sans faille durant toutes mes
études et leur implication dans le difficile exercice de relecture du manuscrit.
Enfin je remercie Marine qui a su m’encourager et me supporter au quotidien et que
j’espère avoir malgré tout encouragée à se lancer dans l’aventure d’une thèse.
i

ii