L'objet de ce travail est d'étudier les caractéristiques de la propagations des ondes électromagnétiques guidées dans les fibres optiques, dans le cas de faible guidage, et de proposer des méthodes de calcul de ces ondes. La thèse est composée d'une introduction, six chapitres et une conclusion et perspectives. Dans le premier chapitre, nous présentons la motivation physique et les équations mathématiques du problème de la propagation des ondes guidées dans les fibres optiques. Les ondes guidées (voir[40, 43]), correspondent à des solutions des équations de Maxwell harmoniques en temps et par rapport à la variable longitudinale d'espace. Les inconnues sont le champs électrique E ? , le champs magnétique H ? et la constante de propagation ?. k est la fréquence, c'est une donnée. c0 est la vitesse de la lumière dans le vide. Le problème mathématique de la recherche des modes guidés est posé donc dans tout le plan R2 (voir[3, 14]), qui est un domaine non borné. La question qui se pose est : si on veut utiliser une méthode à base d'éléments finis pour calculer ces modes, il est nécessaire de se ramener à un domaine borné. Se pose alors la question du choix de la condition aux limites sur le bord de ce domaine. Dans le deuxième chapitre, on montre formellement que, lorsque le nombre d'onde est "grand" et la variation de l'indice de réfraction est "très petite" (cas de faible guidage), le problème de la recherche des modes guidés susceptibles de se propager dans une fibre optique est un problème scalaire. Sous les hypothèses de "faible guidage", on propose dans le troisième chapitre, une formulation du problème dans un domaine borné, en introduisant une condition de type Robin sur le bord. On montre que les solutions du problème posé dans un domaine borné possèdent les mêmes caractéristiques que celles du problème originel, telles que la monotonie et la finitude (voir [15]). Enfin, on propose une méthode à base d'éléments finis capable de calculer tous les modes quelque soit la géométrie de la fibre et quelque soit l'indice de réfraction vérifiant les hypothèses de propagation. Dans le quatrième chapitre, on étudie l'erreur due à la troncature du domaine (voir [9]). On montre que l'erreur due la troncature du domaine décroit exponentiellement en fonction du rayon du domaine. Dans le cinquième chapitre, on présente une méthode de calcul des modes guidés dans des coupleurs optiques dans le cas scalaire (à saut d'indice). Cette méthode est basée sur la représentation intégrale des solutions du problème. On présente aussi une méthode intégrale capable de calculer les fréquences de coupure (les seuils d'apparition des modes guidés) dans un demi coupleur optique. Le sixième chapitre comporte des simulations numériques par les deux méthodes présentées dans les chapitres deux et quatre.