Le travail présenté dans ce manuscrit est centré sur l'utilisation des transformations géométriques réelles et complexes combinées avec la méthode des éléments finis, pour le calcul des modes à pertes dans les fibres optiques microstructurées. En premier lieu nous nous sommes intéressés au cas monodimensionnel (structure de type Pérot-Fabry) ; nous avons alors testé deux méthodes numériques différentes. La première que nous avons appelée tétrachotomie où la recherche de modes à pertes se réduit à la recherche de pôles dans le plan complexe du coefficient de réflexion. La seconde est une méthode de type éléments finis combinée avec les PMLs (Perfectly Matched Layer). La deuxième partie de la thèse est consacrée à l'étude des fibres optiques microstructurées. Dans une premier temps, nous avons comparé notre méthode avec la méthode multipolaire dans le cas d'inclusions simples (trous circulaires) et nous avons constaté un excellent accord. Dans un deuxième temps, on a étudié des fibres plus exotiques comme les fibres anisotropes, les fibres dont les inclusions ont de forme arbitraire et les fibres à gradient d'indice. Enfin, la combinaison de deux transformations géométriques, l'une réelle associée à un changement de coordonnées hélicoïdales, l'autre complexe associée aux PMLs adaptées à notre problème, nous a permis de se ramener à l'étude d'une fibre anisotrope électriquement et magnétiquement, mais invariante par translation. On a alors étudié, pour la première fois, l'impact de la torsion sur les modes à pertes dans les FOMsAIX-MARSEILLE1-BU Sci.St Charles (130552104) / SudocSudocFranceF