La découverte et l'élaboration de nouveaux matériaux laser solides suscitent beaucoup d'intérêt parmi la communauté scientifique. En particulier les lasers dans la gamme de fréquence du micron débouchent sur beaucoup d'applications, en télécommunication, en médecine, dans le domaine militaire, pour la découpe des métaux (lasers de puissance), en optique non linéaire (doublage de fréquence, bistabilité optique). Le plus couramment utilisé actuellement est le Nd:YAG dans cette famille de laser, mais des remplaçants plus performants sont toujours recherchés. Les lasers à base d'Yb[indice supérieur 3+] possèdent beaucoup d'avantages comparés aux lasers Nd[indice supérieur 3+] du fait de leur structure électronique simple et de leur détérioration moins rapide. Parmi les matrices cristallines pouvant accueillir l'ytterbium, les orthosilicates Yb :Y[indice inférieur 2]SiO[indice inférieur 5], Yb :Lu[indice inférieur 2]SiO[indice inférieur 5] et Yb :Sc[indice inférieur 2]SiO[indice inférieur 5] se positionnent très bien, du fait de leur bonne conductivité thermique et du fort éclatement de leur champ cristallin nécessaire à l'élaboration de lasers quasi-3 niveaux. De plus l'étude fine et systématique des propriétés microscopiques de nouveaux matériaux s'avère toujours très intéressante du point de vue de la recherche fondamentale, c'est ainsi que de nouveaux modèles sont conçus (par exemple pour le champ cristallin) ou que de nouvelles propriétés inhabituelles sont découvertes, menant à de nouvelles applications. Ainsi d'autres matériaux dopés à l'ytterbium sont connus pour leurs propriétés de couplage électron-phonon, de couplage magnétique, d'émission coopérative ou encore de bistabilité optique, mais ces propriétés n'ont encore jamais été mises en évidence dans Yb :Y[indice inférieur 2]SiO[indice inférieur 5], Yb :Lu[indice inférieur 2]SiO[indice inférieur 5] et Yb :Sc[indice inférieur 2]SiO[indice inférieur 5]. Ainsi, cette thèse a pour but l'étude des propriétés optiques et des interactions microscopiques dans Yb :Y[indice inférieur 2]SiO[indice inférieur 5], Yb :Lu[indice inférieur 2]SiO[indice inférieur 5] et Yb :Sc[indice inférieur 2]SiO[indice inférieur 5]. Nous utilisons principalement les techniques d'absorption IR et de spectroscopie Raman pour déterminer les excitations du champ cristallin et les modes de vibration dans le matériau. Des mesures optiques sous champ magnétique ont également été effectuées dans le but de caractériser le comportement de ces excitations lorsqu'elles sont soumises à l'effet Zeeman.La résonance paramagnétique électronique a permis de compléter cette étude de l'éclatement Zeeman suivant toutes les orientations du cristal. Enfin la fluorescence par excitation sélective et la fluorescence induite par Raman FT, complètent la description des niveaux d'énergie et révélent l'existence d'émission coopérative de deux ions Yb[indice supérieur 3+] et de transferts d'énergie. Les résultats de cette thèse apportent une contribution originale dans le domaine des nouveaux matériaux lasers par l'étude et la compréhension des interactions fines et des propriétés microscopiques d'un matériau en particulier. Ils débouchent à la fois sur des applications possibles dans le domaine de l'optique et des lasers, et sur la compréhension d'aspects fondamentaux. Cette thèse a prouvé l'intérêt de ces matrices pour leur utilisation comme lasers solides: un fort éclatement du champ cristallin favorable à l'élaboration de laser quasi-3 niveaux, et de larges bandes d'absorption (dues à un fort couplage électron-phonon et à des raies satellites causées par une interaction d'échange entre deux ions Yb[indice supérieur 3+]) qui permettent la génération d'impulsions laser ultra-courtes, l'accordabilité du laser, etc. De plus la miniaturisation des lasers est possible pour l'optique intégrée grâce à des couches minces synthétisées par épitaxie en phase liquide dont nous avons démontré la très bonne qualité structurale et l'ajustement possible de certains paramètres. Nous avons reconstruit le tenseur g du niveau fondamental (qui donne des informations précieuses sur les fonctions d'onde), ceci dans le but d'aider les théoriciens à concevoir un modèle de champ cristallin valide. Plusieurs mécanismes de transferts d'énergie ont été mis en évidence: un mécanisme de relaxation d'un site vers l'autre, un mécanisme d'émission coopérative, et un mécanisme d'excitation de l'Yb[indice supérieur 3+] par le Tm[indice supérieur 3+] (impureté présente dans le matériau). Ces transferts sont plutôt néfastes pour la fabrication d'un laser mais sont intéressants pour l'optique non linéaire (doublage de fréquence, mémoires optiques). Enfin, plusieurs éléments (le couplage magnétique de paire, le couplage électron-phonon et l'émission coopérative) nous ont permis de conclure sur le caractère covalent de la matrice. Nous avons d'ailleurs démontré ici le rôle de la covalence dans l'émission coopérative, transition habituellement attribuée aux interactions multipolaires électriques