In this thesis, I report the results of studies performed during these last three years at Institut Non Linéaire de Nice.First, I present our feedback experiment leading to the spontaneous formation of patterns in the cross section of a laser beam passing through a cloud of cold 87 Rb atoms and retro-reflected by a mirror. In these experiments we were able to identify three mechanisms of nonlinearity : the spin nonlinearity associated with the Zeeman degrees of freedom, the electronic nonlinearity due to the saturation of a two-level atom and the optomechanical nonlinearity due to the spatial bunching of atoms by the dipole force. The instabilities corresponding to each nonlinear mechanism occurs in different range of the experimental parameters and can be selected and studied independently. The experimental observations are compared with various theoretical models.In the second part of the thesis, I present our study of the integrated density of states (IDOS) and the local density of states (LDOS) of the bands of a two-dimensional quasicrystal. In an experiment conducted at Laboratoire de Physiquede la Matière Condensée (LPMC), we realized quasicrystals by disposing dielectric resonators operating in the microwave regime on 2D Penrose tiling. A numerical model including experimental parameters is used to compare to the experimental findings.Dans cette mémoire de thèse, je rapporte les résultats des études réaliséesdurant ces trois dernière années à l’Institut Non Linéaire de Nice.D’une part, je présente nos expériences de miroir de rétro-action condui-sant à la formation spontanée de patterns dans la section transversale d’unfaisceau laser (pompe) traversant le centre d’un nuage d’atomes froids de87Rb et rétro-réfléchi par un miroir placé à une distance d du nuage. Dansces expériences nous discernons trois types de mécanismes de nonlinéari-tés : la nonlinéarité de spin qui est liée au pompage Zeeman, la nonlinéaritéélectronique existant pour un atome à deux niveaux et la nonlinéarité opto-mécanique qui est liée à la force dipolaire. Ces mécanismes dépendant des paramètres du MOT et de la pompe (intensité, désaccord, durée) sont étudiés séparément en jouant sur ces paramètres. Ces études expérimentales sont comparés avec des résultats obtenus avec des modèles théoriques.D’autre part, je présente nos observation concernant la densité d’état intégrée et les la densité d’états locale des bandes d’un quasi-cristal bidimensionnel. Dans cette expérience réalisé au Laboratoire de Physique de la Matière Condensée, nous avons réalisé des quasi-cristaux en disposant des résonateurs diélectriques agissant dans le domaine micro-onde sur des pavages de Penrose 2D. Un modèle numérique prenant en compte les paramètresexpérimentales est utilisé pour comparer les résultats obtenus
