A large number of physical systems present long range interactions : self-gravitating systems, plasmas, vortex interactions... and thus share some properties. In this thesis, we have another experimental system in view: cold atoms; in that case, absorption/emission of photons create effective long range interactions. During a specific time scale, the out-of-equilibrium dynamics of a long range system is described by the Vlasov, or Vlasov-Fokker-Planck, equation. The goal here is to study the out-of-equilibrium behavior for several particles systems with long range interaction, from theoretical to experimental as well as numerical. Firstly, we study the dynamics of a system of particles close to an inhomogeneous stationary state using the Vlasov equation. We show that, while Landau damping is present for short time scales, the long time behavior is governed by a power law relaxation. We check and valid our predictions using numerical simulations for the HMF model (a prototype of long range system). Next, we consider the center-of-mass and breathing oscillations of interacting particles system. Assuming an invariant shape for the particles distribution, we obtain two equations which approximatively describe evolution of these two modes for a large number of systems (long/short range, with/without thermal bath, ...). Finally we use the previous result to explore an instability of a cloud of cold atoms in a magneto-optical trap and analyze a regime possibly analogous to a 1d self-gravitating system.Un grand nombre de systèmes physiques sont le siège d'interactions à longue portée : systèmes auto gravitants, plasmas, interactions entre vortex... et partagent de ce fait certaines propriétés. Dans cette thèse, un autre type de système expérimental est envisagé : des atomes froids ; dans ce cas, ce sont les échanges de photons qui peuvent induire des interactions effectives à longue portée. La dynamique de ces systèmes à longue portée est décrite sur une certaine échelle de temps par une équation de type Vlasov, ou Vlasov-Fokker-Planck. Le but de cette thèse est d'étudier le comportement hors équilibre de plusieurs systèmes de particules comportant en général des interactions à longue portée, d'un point de vue théorique, numérique et expérimental. Dans une première partie, nous étudions dans le cadre de l'équation de Vlasov la dynamique d'un système de particules au voisinage d'un état stationnaire inhomogène. Nous montrons que si un amortissement de type Landau apparaît aux temps courts, une relaxation vers un état stationnaire en loi de puissance domine toujours aux temps longs. Nous testons et validons ensuite nos prédictions par des simulations numériques du modèle HMF (archétype des systèmes à longue portée). Nous nous intéressons ensuite aux oscillations de respiration et du centre de masse d'un système de particules en interaction. En supposant une invariance de la forme de la distribution des particules, nous obtenons deux équations qui décrivent approximativement l'évolution de ces modes pour une grande gamme de systèmes (longue/courte portée, avec/sans thermostat, ...). Pour finir, nous présentons l'utilisation des résultats précédemment obtenus pour explorer un régime d'instabilité dans un piège magnéto-optique, et la possible existence de l'analogue d'un régime auto-gravitant 1d