One of the most promising concepts for future fusion reactors is the tokamak. In these devices, a hot ionized plasma is confined with the use of large magnetic fields. As these systems are typically out of thermodynamic equilibrium, they are prone to instabilities that deteriorate the plasma confinement and can also damage the plasma facing components.The subject of this thesis is the study of a particular type of tokamak instabilities with numerical MagnetoHydroDynamic (MHD) simulations. The numerical code JOREK-STARWALL is adapted and applied to the simulation of the so-called free-boundary instabilities. The investigation of this type of instabilities requires a special treatment for the plasma boundary conditions for the magnetic field, where the interaction of the plasma with the vacuum and the surrounding conducting structures needs to be taken into account. In this work, the modelling of the electromagnetic plasma-wall-vacuum interaction is reviewed and generalized for time-varying coil currents and for the so-called halo currents, which are electric currents flowing from the plasma to the wall and vice versa. The adapted JOREK-STARWALL code is applied to realistic plasma geometries in order to study the physics of two particular free-boundary instabilities: Edge Localized Modes (ELMs) triggered by vertical position oscillations and Vertical Displacement Events (VDEs).Two major results are obtained: 1. The triggering of ELMs during vertical position oscillations is for the first time reproduced with self-consistent simulations. These allow for the investigation of the physical mechanism underlying this phenomenon. The simulations reveal that for the international ITER project, a large-scale tokamak, these triggered ELMs are mainly due to an increase in the plasma edge current due to the vertical plasma motion. 2. For VDEs, several benchmarks are performed with other existing MHD codes showing a good agreement and therefore allowing the performance of ITER simulations to estimate the expected amount of halo currents in ITER. Additionally, preliminary toroidally asymmetric VDE simulations are presented.Un des dispositifs les plus prometteurs pour réaliser la fusion contrôléé est le réacteur de type tokamak. Dans ces réacteurs, un plasma chaud ionisé est confiné à l’aide d’un champ magnétique intense. Puisqu’un tel plasma est généralement hors équilibre thermodynamique, il est le siège d’instabilités qui détériorent son confinement et peuvent également endommager les composants qui l’entourent.Ce travail de thèse porte sur l’étude d’une classe particulière d’instabilités au sein d’un tokamak. Cette étude est menée par des simulations numériques basées sur des modèles magnétohydro-dynamiques(MHD). Le code numérique JOREK-STARWALL est adapté et appliqué pour étudier les instabilités dites à frontière libre. Ce type d’instabilités nécessitent un traitement spécial concernant les conditions de bord du plasma pour le champ magnétique, où l’interaction du plasma avec le vide et les structures conductrices environnantes doit être prise en compte. La modélisation de l’interaction électromagnétique plasma-paroi-vide est généralisée pour les courants de bobine variables dans le temps et pour les courants dits de halo, qui sont des courants électriques circulant du plasma vers la paroi et vice versa. JOREK-STARWALL permet d’utiliser des géométries réalistes afin d’étudier la physique de deux instabilités particulières à frontière libre: les modes localisés au bord ("Edge Localized Modes",ELMs) déclenchés par des oscillations de la position verticale du plasma et les evenements de déplacement vertical (Vertical Displacement Events, VDEs).Deux résultats majeurs sont obtenus: 1. Le déclenchement des ELMs par des oscillations de la position verticale est pour la première fois reproduit avec des simulations auto-cohérentes. Celles-ci permettent d’étudier le mécanisme physique sous-jacent à ce phénomène. Les simulations révèlent que pour le projet international ITER, un tokamak à grande échelle, ces ELMs déclenchés sont principalement dus à une augmentation du courant au bord du plasma due au mouvement vertical. 2. Pour les VDEs, plusieurs comparaisons effectuées avec d’autres codes MHD existants montrent un bon accord avec JOREK-STARWALL et permettant ainsi de réaliser des simulations pour estimer la quantité attendue de courants de halo dans ITER. Finalement, des simulations préliminaires des VDEs avec des asymétries toroïdales sont présentées