Optimization takes place in many IFPEN applications: for instance estimation of parameters of numerical models from experimental data in geosciences or for engine calibration. These optimization problems consist in minimizing a complex function, expensive to estimate, and for which derivatives are often not available. Moreover, additional difficulties arise with the introduction of nonlinear constraints and even several objectives to be minimized. In this thesis, we developed the SQA method (Sequential Quadratic Approximation), an extension of a derivative-free optimization method proposed by M.J.D Powell for optimization with constraints with known or unknown derivatives. This method consists in solving optimization sub-problems based on local quadratic interpolation models of objective function and derivative-free constraints built with a limited number of function evaluations. If the solution of this sub-problem does not progress toward a solution of the original problem, new simulations are performed to try to improve the model quality. Numerical results on benchmarks show that SQA is an effective method for constrained derivative-free optimization. Finally, SQA has been tested with success on two industrial applications in reservoir engineering and in engine calibration. An other problem studied in this thesis is multi-objective minimization under constraints. The MO-CMA-ES method (Multi-Objective - Covariance Matrix Adaptation - Evolution Strategy) adapted to take into account constraints has been successful to determine different compromises for an engine calibration application.L'optimisation intervient dans de nombreuses applications IFPEN, notamment dans l'estimation de paramètres de modèles numériques à partir de données en géosciences ou en calibration des moteurs. Dans ces applications, on cherche à minimiser une fonction complexe, coûteuse à estimer, et dont les dérivées ne sont pas toujours disponibles. A ces difficultés s'ajoutent la prise en compte de contraintes non linéaires et parfois l'aspect multi-objectifs. Au cours de cette thèse, nous avons développé la méthode SQA (Sequential Quadradic Approximation), une extension de la méthode d'optimisation sans dérivées de M.J.D. Powell pour la prise en compte de contraintes à dérivées connues ou non. Cette méthode est basée sur la résolution de problèmes d'optimisation simplifiés basés sur des modèles quadratiques interpolant la fonction et les contraintes sans dérivées, construits à partir d'un nombre limité d'évaluations de celles-ci. Si la résolution de ce sous-problème ne permet pas une progression pour l'optimisation originale, de nouvelles simulations sont réalisées pour tenter d'améliorer les modèles. Les résultats de SQA sur différents benchmarks montrent son efficacité pour l'optimisation sans dérivées sous contraintes. Enfin, SQA a été appliqué avec succès à deux applications industrielles en ingénierie de réservoir et en calibration des moteurs. Une autre problématique majeure en optimisation étudiée dans cette thèse est la minimisation multi-objectifs sous contraintes. La méthode évolutionnaire Multi-Objective Covariance Matrix Adaptation, adaptée à la prise en compte des contraintes, s'est révélée très performante dans l'obtention de compromis pour la calibration des moteurs