Cette thèse porte sur la modélisation, l'analyse théorique et l'implémentation numérique d'algorithmes d'optimisation pour la résolution de problèmes inverses d'imagerie (par exemple, la reconstruction d'images en tomographie et la déconvolution d'images en microscopie) dans des espaces de Banach non standard. Elle est divisée en deux parties: dans la première, nous considérons le cadre des espaces de Lebesgue à exposant variable L^{p(cdot)} afin d'améliorer l'adaptabilité de la solution par rapport aux reconstructions obtenues dans le cas standard d'espaces d'Hilbert; dans la deuxième partie, nous considérons une modélisation dans l'espace des mesures de Radon pour éviter les biais dus à la discrétisation observés dans les méthodes de régularisation parcimonieuse. Plus en détail, la première partie explore à la fois des algorithmes d'optimisation lisse et non lisse dans les espaces L^{p(cdot)} réflexifs, qui sont des espaces de Banach dotés de la norme dite de Luxemburg. Comme premier résultat, nous fournissons une expression des cartes de dualité dans ces espaces, qui sont un ingrédient essentiel pour la conception d'algorithmes itératifs efficaces. Pour surmonter la non-séparabilité de la norme sous-jacente et les temps de calcul conséquents, nous étudions ensuite la classe des fonctions modulaires qui étendent directement la puissance (non homogène) p > 1 des normes L^p au cadre L^{p(cdot)}. En termes de fonctions modulaires, nous formulons des analogues des cartes duales qui sont plus adaptées aux algorithmes d'optimisation lisse et non lisse en raison de leur séparabilité. Nous étudions alors des algorithmes de descente de gradient (à la fois déterministes et stochastiques) basés sur les fonctions modulaires, ainsi que des algorithmes modulaires de gradient proximal dans L^{p(cdot)}, dont nous prouvons la convergence en termes des valeurs de la fonctionnelle. La flexibilité de ces espaces s'avère particulièrement avantageuse pour la modélisation de la parcimonie et les statistiques hétérogènes du signal/bruit, tout en restant efficace et stable d'un point de vue de l'optimisation. Nous validons cela numériquement de manière approfondie sur des problèmes inverses exemplaires en une/deux dimension(s) (déconvolution, débruitage mixte, tomographie). La deuxième partie de la thèse se concentre sur la formulation des problèmes inverses avec un bruit de Poisson formulés dans l'espace des mesures de Radon. Notre contribution consiste en la modélisation d'un modèle variationnel qui couple un terme de données de divergence de Kullback-Leibler avec la régularisation de la Variation Totale de la mesure souhaitée (une somme pondérée de Diracs) et une contrainte de non-négativité. Nous proposons une étude détaillée des conditions d'optimalité et du problème dual correspondant. Nous considérons une version améliorée de l'algorithme de Sliding Franke-Wolfe pour calculer la solution numérique du problème de manière efficace. Pour limiter la dépendance des résultats du choix du paramètre de régularisation, nous considérons une stratégie d'homotopie pour son ajustement automatique où à chaque itération algorithmique, on vérifie si un critère d'arrêt défini en termes du niveau de bruit est vérifié et on met à jour le paramètre de régularisation en conséquence. Plusieurs expériences numériques sont rapportées à la fois sur des données de microscopie de fluorescence simulées en 1D/2D et réelles en 3D.