ℓ1 sparsity and applications in estimation

In this Note, we study the asymptotic behaviour of a new class of penalized M-estimators, built with an ℓ1 type penalty. We prove that adding an ℓ1 constraint enables to construct adaptive estimators, in the sense that the estimators converge at the optimal rate of convergence without prior knowledge of the regularity of the function to be reconstructed. Moreover, we show how the usual issues in nonparametric estimation, such as density estimation, estimation of a regression function and inverse problem estimation can be handled with this methodology. To cite this article: J.-M. Loubes, C. R. Acad. Sci. Paris, Ser. I 344 (2007).

RésuméNous étudions les propriétés asymptotiques d'une nouvelle classe de M-estimateurs pénalisés par une pénalité de type norme ℓ1. Nous montrons que nous pouvons ainsi construire des estimateurs adaptatifs, c'est-à-dire convergeant à la vitesse optimale sans connaître la régularité de la fonction à estimer. Nous montrons que ce procédé général s'applique dans le cadre du modèle de régression, des problèmes inverses et pour l'estimation de densités. Pour citer cet article : J.-M. Loubes, C. R. Acad. Sci. Paris, Ser. I 344 (2007).