Maximum Principle and generalized principal eigenvalue for degenerate elliptic operators

We characterize the validity of the Maximum Principle in bounded domains for fully nonlinear degenerate elliptic operators in terms of the sign of a suitably defined generalized principal eigenvalue. Here, the maximum principle refers to the property of non-positivity of viscosity subsolutions of the Dirichlet problem. The new notion of generalized principal eigenvalue that we introduce here allows us to deal with arbitrary type of degeneracy of the elliptic operators. We further discuss the relations between this notion and other natural generalizations of the classical notion of principal eigenvalue, some of which have been previously introduced for particular classes of operators.

RésuméOn caractérise la validité du principe du maximum pour des opérateurs elliptiques complètement non linéaires dégénérés au moyen du signe d'une valeur propre généralisée convenablement définie. Ici, le principe du maximum est entendu comme propriété des sous-solutions au sens viscosité du problème de Dirichlet d'être négatives ou nulles. La notion nouvelle de valeur propre principale introduite ici permet de traiter un cadre très général incluant les opérateurs elliptiques avec dégénérescence arbitraire. On examine les liens entre cette notion et d'autres extensions naturelles de la définition classique de valeur propre principale dont certaines ont été introduites précédemment pour des classes particulières d'opérateurs.