On the classification of solutions of the Lane–Emden equation on unbounded domains of RN

In this paper we study solutions, possibly unbounded and sign-changing, of the Lane–Emden equation on unbounded domains of RN with N⩾2 and p>1. We prove various classification theorems and Liouville-type results for C2 solutions belonging to one of the following classes: stable solutions, finite Morse index solutions, solutions which are stable outside a compact set, radial solutions and non-negative solutions. Our results apply to subcritical, critical and supercritical values of the exponent p, and our analysis reveals the existence of a new critical exponent. This new critical exponent is larger than the classical critical exponent and, it depends on both the dimension N and the geometry of the considered unbounded domain. Some results about the qualitative properties of solutions, in arbitrary domains of RN, are also obtained. In particular, we prove a universal a priori estimate for stable solutions in arbitrary proper domains and study the behaviour of a stable solution near an isolated singularity. Applications to bounded domains are also considered. Many of our results are sharp.

RésuméCet article porte sur l'étude des solutions, éventuellement non-bornées et de signe quelconque, de l'équation −Δu=|u|p−1u dans des domaines non-bornés de RN avec N⩾2 et p>1. Nous démontrons divers théorèmes de classification ainsi que des résultats de type Liouville pour les solutions régulières appartenant à une des classes suivantes : solutions stables, solutions d'indice de Morse fini, solutions stables à l'extérieur d'un compact, solutions radiales et solutions positives. Nos résultats s'appliquent aux valeurs sous critiques, critiques et sur-critiques de l'exposant p et, notre analyse indique l'existence d'un nouvel exposant critique. Ce nouvel exposant critique est plus grand que l'exposant critique classique, et il dépend de la dimension N ainsi que de la géométrie du domaine non borné considéré. Nous obtenons aussi quelques résultats concernant les propriétés qualitatives des solutions, dans des domaines arbitraires de RN. En particulier, nous démontrons une estimation universelle pour les solutions stables dans des domaines propres et étudions aussi le comportement d'une solution stable au voisinage d'une singularité isolée. Des applications au cas de domaines bornés sont également considérées. Plusieurs de nos résultats sont optimaux.