Symmetry and nonexistence of low Morse index solutions in unbounded domains

In this paper we prove symmetry results for classical solutions of semilinear elliptic equations in the whole RN or in the exterior of a ball, N⩾2, in the case when the nonlinearity is either convex or has a convex first derivative. More precisely we prove that solutions having Morse index j⩽N are foliated Schwarz symmetric, i.e. they are axially symmetric with respect to an axis passing through the origin and nonincreasing in the polar angle from this axis. From this we deduce some nonexistence results for positive or sign changing solutions in the case when the nonlinearity does not depend explicitly on the space variable.

RésuméNous démontrons des résultats de symétrie de solutions classiques de problèmes elliptiques semilinéaires dans RN ou à l'extérieur d'une boule dans les cas N⩾2 où la non-linéarité est convexe et la dérivée est aussi convexe. Plus précisément, nous démontrons que toute solution dont l'indice de Morse est inférieur ou égal à N est à symétrie axiale et monotone relativement à l'angle polaire. Partant de ce résultat nous déduisons des théorèmes de non-existence de solutions positives ou de solutions qui changent de signe.