Minimal invariant subspaces for composition operators

A remarkable result by Nordgren, Rosenthal and Wintrobe states that a positive answer to the Invariant Subspace Problem is equivalent to the statement that any minimal invariant subspace for a composition operator Cφ induced by a hyperbolic automorphism φ of the unit disc D in the Hardy space H2 is one dimensional. Motivated by this result, for f∈H2 we consider the space Kf, which is the closed subspace generated by the orbit of f. We obtain two results, one for functions with radial limit zero, and one for functions without radial limit zero, but tending to zero on a sequence of iterates. More precisely, for those functions f∈H2 with radial limit zero and continuous at the fixed points of φ, we provide a construction of a function g∈Kf such that f is a cluster point of the sequence of iterates {g∘φ−n}. In case f is in the disc algebra, we have . For a function f∈H2 tending to zero on a sequence of iterates {φn(z0)} at a point z0 with |z0|<1, but having no radial limit at the attractive fixed point, we establish the existence of certain functions in the space and show that unless f is constant on the sequence of iterates {φn(z0)}, the space Kf is not minimal.

RésuméD'après un résultat remarquable de Nordgren, Rosenthal et Wintrobe, une réponse positive au Problème du Sous-Espace Invariant est équivalent à l'énoncé que, pour tout opérateur de composition Cφ induit par un automorphisme hyperbolique du disque unité D dans l'espace de Hardy H2, tout sous-espace invariant minimal est de dimension un. Motivés par ce résultat, on considère pour une fonction f∈H2 le sous-espace fermé Kf engendré par l'orbite de f. On obtient deux résultats : un pour les fonctions de limite radiale nulle, et un pour les fonctions convergeant vers zéro par une suite d'itérées de φ en un point du disque. Plus précisément, pour les fonctions dont la limite radiale est nulle et qui sont continues aux points fixes de φ, nous construisons une fonction g∈Kf dont f est un point d'accumulation de la suite des itérées {g∘φ−n}. Lorsque f appartient à l'algèbre du disque, nous obtenons . Pour une fonction f∈H2 tendant vers zéro pour une suite {φn(z0)} et un certain z0∈D, mais sans limite radiale au point fixe attractif, on établit l'existence de certaines fonctions dans l'espace et on montre que Kf n'est pas minimal, à moins que f soit constante sur la suite {φn(z0)}.