Sur un théorème de Paul Malliavin

RésuméCet article a pour but de montrer le lien entre la méthode introduite en 1959 par Paul Malliavin pour démontrer l'impossibilité de la synthèse spectrale sur les groupes abéliens non compacts [Paul Malliavin, Sur l'impossibilité de la synthèse spectrale sur la droite, C. R. Acad. Sci. Paris 248 (1959) 2155–2157 ; Paul Malliavin, Sur l'impossibilité de la synthèse spectrale sur les groupes abéliens non compacts, Publ. Math. Inst. Hautes Etudes Sci. 2 (1959) 61–68] et une recherche actuelle sur les propriétés des restrictions des fonctions continues [Jean-Pierre Kahane, Yitzhak Katznelson, Restrictions of continuous functions, Israel J. Math., à paraître]. Il apportera un complément sur ce dernier sujet.L'article comprend trois parties. La première indique l'origine et les différentes formes du problème de la synthèse spectrale, sa solution par Malliavin, et différentes preuves du théorème de Malliavin. La seconde reprend la preuve de Malliavin sous forme probabiliste, à l'aide de séries trigonométriques gaussiennes, et s'attache aux propriétés de l'ensemble des zéros de F−f, F étant la somme d'une telle série (processus gaussien stationnaire sur le cercle) et f une fonction continue donnée (Théorèmes 1 et 2). La dernière est relative aux restrictions à un ensemble E d'une fonction continue f définie sur l'intervalle [0,1] ou sur le cercle T. En complément de certains résultats de [Jean-Pierre Kahane, Yitzhak Katznelson, Restrictions of continuous functions, Israel J. Math., à paraître] (Théorèmes 3 et 4), elle exploite d'un côté l'aspect probabiliste (Théorème 5) et de l'autre le théorème des catégories de Baire (Théorème 6). Le Théorème 7, dû à Thomas Körner, est le pendant à-la-Baire du Théorème 1.