On the minimum f-divergence for given total variation

We want to find a lower bound for an f-divergence Df in terms of variational distance V which is best possible for any given V. In other words, we want to find . In this note we solve this problem for any convex f. Although the form of LDf(V) depends on inverting some expressions which may be difficult in general, simplifications can occur when f has some kind of symmetry. For instance, if Df is symmetric in the sense that Df(P,Q)=Df(Q,P), we show that . For the Kullback–Leibler divergence K we obtain an expression of LK in terms of the two real branches of Lambert's W function. To cite this article: G.L. Gilardoni, C. R. Acad. Sci. Paris, Ser. I 343 (2006).

RésuméPour chaque distance variationnelle V donnée on veut trouver la meilleure borne inférieure possible pour une f-divergence Df. En d'autres termes, on veut trouver . Dans cette note on résout ce problème pour toute fonction f convexe. Bien que la forme de LDf(V) dépende de l'inversion de quelques expressions, ce qui peut être difficile en général, des simplifications peuvent se produire quand f a une certaine symétrie. Par exemple, si Df est symétrique dans le sens : Df(P,Q)=Df(Q,P), on prouve que . Pour la divergence de Kullback–Leibler K nous obtenons une expression de LK à l'aide des deux branches réelles de la fonction W de Lambert. Pour citer cet article : G.L. Gilardoni, C. R. Acad. Sci. Paris, Ser. I 343 (2006).