Derivatives of (modified) Fredholm determinants and stability of standing and traveling waves

Continuing a line of investigation initiated in [F. Gesztesy, Y. Latushkin, K.A. Makarov, Evans functions, Jost functions, and Fredholm determinants, Arch. Rat. Mech. Anal. 186 (2007) 361–421] exploring the connections between Jost and Evans functions and (modified) Fredholm determinants of Birman–Schwinger type integral operators, we here examine the stability index, or sign of the first nonvanishing derivative at frequency zero of the characteristic determinant, an object that has found considerable use in the study by Evans function techniques of stability of standing and traveling wave solutions of partial differential equations (PDE) in one dimension. This leads us to the derivation of general perturbation expansions for analytically-varying modified Fredholm determinants of abstract operators. Our main conclusion, similarly in the analysis of the determinant itself, is that the derivative of the characteristic Fredholm determinant may be efficiently computed from first principles for integral operators with semi-separable integral kernels, which include in particular the general one-dimensional case, and for sums thereof, which appears to offer applications in the multi-dimensional case.A second main result is to show that the multi-dimensional characteristic Fredholm determinant is the renormalized limit of a sequence of Evans functions defined in [G.J. Lord, D. Peterhof, B. Sandstede, A. Scheel, Numerical computation of solitary waves in infinite cylindrical domains, SIAM J. Numer. Anal. 37 (2000) 1420–1454] on successive Galerkin subspaces, giving a natural extension of the one-dimensional results of [F. Gesztesy, Y. Latushkin, K.A. Makarov, Evans functions, Jost functions, and Fredholm determinants, Arch. Rat. Mech. Anal. 186 (2007) 361–421] and answering a question of [J. Niesen, Evans function calculations for a two-dimensional system, presented talk, SIAM Conference on Applications of Dynamical Systems, Snowbird, UT, USA, May 2007] whether this sequence might possibly converge (in general, no, but with renormalization, yes). Convergence is useful in practice for numerical error control and acceleration.

RésuméNous poursuivons l'étude, commencée dans [F. Gesztesy, Y. Latushkin, K.A. Makarov, Evans functions, Jost functions, and Fredholm determinants, Arch. Rat. Mech. Anal. 186 (2007) 361–421], des liens entre les fonctions de Jost et d'Evans et les déterminants (modifiés) de Fredholm d'opérateurs intégraux de type Birman–Schwinger. Nous examinons ici l'indice de stabilité, c'est-à-dire le signe de la première dérivée non nulle, à la fréquence zéro, du déterminant caractéristique. Cet indice a trouvé une application importante dans l'étude, par des techniques de fonction d'Evans, des la stabilité des solutions de type ondes progressives de systèmes d'équations aux dérivées partielles en une dimension d'espace. Cela nous amène à écrire des formules de développements généraux de type perturbatif pour les déterminants modifiés de Fredholm d'opérateurs analytiques abstraits. Notre conclusion principale est que la dérivée du déterminant caractéristique de Fredholm, comme le déterminant lui-même, peut être calculée efficacement pour des opérateurs intégraux dont les noyaux sont semiséparables et pour les sommes. La première classe d'opérateurs inclut en particulier le cas général en une dimension d'espace ; ce dernier laisse envisager des applications au cas multidimensionnel.Le deuxième résultat principal est la démonstration que le déterminant caractéristique multidimensionnel de Fredholm est la limite renormalisée d'une suite de fonctions d'Evans, définie dans [G.J. Lord, D. Peterhof, B. Sandstede, A. Scheel, Numerical computation of solitary waves in infinite cylindrical domains, SIAM J. Numer. Anal. 37 (2000) 1420–1454], sur des sous-espaces emboîtés de Galerkin ; ce résultat est une extension naturelle des résultats unidimensionnels de [F. Gesztesy, Y. Latushkin, K.A. Makarov, Evans functions, Jost functions, and Fredholm determinants, Arch. Rat. Mech. Anal. 186 (2007) 361–421], et répond à la question, posée dans [J. Niesen, Evans function calculations for a two-dimensional system, presented talk, SIAM Conference on Applications of Dynamical Systems, Snowbird, UT, USA, May 2007], de la convergence de cette suite (la réponse est qu'en général il n'y a pas convergence, mais qu'on peut obtenir la convergence après renormalisation). La convergence est utile dans la pratique pour le contrôle des erreurs et l'accélération des calculs numériques.