Different habitat suitability models yield different least-cost path distances for landscape genetic analysis

Habitat suitability models (HSMs) are used to describe and predict species distributions based on multiple ecological variables and species occurrence data. HSMs may also provide a probabilistic identification of least-cost path (LCP) distances in landscape genetics. However, while several studies used HSMs for these purposes, the performance of different HSMs in landscape genetic analysis and, therefore, the consequences of model choice have not been carefully explored. In this study, we used a large dataset of wolf genotypes (Canis lupus; n = 923) that were non-invasively sampled in the central and northern Italian Apennines and western Alps, aiming (i) to estimate LCP distances derived from ten different HSMs and (ii) to quantify the correlation between inter-individual genetic and LCP distances using three statistical procedures: partial Mantel tests, multiple regression on distance matrices (MRDM) and linear mixed effect models. All LCP distances based on HSMs explained genetic distances better than Euclidean distances, irrespective of the applied landscape genetic statistical test. However, LCP distances derived by different HSMs were significantly different (paired t-test, P ≤ 0.0001), especially between “flexible discriminant analysis” (FDA) and “boosted regression trees” (BRT) models. LCP distances derived from “factorial decomposition of Mahalanobis distances” (MADIFA) in MRDM showed the highest regression coefficient (β) with genetic distances, indicating a strong correlation between LCPs and genetic distances. Results from our case study suggest that different HSMs should be compared and model-choice procedures applied to identify the best fitting HSM in landscape genetic analysis.

ZusammenfassungHabitateignungsmodelle (HSMs) verwenden verschiedene Umweltvariablen und Beobachtungsdaten, um das Verbreitungsgebiet von Arten zu definieren und vorherzusagen. HSMs können auch für die Identifizierung von “Least-Cost-Path”-Distanzen (LCP-Distanzen) eingesetzt werden, welche in landschaftsgenetische Analysen einfließen. Obwohl einige Studien HSMs zu diesem Zweck verwendet haben, hat bislang keine Studie den Einfluss unterschiedlicher HSMs in landschaftsgenetischen Analysen untersucht: die Folgen der Modellwahl sind somit unklar. In dieser Studie verwendeten wir einen großen Datensatz von Genotypen von Wölfen (Canis lupus; n = 923), die nicht-invasiv im zentralen und nördlichen italienischen Apennin gesammelt wurden, mit dem Ziel, (i) LCP-Distanzen basierend auf zehn verschiedenen HSMs zu berechnen und (ii) die Korrelation zwischen inter-individuellen genetischen Distanzen und LCP-Distanzen mit Hilfe von drei statistischen Verfahren zu quantifizieren: partielle Mantel-Tests, multiple Regressionen von Distanzmatrizen (MRDM) und lineare Modelle mit gemischten Effekten. Alle LCP-Distanzen basierend auf HSMs erklärten die genetischen Distanzen besser als dies euklidische Distanzen taten, unabhängig davon, welcher landschaftsgenetische statistische Test verwendet wurde. Jedoch waren die LCP-Distanzen der verschiedenen HSMs signifikant verschieden voneinander (gepaarter t-Test, P ≤ 0,0001), insbesondere zwischen “flexible discriminant analysis” (FDA) und “boosted regression trees” (BRT). LCP-Distanzen von “factorial decomposition of Mahalanobis distances” (MADIFA) in MRDM zeigten die höchsten Regressionskoeffizienten (β) mit den genetischen Distanzen, was auf eine starke Korrelation zwischen LCP und genetischen Distanzen hinweist. Die Ergebnisse unserer Studie zeigen, dass verschiedene HSMs verglichen und Modellauswahlverfahren angewendet werden sollten, um das am besten passende HSM für einelandschaftsgenetische Analyse zu identifizieren.