Robustheit von Metropolis-Hastings Algorithmen
Zusammenfassung der Projektergebnisse
Metropolis-Hastings (MH) Algorithmen, und Markovketten-Methoden im Allgemeinen, stellen wohl die meistbenutzten Verfahren zum approximativen Simulieren von Zielverteilungen dar. Robustheitseigenschaften bzgl. Auswertungsfehlern und Konzentrationseigenschaften der Dichte dieser Verteilung sind deshalb von besonderem Interesse. Auswertungsfehler treten immer dann auf, wenn die Zieldichte nur geschätzt werden kann. Mittels der von uns weiterentwickelten Störungstheorie von Markovketten haben wir für diesen Fall eine neue, modifizierte Form des Monte Carlo within Metropolis (MCwM) Ansatzes vorgeschlagen und untersucht. Diese basiert auf einer angepassten Einschränkung des Zustandsraumes. Unsere theoretischen Ergebnisse haben gezeigt, dass damit neue Fehlerabschätzungen und Schranken der minimalen Kosten (um einen gewissen kleinen Fehler zu erhalten) einhergehen. Eine Stabilitätsanalyse bzgl. einer Klasse von Zielverteilungen, nämlich solcher, die durch doppelt unzugängliche Dichten bestimmt sind, lässt auch Betrachtungen für andere Markovketten-Methoden zu. In der Bayes’schen Inferenz bei der Analyse von Daten, die besonders viele Parameterinformationen enthalten, treten sehr konzentrierte Posteriorverteilungen auf. Die hohe Konzentration geht bei klassischen MH-Algorithmen mit einer langsamen Exploration des Zustandsraumes einher. Wir schlagen MH-Algorithmen vor, deren Vorschlagskerne an die Kovarianz des Zielmaßes angepasst sind und führen Begriffe zur Charakterisierung von Konzentrations-robusten Verhalten ein. Mithilfe dieser Terminologie, und neuen Beweistechniken, konnten die vorgeschlagenen Algorithmen für Gauß’sche und darüberhinausgehende Zielmaße unter Regularitätsannahmen analysiert werden. Unerwartet und überraschend ist das Ergebnis, dass die Spektrallücke der Übergangsoperatoren der vorgeschlagenen MH-Algorithmen im Gauss’-schen Fall unahbängig von dem Konzentrationsniveau ist.
Projektbezogene Publikationen (Auswahl)
- On a Metropolis-Hastings importance sampling estimator, Electron. J. Stat., 14 (2020), 857-889
D. Rudolf und B. Sprungk
(Siehe online unter https://doi.org/10.1214/20-EJS1680) - On the convergence of the Laplace approximation and noise-level-robustness of Laplace-based Monte Carlo methods for Bayesian inverse problems, Num. Math., 145 (2020), 915-971
C. Schillings, B. Sprungk und P. Wacker
(Siehe online unter https://doi.org/10.1007/s00211-020-01131-1) - Perturbation bounds for Monte Carlo within Metropolis via restricted approximations, Stoch. Process. Their Appl., 130 (2020), 2200-2227
F. Medina-Aguayo, D. Rudolf, N. Schweizer
(Siehe online unter https://doi.org/10.1016/j.spa.2019.06.015) - Stability of doubly-intractable distributions, Electron. Commun. Probab., 25 (2020), 1-13
M. Habeck, D. Rudolf und B. Sprungk
(Siehe online unter https://doi.org/10.1214/20-ECP341) - Geometric convergence of elliptical slice sampling, Proceedings of the 38th ICML, PMLR, 139 (2021), 7969-7978
V. Natarovskii, D. Rudolf und B. Sprungk
(Siehe online unter https://doi.org/10.48550/arXiv.2105.03308) - Robust random walk-like Metropolis-Hastings algorithms for concentrating posteriors
D. Rudolf und B. Sprungk
(Siehe online unter https://doi.org/10.48550/arXiv.2202.12127)