Nicht-asymptotische statistische Ähnlichkeitsmaße
Zusammenfassung der Projektergebnisse
In diesem Projekt wurde untersucht, inwieweit nicht-asymptotische statistische Ähnlichkeitsmaße als Werkzeuge geeignet sind, um methodische Fortschritte in der statistischen Signalverarbeitung und der Informationstheorie zu erzielen. Im Bereich der sequenziellen Detektion wurde gezeigt, dass sich das Problem der robusten sequentiellen Detektion als Minimierung einer f-Divergenz formulieren lässt, wobei die die Divergenz definierende Funktion f implizit durch eine Integralgleichung bestimmt ist. Zudem wurde ein interessanter Spezialfall betrachtet, nämlich eine nicht-parametrische Version des sogenannten Kiefer-Weiss Problems. Darin wird die Verteilung gesucht, unter der die mittlere Laufzeit eines sequentiellen Tests maximal wird, sowie die Test-Strategie, die dieses Maximum minimiert (minimax optimal). Es wurde gezeigt, dass das nicht-parametrische Kiefer-Weiss Problem zu einem sequenziellen Test führt, der unerwartete Eigenschaften hat. Insbesondere kann er zwingend randomisierte Stoppzeiten erfordern, das heißt, der Test stoppt in einem gegebenen Zustand nur mit einer gewissen Wahrscheinlichkeit. Außerdem ist der Test, im Gegensatz zu seinem parametrischen Gegenstück, nicht notwendigerweise abgeschnitten (truncated). Ein zweites Thema im Bereich der sequentiellen Detektion war die optimale Quantisierung kontinuierlicher Beobachtungen im Hinblick auf die mittlere Laufzeit des Detektors. Dieses Problem ist von praktischem Interesse, da hochauflösende Analog-Digital-Wandler zunehmend einen Flaschenhals darstellen, aufgrund ihres relativ hohen Energieverbrauchs und der Fläche, die sie in integrierten Schaltkreisen beanspruchen. Im Rahmen dieses Projektes wurde gezeigt, wie sich optimale Quantisierer entwerfen lassen und es wurden untere Schranken für die mittlere Laufzeit des entsprechenden sequentiellen Tests hergeleitet. Im Bereich der stochastischen Regelungstechnik wurden Verfahren entwickelt, um eine Steuerung zu entwerfen, welche ein System mit hoher Wahrscheinlichkeit in einem sicheren Bereich hält. Die Neuerung dabei ist, dass die Wahrscheinlichkeit nicht nur für einen gegebenen Zeitpunkt gilt, sondern für die gesamte Trajektorie des Systems. Zudem wird nicht nur die Wahrscheinlichkeit selbst, sondern auch der Grad der Überschreitung des sicheren Bereichs berücksichtigt. Interessanterweise ließen sich dabei Techniken anwenden, welche zuvor für die Analyse robuster sequentieller Tests entwickelt wurden. Im Bereich der Parameter-Schätzung wurde eine Alternative zur weitverbreiteten Bayesian Cramér-Rao-Schranke entwickelt. Anstelle der Fisher Information benutzt diese Schranke eine Divergenz zu einer Referenzverteilung, welche flexibel angepasst werden kann. Zudem ist eine Erweiterung von der typische Kostenfunktion, dem mittleren quadratischen Fehler, zu Bregman-Kostenfunktionen möglich. Letztere sind eine in der Statistik und Optimierung oft benutzte Klasse von Kostenfunktionen, welche durch Bregman-Divergenzen definiert sind. Im Bereich der Informationstheorie wurde ein Ansatz entwickelt, der es ermöglicht, Varianten von zentralen Größen wie Entropie, typische Sequenzen und Transinformation zu definieren, welche auch für nicht verschwindende Fehlerwahrscheinlichkeiten und Blocklängen wohl-definiert sind. Die zugrundeliegende Idee ist es, wiederum den sequentiellen Test als fundamentalen Baustein zu benutzen, da er für beliebige Fehlerwahrscheinlichkeiten eine universelle untere Schranke für die benötigte mittlere Anzahl von Beobachtungen liefert. Die Ergebnisse in diesem Bereich sind vielversprechend, jedoch noch nicht vollständig ausgearbeitet.
Projektbezogene Publikationen (Auswahl)
-
Minimax optimal sequential hypothesis tests for Markov processes. The Annals of Statistics, 48(5).
Fauß, Michael; Zoubir, Abdelhak M. & Poor, H. Vincent
-
An Asymptotically Pointwise Optimal Procedure For Sequential Joint Detection And Estimation. ICASSP 2021 - 2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), 5020-5024.
Reinhard, Dominik; Faus, Michael & Zoubir, Abdelhak M.
-
Minimax Robust Detection: Classic Results and Recent Advances. IEEE Transactions on Signal Processing, 69(2021), 2252-2283.
Faus, Michael; Zoubir, Abdelhak & Poor, H. Vincent
-
On Optimal Quantization in Sequential Detection. IEEE Transactions on Signal Processing, 70(2022), 4440-4453.
Faus, Michael; Stein, Manuel S. & Poor, H. Vincent
-
A Kullback-Leibler Divergence Variant of the Bayesian Cramér-Rao Bound. Signal Processing, 207, 108933.
Fauß, Michael; Dytso, Alex & Poor, H. Vincent
