Bleaching-Transformation - Whitening transformation

Eine Whitening-Transformation oder Sphäring-Transformation ist eine lineare Transformation , die einen Vektor von Zufallsvariablen mit einer bekannten Kovarianzmatrix in einen Satz neuer Variablen umwandelt , deren Kovarianz die Identitätsmatrix ist , d.h. sie sind unkorreliert und haben jeweils die Varianz 1. Die Transformation heißt "Aufhellen", weil es den Eingabevektor in einen weißen Rauschvektor ändert .

Mehrere andere Transformationen stehen in engem Zusammenhang mit der Aufhellung:

1. die Dekorrelationstransformation entfernt nur die Korrelationen, lässt aber die Varianzen intakt,
2. die Standardisierungstransformation setzt die Varianzen auf 1, lässt aber die Korrelationen intakt,
3. eine Farbtransformation wandelt einen Vektor weißer Zufallsvariablen in einen Zufallsvektor mit einer bestimmten Kovarianzmatrix um.

Definition

Angenommen, es handelt sich um einen zufälligen (Spalten-)Vektor mit einer nicht singulären Kovarianzmatrix und einem Mittelwert . Dann liefert die Transformation mit einer Whitening-Matrix, die die Bedingung erfüllt, den Whitening- Zufallsvektor mit Einheitsdiagonalkovarianz. ${\displaystyle X}$${\displaystyle \Sigma}$${\displaystyle 0}$${\displaystyle Y=WX}$ ${\displaystyle W}$${\displaystyle W^{\mathrm {T}}W=\Sigma^{-1}}$${\displaystyle Y}$

Es gibt unendlich viele mögliche Aufhellungsmatrizen , die alle die obige Bedingung erfüllen. Häufig verwendete Auswahlmöglichkeiten sind (Mahalanobis- oder ZCA-Aufhellung), wobei die Cholesky-Zerlegung von (Cholesky-Aufhellung) oder das Eigensystem von (PCA-Aufhellung) ist. ${\displaystyle W}$${\displaystyle W=\Sigma ^{-1/2}}$${\displaystyle W=L^{T}}$${\displaystyle L}$${\displaystyle \Sigma ^{-1}}$${\displaystyle \Sigma}$

Optimale Aufhellungstransformationen können durch Untersuchung der Kreuzkovarianz und Kreuzkorrelation von und herausgegriffen werden . Zum Beispiel wird die einzigartige optimale Aufhellungstransformation, die eine maximale komponentenweise Korrelation zwischen Original und Aufhellung erreicht , durch die Aufhellungsmatrix erzeugt, wobei die Korrelationsmatrix und die Varianzmatrix sind. ${\displaystyle X}$${\displaystyle Y}$${\displaystyle X}$${\displaystyle Y}$${\displaystyle W=P^{-1/2}V^{-1/2}}$${\displaystyle P}$${\displaystyle V}$

Aufhellen einer Datenmatrix

Das Aufhellen einer Datenmatrix folgt der gleichen Transformation wie bei Zufallsvariablen. Eine empirische Aufhellungstransformation wird durch Schätzen der Kovarianz (zB durch maximale Wahrscheinlichkeit ) und anschließendes Konstruieren einer entsprechenden geschätzten Aufhellungsmatrix (zB durch Cholesky-Zerlegung ) erhalten.

R-Implementierung

Eine Implementierung mehrerer Aufhellungsverfahren in R , einschließlich ZCA-Aufhellung und PCA-Aufhellung, aber auch CCA-Aufhellung , ist in dem auf CRAN veröffentlichten "Whitening"-R-Paket verfügbar .

Siehe auch

• Dekorrelation
• Hauptkomponentenanalyse
• Gewichtete kleinste Quadrate
• Kanonische Korrelation

Verweise

Externe Links

• http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
• Die ZCA-Aufhellungstransformation . Anhang A zum Erlernen mehrerer Ebenen von Merkmalen aus winzigen Bildern von A. Krizhevsky.