Multidimensionale Skalierung

aus Wikipedia, der freien Enzyklopädie
Wechseln zu: Navigation, Suche
Dieser Artikel oder Abschnitt bedarf einer Überarbeitung. Näheres ist auf der Diskussionsseite angegeben. Hilf mit, ihn zu verbessern, und entferne anschließend diese Markierung.

Die Multidimensionale Skalierung (auch Ähnlichkeitsstrukturanalyse, abgekürzt: MDS) ist ein Bündel von Verfahren der multivariaten Statistik. Ihr formales Ziel ist es, die Objekte räumlich so anzuordnen, dass die Abstände (Distanzen) zwischen den Objekten im Raum möglichst exakt den erhobenen Un-/ Ähnlichkeiten entsprechen. Je weiter die Objekte voneinander entfernt sind, desto unähnlicher sind sie und je näher sie beinander sind, desto ähnlicher sind sie. Es werden also Informationen über Paare von Objekten erhoben, um daraus metrische Informationen über die Objekte zu ermitteln.

Die Lösung der multidimensionalen Skalierung, die sogenannte Konfiguration, wird meist in zwei oder drei Dimensionen geschätzt, was die Interpretierbarkeit erleichtert. Prinzipiell kann die Konfiguration für n Objekte in einem bis zu n-1 dimensionalen Raum bestimmt werden. Neben der räumlichen Konfiguration von Objekten liefert die multidimensionale Skalierung eine Reihe von Kennziffern (z.B. Stress1, S-Stress, ALSCAL, R², usw.), welche die Güte der Konfiguration beurteilen.

Die multidimensionale Skalierung geht zurück auf den Psychologen Warren S. Torgerson (Veröffentlichungen 1952–1968). Die wichtigsten statistischen Verfahren sind die metrische bzw. die nicht metrische multidimensionale Skalierung nach Kruskal [1].

Ein Anwendungsbeispiel für die multidimensionalen Skalierung ist das Property Fitting im Marketing.

Verschiedene Verfahren der MDS[Bearbeiten]

Bei den verschiedenen Verfahren der MDS kann allgemein zwischen solchen für quadratische Matrizen und solchen für rechteckige Matrizen unterschieden werden. Dabei können bei als matrixkonditional bezeichneten Daten maximal die Werte innerhalb einer Matrix miteinander verglichen werden und entsprechend bei zeilenkonditionalen Daten nur die Werte innerhalb einer Zeile.

Es können drei Modellkonstellationen unterschieden werden:

  • einfache MDS : eine Matrix und eine Konfiguration (Es wird von einem allen Subjekten inhärenten Wahrnehmungsraum ausgegangen, was nicht durch das Modell geprüft wird.)
  • wiederholte MDS : mehr als eine Matrix und eine(!) Konfiguration (Gleiche Hypothese wie bei der einfachen MDS, aber hier wird diese durch das Modell geprüft)
  • INDSCAL : mehr als eine Matrix und mehr als eine Konfiguration, genauer werden jeder individuellen Matrix für jede Dimension Stauchungs- bzw. Streckungsfaktoren zugewiesen und auf eine allgemeine Konfiguration angewandt. Es wird von einem allen Subjekten inhärenten Wahrnehmungsraum ausgegangen, dessen Dimensionen aber individuell als unterschiedliche wichtig bewertet werden, was durch das Verfahren geprüft wird.

Zu den Verfahren für zeilenkonditionale Daten zählen:

  • Ankerpunktmethode : ein Objekt dient als Referenzpunkt für alle anderen Objekte. Die Matrix ist dann zwar quadratisch, aber asymmetrisch und daher zeilenkonditional.
  • Multidimensionale Entfaltung (MDU) : nicht ein Objekt sondern jedes Subjekt wird als Ankerpunkt interpretiert.

Metrische multidimensionale Skalierung[Bearbeiten]

Ziel der metrischen multidimensionalen Skalierung ist es, Objekte mit Abständen d_{ij} im hoch dimensionalen Raum so in einem kleineren m-dimensionalen Raum anzuordnen, dass die euklidischen Distanzen in diesem Raum möglichst genau den Distanzen d_{ij} gleichen. Diese Konfiguration lässt sich durch die Verwendung der euklidischen Metrik leicht interpretieren, da Distanzen d_{ij} zwischen den Objekten ihrer Entfernung per Luftlinie entsprechen.

Neben euklidischen Distanzmaßen sind auch die in Faktorenanalysen verwendeten Metriken gebräuchlich. In diskreten Modellen kommt unter anderem die Manhattan-Metrik zum Einsatz.

Sind als Startwerte anstatt Distanzen Ähnlichkeitsmaße c_{ij} zwischen Objekten gegeben, so lassen sich diese durch die Transformation

d_{ij} = \sqrt{c_{ii}+c_{jj}-2c_{ij}}

in Distanzen überführen.

Algorithmus[Bearbeiten]

Das Verfahren zur multidimensionalen Skalierung lässt sich in 4 Schritten beschreiben:

  1. Definiere Matrix A=(a_{ij}) mit a_{ij} = -\frac{1}{2}d_{ij}^2
  2. Definiere Matrix B=(b_{ij}) mit b_{ij} = a_{ij}-a_{i\bullet}-a_{\bullet j}+a_{\bullet \bullet} wobei a_{i\bullet}=\frac{1}{n}\sum_{j=1}^n a_{ij} den Durchschnitt der Zeile i, a_{\bullet j}=\frac{1}{n}\sum_{i=1}^n a_{ij} den Durchschnitt der Spalte j und a_{\bullet\bullet}=\frac{1}{n^2}\sum_{i=1}^n\sum_{j=1}^n a_{ij} den Durchschnitt aller Elemente von A bezeichne.
  3. Bestimme die Eigenwerte \lambda_i und die zugehörigen Eigenvektoren \gamma_i = (\gamma_{ij}) der Matrix B=(b_{ij}) mit der Eigenschaft: \sum_{j=1}^n \gamma_{ij}^2 = \lambda_i .
  4. Die Koordinaten der zu skalierenden Datenpunkte im m dimensionalen Raum ergeben sich dann aus den Eigenvektoren zu den m größten Eigenwerten: x_i=\gamma_i\sqrt{\lambda_i}.

Beispiel[Bearbeiten]

Gegeben sind die Distanzen der schnellsten Autoverbindungen zwischen verschiedenen Städten und gesucht werden die Koordinaten der Städte.

Berlin Frankfurt Hamburg Köln München
Berlin 0 548 289 576 586
Frankfurt 548 0 493 195 392
Hamburg 289 493 0 427 776
Köln 576 195 427 0 577
München 586 392 776 577 0

Die metrische multidimensionale Skalierung für eine Konfiguration in zwei Dimensionen mit einer Statistik Software ergibt sich

Stadt X Y Grafische Konfiguration
Berlin 0,8585 -1,1679 Mds staedte.png
Frankfurt -0,6363 0,6660
Hamburg 1,5036 0,0800
Köln -0,0438 1,1760
München -1,6821 -0,7542

Die gefundene Konfiguration ist eindeutig, bis auf Rotation und Skalierung:

  • Jede rotierte Lösung liefert natürlich die gleichen (euklidischen) Distanzen zwischen den Städten und damit sind diese Lösungen gleichwertig.
  • Aufgrund der Standardisierung im Algorithmus \left(\textstyle\sum_{j=1}^n \gamma_{ij}^2 = \lambda_i\right) liefert eine gleichmäßige Vervielfachung des Abstandes aller Städte vom Nullpunkt die gleichen Koordinaten für die Städte.

Nicht-metrische multidimensionale Skalierung[Bearbeiten]

Die nicht-metrische multidimensionale Skalierung will die metrische multidimensionale Skalierung in zwei Aspekten erweitern:

  1. keine Angabe einer expliziten Funktion zur Umwandlung von (Un-) Ähnlichkeiten in Distanzen und
  2. die Nutzung nicht-euklidischer Geometrien zur Auffindung von Konfigurationen.

Hängen die Unähnlichkeiten \delta_{ij} mit den Distanzen d_{ij} über d_{ij}=f(\delta_{ij}) zusammen, so muß diese Funktion f schwach monoton sein: Gilt \delta_{ij}<\delta_{kl}, dann muß gelten d_{ij}=f(\delta_{ij})<f(\delta_{kl})=d_{kl}.

Bringt man daher die Paare von Unähnlichkeiten in eine Rangfolge

\delta_{i_1j_1} < ... < \delta_{i_kj_k}

so ergibt sich die Monotonie-Bedingung

f(\delta_{i_1j_1}) < ... < f(\delta_{i_kj_k}).

Shepard-Kruskal Algorithmus[Bearbeiten]

Der Shepard-Kruskal Algorithmus ermittelt die Konfiguration iterativ:

  1. Initialisierung (t=0): Wähle gewünschte Dimensionalität m und ordne Objekte zufällig im Zielraum an. (Für m=2,3 lassen sich die Ergebnisse oft eingänglich darstellen.) Berechne die Distanzen d_{ij}^{(0)} zwischen allen Objekten i und j.
  2. Schritt t: Schätze Disparitäten \hat{d}_{ij}^{(t)} der Objekte i und j unter Verwendung ihrer Distanz d_{ij}^{(t)}. Hierfür kann der Pool-Adjacent Violators Algorithmus (siehe unten) benutzt werden.
  3. Abbruchbedingung: Sobald eines der ausgewählten Abbruchkriterien (siehe folgenden Abschnitt) für den iterativen Prozess erreicht ist endet der iterative Prozess mit der gefundenen Konfiguration, die (eventuell nur lokal) optimal ist. Andernfalls fahre mit Punkt 4 fort.
  4. Anpassung der Positionen x_i an die Disparitäten: Berechne die neuen Koordinatenwerte x_i^{(t+1)} für alle Objektpaare i und j\neq i (siehe unten), z.B. ähnlich zu einem Gradientenverfahren. Ermittle die Distanzen d_{ij}^{(t+1)} für die neuen Positionen x_i^{(t+1)} und fahre mit Punkt 2 fort.

Pool-Adjacent Violators Algorithmus[Bearbeiten]

  • Wenn die Monotoniebedingung zwischen zwei benachbarten Punkten nicht verletzt ist, verwenden wir die jeweiligen Distanz als Disparität, also \hat{d}_{ij}^{(t)} = d_{ij}^{(t)}.
  • Wenn die Monotonie-Bedingung zwischen zwei (p=2) oder mehr (p>2) benachbarten Punkten verletzt ist, so verwenden wir den Mittelwert der entsprechenden Distanzen als Disparitäten, also \hat{d}_{i_lj_l}^{(t)} = 1/p \sum_{q=1}^p d_{i_{l+q}j_{l+q}}^{(t)}.[2]

Welche Transformationen bei der Berechnung der Disparitäten zulässig sind, hängt vom Skalenniveau der Rohdaten ab. Die Distanzen im Wahrnehmungsraum können aber durchaus ein anderes Skalenniveau annehmen. Inwieweit eine Anhebung des Skalenniveaus zulässig ist wird mittels des Verdichtungsquotienten Q (Zahl der Ähnlichkeiten/(Zahl der Dimensionen*Zahl der Objekte)) beurteilt. Bei der „einfachen“ MDS liegen die Rohdaten schon in aggregierter Form vor, also stellen meist die Mittelwerte über die Antworten der Befragten dar.

Berechnung der neuen Positionen[Bearbeiten]

Die neue Position x_i^{(t+1)} wird berechnet als

x_i^{(t+1)} = x_i^{(t)} + \alpha \sum_{j\neq i}\left(1-\frac{\hat{d}_{ij}^{(t)}}{d_{ij}^{(t)}}\right)(x_i^{(t)}-x_j^{(t)}).

Dabei ist x_i^{(t)} die Position von Objekt i zum Zeitpunkt t und \alpha ein Gewichtungsfaktor (nicht zu groß wählen, da sich der Stress-Wert auch verschlechtern kann – in der Regel 0,2).

Wenn nun zwei Objekte im Verhältnis zu ihrer Ähnlichkeit zu weit auseinanderliegen (\hat{d}_{ij}^{(t)}/d_{ij}^{(t)} ist größer 1 wodurch der Ausdruck in der Klammer negativ wird), werden sie aufeinander zu geschoben (die Richtung wird dabei durch die Differenz in der zweiten Klammer bestimmt). Zwei eher unähnliche Objekte, die zu nahe beieinander liegen, bewegt man voneinander weg. Dadurch wird der Stress-Wert in der Regel gesenkt und die Iteration wird mit Schritt 2. fortgeführt, wodurch sich der Stress-Wert in der Regel erneut senkt.

Beispiel[Bearbeiten]

Basierend auf dem obigen Beispiel können wir eine Rangfolge der Distanzen erstellen und die Monotoniebedingung aufstellen:

Distanz: 195 < 289 < 392 < 427 < 493 < 548 < 576 < 577 < 586 < 776
Monotoniebedingung: d_{F,K} < d_{B,HH} < d_{F,M} < d_{HH,K} < d_{F,HH} < d_{B,F} < d_{B,K} < d_{K,M} < d_{B,M} < d_{HH,M}

Es wurde zu Beginn eine zufällige Konfiguration gewählt:

Position Distanz zu
Ort X Y Berlin Frankfurt Hamburg Köln München
Berlin 0.9961 -1.5759 0
Frankfurt -1.1453 0.7840 3.1866 0
Hamburg -0.7835 0.9408 3.0824 0.3942 0
Köln -0.1025 -0.0208 1.9041 1.3172 1.1783 0
München 1.0352 -0.1281 1.4483 2.3635 2.1096 1.1428 0

daraus ergibt sich:

Monotoniebed.: d_{F,K} \leq d_{B,HH} \leq d_{F,M} \leq d_{HH,K} \leq d_{F,HH} \leq d_{B,F} \leq d_{B,K} \leq d_{K,M} \leq d_{B,M} \leq d_{HH,M}
d_{ij}^{(0)} 1.3172 \leq 3.0824 \not\leq 2.3635 \not\leq 1.1783 \not\leq 0.3942 \leq 3.1866 \not\leq 1.9041 \not\leq 1.1428 \not\leq 1.4483 \not\leq 2.1096
PAV (3.0824+2.3635+1.1783+0.3942)/4 (3.1866+1.9041+1.1428+1.4483+2.1096)/5
=1.7546 =1,9447
\hat{d}_{ij}^{(0)} 1.3172 \leq 1.7546 \leq 1.7546< \leq 1.7546< \leq 1.7546 \leq 1.9447 \leq 1.9447 \leq 1.9447 \leq 1.9447 \leq 1.9447
Lösung der nicht-metrischen multidimensionalen Skalierung

Aus den berechneten euklidischen Distanzen ergibt sich, dass die Monotoniebedingung in zwei Bereichen verletzt ist:

  1. d_{B,HH} \leq d_{F,M} \leq d_{HH,K} \leq d_{F,HH} und
  2. d_{B,F} \leq d_{B,K} \leq d_{K,M} \leq 	d_{B,M} \leq d_{HH,M}.

Die Disparitäten \hat{d}_{ij}^{(0)} werden daher als Mittelwerte (1.7546 bzw. 1,9447) der entsprechenden Bereiche berechnet. Mit den Disparitäten können nun die Punktpositionen verschoben werden. Dieses Verfahren wird iteriert und führt zur nebenstehenden Lösung.

Abbruch- bzw. Gütekriterien[Bearbeiten]

Ziel des Verfahrens ist eine optimale Anpassung der MDS-Lösung an die Rohdaten und somit ein möglichst geringer STRESS- oder Energiewert bzw. ein möglichst großes R². Diese Werte sind als Unterschied zwischen Disparität und Distanz zu verstehen. Verändern sich die Werte nicht mehr oder nur geringfügig wird das Iterationsverfahren abgebrochen.

STRESS Maße[Bearbeiten]

Der STRESS berechnet sich (nach Kruskal) als Wurzel aus der Summe der quadrierten Abweichungen der Disparitäten von den Distanzen, geteilt durch die Summe der quadrierten Distanzen. Damit ist STRESS ein normiertes Varianzmaß:

Anpassungsgüte STRESS 1 STRESS 2
gering 0,2 0,4
ausreichend 0,1 0,2
gut 0,05 0,1
ausgezeichnet 0,025 0,05
perfekt 0 0
STRESS_1 = \left(\frac{\sum_{i<j}(d_{ij}-\hat{d}_{ij})^2} {\sum_{i<j} d_{ij}^{2}}\right)^{\frac{1}{2}}

Ein alternatives STRESS Maß ist

STRESS_2= \left(\frac{\sum_{i<j}(d_{ij}-\hat{d}_{ij})^2} {\sum_{i<j} (d_{ij}-\overline{d})^2 }\right)^{\frac{1}{2}}

mit \overline{d} der Mittelwert aller Distanzen.

Prinzipiell gibt es keine exakten Vorgaben dafür, welcher STRESS-Wert noch akzeptabel ist und welchen man als „gut“ bezeichnen kann. „Um überhaupt eine Norm zu haben, hat man die ‚nullste aller Null-Hypothesen’ untersucht und tausende von Zufallsdaten per MDS skaliert und dabei registriert, welche Stress-Werte sich ergeben“ (vgl. BORG/ STAUFENBIEL 1989). Kruskal [1] hat Anhaltswerte für den STRESS-Wert erstellt, an denen man sich orientieren kann.

[Bearbeiten]

Neben den einfachen Kostenkriterien STRESS wird ein alternatives Maß als Gütekriterium für die Anpassung der Konfiguration an die Rohdaten verwendet. R² ist die quadrierte Korrelation der Distanzen mit den Disparitäten und als Pegel der linearen Anpassung der Disparitäten an die Distanzen zu sehen. In der Praxis gelten Werte, die größer sind als 0,9 für R² als akzeptabel.

Energie[Bearbeiten]

Die Gewichtung der Summanden in der STRESS_1-Formel führt zu Energiemaßen[3]

E=\left(\frac{\sum_{i<j} w_{ij} (d_{ij}-\hat{d}_{ij})^2} {\sum_{i<j} w_{ij} d_{ij}^{2}}\right)^{\frac{1}{2}}

Software[Bearbeiten]

In Statistikprogrammen, wie SPSS, kann die MDS automatisch durchgeführt werden. In R führt die Funktion cmdscale eine MDS durch. Ebenso verhält es sich mit Matlab, welches MDS durch die Funktion mdscale bereitstellt.

Literatur[Bearbeiten]

  • Thomas A. Runkler (2010) Data Mining Methoden und Algorithmen intelligenter Datenanalyse. Vieweg+Teubner, S. 41–47.
  • Torgerson, W. S. (1958). Theory & Methods of Scaling. New York: Wiley.
  • Borg, I. & Staufenbiel, Th. (2007). Theorien und Methoden der Skalierung. Bern: Huber.
  • Backhaus, Erichson, Plinke, Weiber (2000). Multivariate Analysemethoden. Berlin: Springer Verlag
  • Mathar, R. (1997). Multidimensionale Skalierung. Stuttgart: Teubner
  • Borg, I. & Groenen, P. (2005). Modern Multidimensional Scaling: Theory and Applications. New York: Springer.

Einzelnachweise[Bearbeiten]

  1. a b Kruskal. J. B. (1964). Psychometrika. 29. 1-27; 115-129
  2. Multidimensionale Skalierung – Beispiel zur Datenanalyse – Lehrstuhl für empirische Wirtschafts- und Sozialforschung Prof. Dr. Kappelhoff (2001) http://kappelhoff.wiwi.uni-wuppertal.de/fileadmin/kappelhoff/Downloads/Vorlesung/mds.pdf
  3. Wojciech Basalaj (2001). Proximity Visualization of Abstract Data (PDF; 7,7 MB), Online-Zugriff am 19 Jun 2013