Logistische Regression

- UVs (Prädiktoren) können metrisch oder kategorial sein
- AV ist immer metrisch
- dazu gehören z.B. t-Tests, Varianzanalyse und lineare Regression

- Unterschied zum ALM: AV kann jedes Skalenniveau haben
- dichotome Variable -> logistische Regression
- Polytom ungeordnet -> multinomiale log. Reg.
- ordinal (kategorial geordnet) -> ordinale log. Reg.
- absolut: Poisson-Regression

- AV dichotom -> Ziel: Vorhersage der Wahrscheinlichkeit für eine der Kategorien in Abhängigkeit von einem oder mehreren Prädiktoren

- Likelihood: Wahrscheinlichkeit, diese Daten zu beobachten, wenn ein bestimmtes Modell zutrifft
- Maximum Likelihood: identifiziere das Modell, das die größte Likelihood hat (am wahrscheinlichsten die beobachteten Daten produziert hat)
- beobachtete Daten: Messwerte auf allen im Modell enthaltenen Variablen

- vgl. Likelihoods zweier geschachtelter Modelle, die sich nur in dem zu testenden Parameter bj unterscheiden (eingeschränkt vs. uneingeschränkt)
- Le gleich oder kleiner als Lu
- Signifikanz = uneingeschränktes Modell signifikant besser als eingeschränktes -> wird bevorzugt

- z-Test und Wald-Test sind Standard
- Likelihood-Ratio-Test wird bevorzugt: größere Teststärke bei kleineren Stichproben sowie großen Regressionsgewichten, kann mit der hierarchischen log. Reg. kombiniert werden

- je kleiner die Devianz, desto besser passt das Modell auf die Daten
- kein standardisiertes Maß -> Vergleich der Devianz zweier Modelle
- spezifiziertes Modell vs. saturiertes Modell (keine Restriktionen, passt perfekt)
- Ziel: Beibehaltung der Nullhypothese

- empfohlene Alternative zu Devianztests
- signifikanter Test -> beobachtete Häufigkeiten weichen signifkant von den erwarteten Häufigkeiten ab -> Modell passt nicht gut

- Pseudo-R² für die Güte des Modells -> Cox-Snell-Index, Nagelkerke-Index, McFadden-Index -> Interpretation unklar, reflektieren nicht den Varianzanteil
- semistandardisierte Regressionskoeffizienten und Odds Ratios für einzelne Prädiktoren -> schwer zu interpretieren bei kontinuierlichen Variablen
- kein generell anerkanntes Maß

- Trefferquote: Anteil der richtig klassifizierten Fälle an allen Fällen
- Sensitivität: Anteil der richtig positiven Klassifikationen an allen echten positiven Fällen
- Spezifität: Anteil der richtig negativen Klassifikationen an echten negativen Fällen
- Ziel: Spezifität und Sensitivität möglichst hoch (aber: je höher die Spezifität, desto geringe die Sensitivität)

- optimiert man ein Modell an einer bestimmten Stichprobe, besteht die Gefahr von Overfitting
- Kreuzvalidierung: Trainingsdaten (Modell schätzen) -> Testdaten (anwenden)

- X = 1- Spezifität, Y = Sensitivität
- Kurve aus verschiedenen Schwellenwerten
- Optimal (Youden-Index) point als "Spitze" in der Kurve
- Area Under Curve (AUC) = standardisiertes Maß für Klassifikationsgüte -> Wertebereich zwischen 0 und 1, 0.5 als schlechtester Wert (zufällig)