[Back]

I. Hoffmann:
"Linear discriminant analysis for high dimensional data";
Supervisor: P. Filzmoser; E107 Institut für Statistik und Wahrscheinlichkeitstheorie, 2014.

Linear discriminant analysis is a popular method for supervised classification, which performs well under various circumstances. In this thesis the equivalence of two linear classification methods is discussed in detail, namely Fisher's LDA and the optimal scoring approach, which is obtained from different optimization problems. These methods are limited to the analysis of data where the number of observations is higher than the number of predictor variables. Hence, the optimization problems are modified to be applicable in the high dimensional setting via penalization terms and diagonal within-class covariance estimates. The resulting methods are penalized LDA and sparse discriminant analysis, respectively. With an L1 penalization term sparse models are obtained with these methods. The criteria for the model quality are the prediction performance of the class memberships and the sparsity, which is evaluated by the identification of the influential variables and the reduction of the noise. A simulation study is conducted to investigate the strengths and weaknesses of the methods when applied to data with a high percentage of noise. Further, the quality of the models is evaluated for two gene expression data sets.

Die lineare Diskriminanzanalyse ist eine beliebte und weitverbreitete Methode des überwachten Lernens. In dieser Arbeit wird detailliert auf zwei lineare Klassifikationsmethoden eingegangen, die zu äquivalenten Modellen führen. Dies sind Fishers LDA und der optimal scoring Ansatz, die jeweils durch ein Optimierungsproblem beschrieben werden. Diese Methoden sind jedoch auf solche Datensätze beschränkt, bei denen die Anzahl der Beobachtungen die der Variablen übersteigt. Daher werden die Optimierungsprobleme modifiziert, um auf hochdimensionale Daten angewandt werden zu können, indem man einen Penalty-Term hinzufügt und die Kovarianz innerhalb der Klassen als Diagonalmatrix schätzt. So erhält man Penalized LDA und sparse discriminant analysis. Die Anwendung eines L1 Penalty-Terms führt bei diesen Methoden zu Sparse Models. Qualitätsmerkmale für die Modelle sind die Genauigkeit der Vorhersage der Klassenzugehörigkeiten sowie die Sparsity, welche durch die zuverlässige Identifikation der beeinflussenden Variablen und die Reduktion des Rauschanteils bewertet wird. Es wird eine Simulationsstudie durchgeführt, um die Stärken und Schwächen der Methoden zu untersuchen, wenn diese auf Daten mit einem hohen Rauschanteil angewendet werden. Weiters wird die Qualität der Modelle anhand von zwei Datensätzen aus Genexpressions-Experimenten bewertet.

http://kitt.ub.tuwien.ac.at/F/E49LU3M2FISETULEETVLF8HQR26RDE8LJ8I4JI4P2NRVQYJ1M5-10231?func=full-set-set&set_number=154459&set_entry=000001&format=999