Markow-Filter

aus Wikipedia, der freien Enzyklopädie
Wechseln zu: Navigation, Suche

Der Markow-Filter (nach Andrei Andrejewitsch Markow) ist ein Spamfilter basierend auf einem Hidden Markov Model und stellt eine Weiterentwicklung des Bayes-Filters dar. Der Markow-Filter errechnet dabei die Wahrscheinlichkeit, mit der die Wortketten des überprüften Textes zu Wortketten typischer Spamtexte passen. Während bei einem Bayes-Filter die Wahrscheinlichkeit einzelner Wörter errechnet wird, zieht der Markow-Filter Wortketten zur Ermittlung der Wahrscheinlichkeit heran und gewichtet die einzelnen Kombinationsmöglichkeiten. Ähneln die Wortketten des überprüften Textes denen typischer Spamtexte, so gilt der überprüfte Text als Spam.

Beispiel für Gewichtung der Kombinationsmöglichkeiten[Bearbeiten]

Am Beispiel des Satzes „Der schnelle braune Fuchs springt ...“ kann man die Kombinationsmöglichkeiten und Gewichtungen 22N im Markow-Filter veranschaulichen:

Wortkette Gewichtung N
Der 1 0
Der schnelle 4 1
Der <...> braune 4 1
Der <...> <...> Fuchs 4 1
Der schnelle braune 16 2
Der <...> braune Fuchs 16 2
Der schnelle <...> Fuchs 16 2
Der schnelle braune Fuchs 64 3

Formale Darstellung der Wahrscheinlichkeitsberechnung in Bayes- und Markow-Filter[Bearbeiten]

Während die Wahrscheinlichkeit aufgrund des Bayes-Filters durch

P_\textrm{lokal}=0.5+\frac{P_{\mathrm{gut}}-P_\mathrm{schlecht}}{P_\mathrm{gut}+P_\mathrm{schlecht}+1}\;

angegeben wird, gilt für den Markow-Filter

P_\mathrm{lokal}=0.5+\frac{(P_\mathrm{gut}-P_\mathrm{schlecht}) \cdot \mathit{Gewichtung}}{(P_\mathrm{gut}+P_\mathrm{schlecht}+1) \cdot \mathit{Gewichtung}_\mathrm{maximal}}\;.

Literatur[Bearbeiten]

  •  Shalendra Chhabra, William S. Yerazunis, Christian Siefkes: Spam Filtering using a Markov Random Field Model with Variable Weighting Schemas. In: Fourth IEEE International Conference on Data Mining (ICDM'04). 2004, S. 347-350, doi:10.1109/ICDM.2004.10031.

Weblinks[Bearbeiten]