Conditional Random Field

aus Wikipedia, der freien Enzyklopädie
Wechseln zu: Navigation, Suche

Ein Conditional Random Field (CRF) ist ein ungerichtetes graphisches Modell. Oft werden CRFs zum Taggen von sequentiellen Daten verwendet. Das bedeutet, das CRF erhält eine Sequenz X als Eingabe und gibt eine gleich lange Sequenz Y aus. Im Unterschied zu Hidden-Markov-Modellen (HMMs; ein anderes, jedoch gerichtetes Modell für sequentielle Daten), kann ein CRF an jeder Stelle auf die komplette Information der Eingabesequenz zugreifen, wohingegen ein HMM nur die aktuelle Eingabe sieht.

Training[Bearbeiten]

Es existieren verschiedene Lernverfahren, wie etwa das Gradientenverfahren oder das Quasi-Newton-Verfahren, um CRFs zu trainieren. Dabei werden einige Sequenzen vorgegeben, von denen sowohl die Eingabe als auch die gewünschte Ausgabe bekannt ist. Das Lernverfahren versucht dann die Parameter im CRF so anzupassen, dass für möglichst viele Sequenzen in den Trainingsdaten die richtige Ausgabesequenz vorhergesagt wird.

Anwendungen[Bearbeiten]

CRFs wurden erfolgreich auf verschiedenen Probleme angewandt, wie zum Beispiel:

Siehe auch[Bearbeiten]

Referenzen[Bearbeiten]

  •  J. Lafferty, A. McCallum, F. Pereira: Conditional random fields: Probabilistic models for segmenting and labeling sequence data. In: Proc. 18th International Conf. on Machine Learning. Morgan Kaufmann, San Francisco, CA 2001, S. 282–289.
  •  A. McCallum: Efficiently inducing features of conditional random fields. In: Proc. 19th Conference on Uncertainty in Artificial Intelligence. 2003.
  •  F. Sha, F. Pereira,: Shallow parsing with conditional random fields. University of Pennsylvania, 2003 (Technical Report MS-CIS-02-35).
  •  H. M. Wallach: Conditional random fields: An introduction. University of Pennsylvania, 2004 (Technical Report MS-CIS-04-21).
  •  C. Sutton, A. McCallum: An Introduction to Conditional Random Fields for Relational Learning. In: Lise Getoor, Ben Taskar (Hrsg.): Introduction to Statistical Relational Learning. MIT Press, 2006.
  •  R. Klinger, K. Tomanek: Classical Probabilistic Models and Conditional Random Fields. Dortmund University of Technology, Dezember 2007, ISSN 1864-4503 (Algorithm Engineering Report TR07-2-013, Online PDF).