Kontextfreie Grammatik

In der Theorie der formalen Sprachen ist eine kontextfreie Grammatik (englisch context-free grammar, CFG) eine formale Grammatik, die nur solche Ersetzungsregeln enthält, bei denen immer genau ein Nichtterminalsymbol auf eine beliebig lange Folge von Nichtterminal- und Terminalsymbolen abgeleitet wird. Die Ersetzungsregeln haben also die Form $V\rightarrow w$ (mit Nichtterminalsymbol $V$ und Zeichenkette $w$ bestehend aus Nichtterminal- und/oder Terminalsymbolen).

Weil die linke Seite einer Regel nur aus einem einzigen Nichtterminalsymbol $V$ besteht, hängt ihre Anwendbarkeit auf eine Zeichenkette nur davon ab, ob das Nichtterminalsymbol $V$ in der Zeichenkette vorkommt, nicht aber davon, in welchem Kontext es sich befindet, d. h. welche Zeichen links und/oder rechts davon stehen. Die Regeln sind also kontextfrei.

Die kontextfreien Grammatiken sind identisch mit den Typ-2-Grammatiken der Chomsky-Hierarchie.

Definition

Eine kontextfreie Grammatik $G$ ist ein 4-Tupel $(V,T,P,S)$ mit folgenden Eigenschaften:

• $V$ ist eine endliche Menge, genannt Vokabular,
• einer Teilmenge $T\subset V$, von Terminalsymbolen (auch kurz Terminale genannt),

Dazu gehört die Differenzmenge $N:=V\setminus T$ von Nichtterminalsymbolen (auch kurz Nichtterminale oder Variablen genannt).
$N$ und $T$ sind disjunkte Alphabete

• eine endliche Menge an Produktionsregeln (kurz Produktionen) $P\subset N\times V^{*}$,
• ein Startsymbol $S\in N$.

Hierbei bezeichnet $^{*}$ die Kleenesche Hülle.

Erläuterung

Manche Autoren bezeichnen alternativ das Quadrupel $(N,T,P,S)$ als Grammatik $G$, mit der Forderung, dass $N$ und $T$ zwei endliche, disjunkte Mengen sind, und $V:=N\cup T$.

Gelegentlich werden die Nichtterminale (Variablen) abweichend mit $V$ und die Terminale oder das Gesamtvokabular mit $\Sigma$ bezeichnet.

Eine Regel $(\alpha ,\beta )\in P$ wird meist in der Form $\alpha \rightarrow \beta$ notiert.

Gemäß der Definition gilt für eine Regel $\alpha \rightarrow \beta$, dass $\alpha \in N$ ist, also dass auf der linken Seite der Ersetzungsregel genau ein Nichtterminal steht. Es ist in einer Regel auf der linken Seite nicht von anderen Zeichen umgeben, und es stehen daher für jede Zeichenkette, die dieses Nichtterminal enthält, immer die gleichen Regeln zur Auswahl, egal welche Zeichen das Nichtterminal $\alpha$ in einer Zeichenkette umgeben. Kurz gesagt ist die Auswahl der Regeln unabhängig vom Kontext von $\alpha$.

Von G erzeugte Sprache

Die kontextfreien Grammatiken erzeugen genau die kontextfreien Sprachen, d. h., jede Typ-2-Grammatik erzeugt eine kontextfreie Sprache und zu jeder kontextfreien Sprache existiert eine Typ-2-Grammatik, die diese erzeugt.

Dabei werden die Produktionsregeln $R\rightarrow Q\in P$ so angewendet, dass in einem Wort $w\in V^{\ast }$ mit R als Infix (Teilwort, englisch substring), dieses durch Q ersetzt werden kann, so dass ein neues Wort $w^{\prime }$ mit $Q$ als Infix entsteht. Die Menge $P$ (als Teilmenge eines kartesischen Produktes eine Relation) wird dadurch erweitert zu

$\rightsquigarrow _{G}\;:=\;\{(uRv,uQv)\mid u,v\in V^{*}\land (R,Q)\in P\}$.

Diese Ersetzungen können mehrfach vorgenommen werden: Wenn ein Wort $v$ aus einem Wort $u$ durch n-fache Anwendung von $\rightsquigarrow$ hervorgeht, schreibt man $u{\rightsquigarrow _{G}}^{n}v$, ist dies bei beliebiger endlicher Anwendung der Fall, dann $u{\rightsquigarrow _{G}}^{*}$. Die Relation ${\rightsquigarrow _{G}}^{*}$ (Ableitung) steht für eine beliebige endliche Folge von Regelanwendungen bezüglich der Grammatik $G$. Siehe dazu auch: Homogene Relationen.

Die kontextfreie Sprache $L(G)$, die durch die kontextfreie Grammatik $G$ generiert wird, ist dann definiert als die Menge aller Wörter, die auf diese Weise aus dem Startsymbol abgeleitet werden können und die nur aus Terminalen bestehen:

$L(G)=\{w\mid w\in T^{*}\land S{\rightsquigarrow _{G}}^{*}w\}$.

Es müssen vom Startsymbol $S$ aus solange Nichtterminale mit Hilfe der Regeln ersetzt werden, bis nur noch Terminale übrig sind. Offenbar gilt $L(G)\subseteq T^{*}$.

Die kontextfreien Sprachen sind genau die Sprachen, die von einem nichtdeterministischen Kellerautomaten akzeptiert werden. Existiert auch ein deterministischer Kellerautomat, nennt man die Sprache auch deterministisch kontextfrei. Diese echte Teilmenge der kontextfreien Sprachen bildet die theoretische Basis für die Syntax der meisten Programmiersprachen.

Kontextfreie Sprachen können das leere Wort enthalten, z. B. durch eine Produktionsregel $(S\rightarrow \varepsilon )$. Einige Sätze über kontextfreie Grammatiken fordern allerdings zusätzlich, dass das leere Wort von ihr nicht erzeugt werden darf. So gibt es z. B. nur zu den kontextfreien Grammatiken eine äquivalente Grammatik in Greibach-Normalform, wenn das leere Wort durch sie nicht erzeugt werden kann, da in jedem Ableitungsschritt genau ein Terminal erzeugt wird.

Normalformen

Für kontextfreie Grammatiken sind verschiedene Normalformen definiert. Unter der Chomsky-Normalform (CNF) sind die rechten Seiten der Nichtterminal-Produktionen eingeschränkt, d. h. auf der rechten Seite darf entweder ein einziges Terminal-Symbol oder genau zwei Nichtterminal-Symbole stehen. Wenn das Startsymbol auf der linken Seite steht, darf die rechte Seite der Produktion allerdings auch das leere Wort sein. Durch einen Algorithmus kann jede kontextfreie Grammatik in die CNF überführt werden.

Eine kontextfreie Grammatik ist in der Greibach-Normalform (GNF), wenn sie nicht das leere Wort erzeugt und die rechten Seiten der Produktionen mit maximal einem Terminal-Symbol beginnen und sonst nur Nichtterminal-Symbole enthalten. Jede kontextfreie Grammatik, die nicht das leere Wort erzeugt, kann mit einem Algorithmus in die GNF überführt werden.

Eigenschaften

Wortproblem

Das Wortproblem für kontextfreie Sprachen, also das Problem, ob ein Wort $w$ von einer kontextfreien Grammatik erzeugt werden kann, ist entscheidbar. Auf dem Weg der Lösung des Wortproblems kann zusätzlich ein Ableitungsbaum erzeugt werden. Dieser Ableitungsbaum wird auch Parse-Tree genannt, und ein Programm, welches einen Parse-Tree erzeugt, ist ein Parser. Für jede kontextfreie Grammatik kann automatisch ein Parser generiert werden (siehe auch CYK-Algorithmus). Die Worst-Case-Laufzeitkomplexität eines Parsers für eine beliebige kontextfreie Grammatik liegt in ${\mathcal {O}}\left(n^{3}\right)$ (s. Landau-Symbole). Für Teilklassen von kontextfreien Grammatiken können Parser erzeugt werden, deren Laufzeit in ${\mathcal {O}}(n)$ liegt. Ein typischer Anwendungsfall eines effizienten kontextfreien Parsers mit linearer Laufzeit ist das Parsen eines Programmiersprachen-Quelltexts durch einen Compiler.

Wenn ein Wort $w$ der Sprache L ($w\in L(G)$) durch die Grammatik $G$ auf mehrere verschiedene Arten erzeugt werden kann, dann ist diese Grammatik mehrdeutig. Ein Parser kann bei einer mehrdeutigen Grammatik für ein gegebenes Wort nicht nur einen, sondern mehrere Ableitungsbäume erzeugen. Mehrdeutigkeit ist nicht problematisch, wenn nur das Wortproblem gelöst werden soll. Wird aber den unterschiedlichen Ableitungsbäumen eine unterschiedliche Bedeutung zugeordnet, dann kann ein Wort bei einer mehrdeutigen Grammatik mehrere unterschiedliche Bedeutungen haben. Ein Beispiel für die Notwendigkeit einer eindeutigen kontextfreien Grammatik ist ein Compiler, der für jede gültige Eingabe deterministisch und eindeutig ausführbaren Zielcode erzeugen muss.

Mehrdeutigkeit

Das Problem, ob eine (beliebige) kontextfreie Grammatik mehrdeutig oder nicht-mehrdeutig ist, ist nicht entscheidbar. Es existieren aber Testverfahren, die für bestimmte Teilklassen der kontextfreien Grammatiken Mehrdeutigkeit bzw. Nicht-Mehrdeutigkeit feststellen können. Je nach Testverfahren terminiert der Mehrdeutigkeits-Test nicht oder der Test liefert zurück, dass die Mehrdeutigkeit nicht festgestellt werden kann, falls die kontextfreie Eingabe-Grammatik nicht Element einer bestimmten Teilklasse von kontextfreien Grammatiken ist.

Äquivalenz

Das Problem, ob zwei kontextfreie Grammatiken $G_{1}$ und $G_{2}$ die gleiche Sprache generieren (also ob $L(G_{1})=L(G_{2})$), ist nicht entscheidbar.

Teilmenge

Das Problem, ob die durch eine kontextfreie Grammatik $G_{1}$ erzeugte Sprache auch von einer kontextfreien Grammatik $G_{2}$ erzeugt wird (also ob $L(G_{1})\subseteq L(G_{2})$), ist nicht entscheidbar.

Vereinigung

Die Vereinigung $L(G_{1})\cup L(G_{2})$ der Sprachen zweier kontextfreier Grammatiken $G_{1}=(V_{1},T_{1},P_{1},S_{1})$ und $G_{2}=(V_{2},T_{2},P_{2},S_{2})$ kann ebenfalls von einer kontextfreien Grammatik erzeugt werden, nämlich

$G_{1}\cup G_{2}:=(\{S\}\cup V_{1}\cup V_{2},T_{1}\cup T_{2},P_{1}\cup P_{2}\cup \{S\rightarrow S_{1},S\rightarrow S_{2}\},S)$.

Dabei wird vorausgesetzt, dass die beiden Nichtterminalmengen $N_{1}=V_{1}\setminus T_{1}$ und $N_{2}=V_{2}\setminus T_{2}$ disjunkt sind ($N_{1}\cap N_{2}=\emptyset$), und $S$ ein beliebiges zusätzliches Zeichen ist ($S\notin N_{1}\cup N_{2}\cup T_{1}\cup T_{2}$), was aber für alle $G_{1},G_{2}$ erreicht werden kann.

Schnitt

Das Problem, ob der Schnitt der Sprachen zweier kontextfreier Grammatiken $G_{1},G_{2}$ ebenfalls von einer kontextfreien Grammatik erzeugt wird, ist nicht entscheidbar.

Komplement

Das Komplement einer kontextfreien Grammatik ist im Allgemeinen nicht kontextfrei.

Beispiele

Sei $G=(V,T,P,S)$ eine kontextfreie Grammatik mit $N=V\setminus T$ und

$T=\{x,y,z\}$

$N=\{S,A,B\}$

$P$ enthält 4 Produktionen bzw. Produktionsregeln:

${\begin{aligned}S&\rightarrow &A\\A&\rightarrow &xAy\\A&\rightarrow &xBy\\B&\rightarrow &z\end{aligned}}$

$w_{1}=xxzyy$ kann durch die Grammatik $G$ mit folgender Ableitung erzeugt werden:

$t(w_{1})=S(A(x,A(x,B(z),y),y))$

$t(w_{1})$ ist der Ableitungsbaum in Term-Schreibweise. Die Wurzel und die inneren Knoten sind mit Nichtterminal-Symbolen und die Blätter mit Terminal-Symbolen beschriftet.

Also ist $w_{1}\in L(G)$.

Das Beispiel Wort $w_{2}$ mit $w_{2}=z$ ist nicht Teil der Sprache $L(G)$, da das Nichtterminal $B$ nicht das Startsymbol ist und über das Startsymbol jedes Wort der Sprache von den Terminal-Symbolen $x$ und $y$ eingeschlossen sein muss. In Formelschreibweise:

$w_{2}\notin L(G)$

Grammatik $G$ ist nicht mehrdeutig.

Sprache der Palindrome

Die Grammatik $G(\{S,a,b\},\{a,b\},P,S)$ mit $P$ gegeben als $S\rightarrow \varepsilon |a|b|aSa|bSb$ erzeugt die Sprache aller Palindrome über dem Alphabet $\{a,b\}$.

Mehrdeutiges Beispiel

Ein Beispiel für eine mehrdeutige Grammatik ist $G_{2}=(V_{2},T_{2},P_{2},S_{2})$ mit $N_{2}=V_{2}\setminus T_{2}$ und

$T_{2}=\{x,y\}$

$N_{2}=\{S_{2},A\}$

$P_{2}$ enthält folgende Produktionen:

${\begin{aligned}S_{2}&\rightarrow &A\\A&\rightarrow &AA\\A&\rightarrow &xAy\\A&\rightarrow &\varepsilon \end{aligned}}$

Für $w_{3}=xy$ existieren unter anderem die Ableitungen $S_{2}(A(x,A(\varepsilon ),y))$, $S_{2}(A(A(\varepsilon ),A(x,A(\varepsilon ),y)))$ und $S_{2}(A(A(x,A(\varepsilon ),y),A(\varepsilon )))$. Also ist $G_{2}$ mehrdeutig.

Erweiterung

Eine Erweiterung der kontextfreien Grammatiken bilden stochastische kontextfreie Grammatiken (SCFG), auch bekannt als probabilistische kontextfreie Grammatiken (PCFG). Hier wird jeder Produktionsregel eine Auftrittswahrscheinlichkeit zugeordnet: $\rho \colon P\rightarrow \mathbb {R} ^{\geq 0}$, so dass für jedes $\alpha '\in N$ gerade $\sum _{\begin{smallmatrix}{\beta }\\(\alpha ',\beta )\in P\end{smallmatrix}}\rho (\alpha ',\beta )=1$ ist.

Diese Auftrittswahrscheinlichkeiten der einzelnen Regeln induzieren eine Wahrscheinlichkeitsverteilung auf der Menge der von der Grammatik erzeugten Wörter.

Eine stochastisch kontextfreie Grammatik kann beispielsweise dazu verwendet werden, für ein Eingabewort den wahrscheinlichsten Parse in einer syntaktisch mehrdeutigen Grammatik zu berechnen. Ein anderer Anwendungsfall ist das stochastische Samplen von Ableitungsbäumen unter den gegebenen Regelwahrscheinlichkeiten einer mehrdeutigen Grammatik. Die von einer SCFG erzeugte Sprache ist genau so definiert wie die Sprache einer CFG. SCFGs werden z. B. in der Bioinformatik und der Computerlinguistik eingesetzt.

Siehe auch

• Backus-Naur-Form
• Lineare Grammatik
• Tree Adjoining Grammar

Literatur

• John E. Hopcroft, Jeffrey D. Ullman: Introduction to automata theory, languages, and computation. Addison-Wesley, 1979, ISBN 0-201-02988-X, S. 77 ff. 
• Taylor L. Booth und Richard A. Thomson: Applying probability measures to abstract languages. In: IEEE Transactions on Computers. C-22, Nr. 5, 1973, S. 442–450, doi:10.1109/T-C.1973.223746. 
• J. Baker: Trainable grammars for speech recognition. In: J. J. Wolf and D. H. Klatt (Hrsg.): Speech communication papers presented at the 97th meeting of the Acoustical Society of America. MIT, Cambridge, MA Juni 1979, S. 547–550 (JASA Vol. 65, issue S1, p. S132 ist nur der Abstract in einem Abstract-Band). 
• Uwe Schöning: Theoretische Informatik - kurzgefasst. 4. Auflage. Spektrum Akademischer Verlag, Berlin 2001, ISBN 3-8274-1099-1, S. 13, 51.