Konvexe und konkave Funktionen

Konvexe Funktion

In der Analysis heißt eine Funktion $f$ von einem Intervall $I$ (oder allgemeiner einer konvexen Teilmenge $C$ eines reellen Vektorraums) nach $\R$ konvex, wenn für alle $x,y$ aus $I$ (bzw. aus $C$) und $t$ zwischen 0 und 1 gilt

$f(t x+(1-t)y) \le t f(x)+(1-t)f(y).$

Anschaulich bedeutet die Definition: Die Funktionswerte zwischen zwei Werten $x$,$y$ liegen unterhalb oder auf der Verbindungsgeraden der beiden Funktionswerte an $x$ und $y$.

Gilt das Ungleichheitszeichen in die umgekehrte Richtung, also

$f(t x+(1-t)y) \ge t f(x)+(1-t)f(y)$

für alle $x$, $y$ aus $I$ und $t$ zwischen 0 und 1, so wird die Funktion als konkav bezeichnet.

Um Missverständlichkeiten im Zusammenhang mit der anschaulich-geometrischen Bedeutung beider Begriffe vorzubeugen, präzisiert man die Begriffe „konvex“ und „konkav“ im hier diskutierten Kontext zuweilen noch einmal durch zusätzliche Angabe einer Blickrichtung, also beispielsweise den hier verwendeten Begriff „konvex“ als „konvex von unten“ und den Begriff „konkav“ – im Gegensatz dazu – als „konvex von oben“.

Eine Funktion heißt streng konvex oder strikt konvex, wenn für alle $x \neq y$ aus $I$ (bzw. $C$) und $t$ echt zwischen 0 und 1 gilt

$f(t x+(1-t)y) < t f(x)+(1-t)f(y).$

Analog heißt eine Funktion streng konkav oder strikt konkav, wenn für alle $x \neq y$ aus $I$ (bzw. $C$) und $t$ echt zwischen 0 und 1 gilt

$f(t x+(1-t)y) > t f(x)+(1-t)f(y).$

Die besondere Bedeutung konvexer bzw. konkaver Funktionen liegt darin, dass sie allgemeiner als lineare Funktionen sind, aber einfach zu untersuchende Eigenschaften haben, die viele Aussagen über nichtlineare Systeme, beispielsweise in der konvexen Optimierung, ermöglichen.

Geschichte

Wesentliche Aussagen zu konvexen und konkaven Funktionen finden sich bereits 1889 bei Otto Hölder, wobei er aber die Bezeichnungen konvex und konkav noch nicht verwendete. Die Bezeichnungen konvex und konkav für Funktionen wurden 1905 von Johann Ludwig Jensen eingeführt. Jensen verwendete dazu allerdings noch die gelegentlich, vor allem in älteren Werken anzutreffende schwächere Definition

$f\left(\frac{x+y}{2}\right) \le \frac{f(x)+f(y)}{2}$

für die er zeigte, dass daraus für stetige Funktionen die eingangs genannte Ungleichung

$f(t x+(1-t)y) \le t f(x)+(1-t)f(y)$

für alle $t$ zwischen 0 und 1 folgt. Für Details siehe jensensche Ungleichung.

Eigenschaften

Graph

Der Graph einer konvexen Funktion ist so gewölbt, dass die Menge der Punkte oberhalb des Graphen, der sogenannte Epigraph, eine konvexe Menge ist. Zu beachten ist, dass eine nicht-konvexe Funktion nicht automatisch konkav sein muss, d. h., konvex und konkav sind hier nicht komplementär. Jede lineare Funktion ist sowohl konkav als auch konvex. Die kubische Funktion $x \mapsto x^3$ ist im Bereich aller positiven $x$-Werte streng konvex und im Bereich aller negativen $x$-Werte streng konkav. Somit ist diese Funktion über ganz $\mathbb{R}$ weder konvex noch konkav.

Verhältnis konvex und konkav

Eine Funktion $f$ ist genau dann konvex (konkav), wenn die Funktion $-f$ konkav (konvex) ist.

Umkehrfunktion

Ist $f$ invertierbar und setzt man $x=f^{-1}(u), y=f^{-1}(v)$, so erhält man für eine konvexe Funktion

$f(t f^{-1}(u)+(1-t)f^{-1}(v)) \le t u+(1-t)v.$

Für eine monoton steigende Funktion gilt also

$t f^{-1}(u)+(1-t)f^{-1}(v) \le f^{-1}(t u+(1-t)v).$

Für eine invertierbare, monoton steigende und konvexe (konkave) Funktion hat daher die Umkehrfunktion die umgekehrte Art der Konvexität, ist also monoton steigend und konkav (konvex), siehe z. B. $e^x$ und $\ln x$.

Für eine monoton fallende Funktion gilt hingegen

$t f^{-1}(u)+(1-t)f^{-1}(v) \ge f^{-1}(t u+(1-t)v).$

Für eine invertierbare monoton fallende und konvexe (konkave) Funktion hat daher die Umkehrfunktion die gleiche Art der Konvexität, ist also streng monoton fallend und konvex (konkav), siehe z. B. $1/x$ auf $(-\infty,0)$ bzw. $(0,\infty)$.

Konvexität und erste Ableitung

Ist $f\colon \R \to \R$ differenzierbar, dann gilt

• $f$ ist genau dann konvex, wenn ihre Ableitung $f\,\!'$ wachsend ist, und genau dann streng konvex, wenn $f\,\!'$ streng monoton wachsend ist. $f$ ist genau dann konkav, wenn ihre Ableitung $f\,\!'$ fallend ist, und genau dann streng konkav, wenn $f\,\!'$ streng monoton fallend ist. Dieses Resultat findet sich im Wesentlichen schon 1889 bei Otto Hölder.
• Konvexe Funktionen liegen oberhalb der Tangente, also $f(x+h)\ge f(x)+hf'(x)$, wobei für streng konvexe Funktionen außerdem $f(x+h)> f(x)+hf\,\!'(x)$ für $h\neq 0$ gilt, woraus beispielsweise die Verallgemeinerung der bernoullischen Ungleichung $(1+x)^r\geq 1+rx$ für reelle $r$ mit $r\leq 0$ oder $r\geq 1$ folgt.
• Konkave Funktionen liegen unterhalb der Tangente, also $f(x+h)\le f(x)+hf'(x)$, wobei für streng konkave Funktionen außerdem $f(x+h)< f(x)+hf'\,\!(x)$ für $h\neq 0$ gilt, woraus beispielsweise die Verallgemeinerung der bernoullischen Ungleichung $(1+x)^r\leq 1+rx$ für reelle $r$ mit $0\le r\leq 1$ folgt.
• Eine konvexe (konkave) Funktion ist fast überall differenzierbar

Alternativ:

• Jede konvexe (konkave) Funktion ist im Inneren links- und rechtsseitig differenzierbar.
• Eine überall links- und rechtsdifferenzierbare Funktion ist genau dann konvex, wenn ihre Ableitung monoton wachsend ist.
• Eine überall links- und rechtsdifferenzierbare Funktion ist genau dann konkav, wenn ihre Ableitung monoton fallend ist.

Konvexität und zweite Ableitung

Der Zusammenhang zwischen Konvexität und zweiter Ableitung wurde im Wesentlichen schon 1889 von Otto Hölder beschrieben. Für zweimal differenzierbare Funktionen $f\colon\R \to \R$ gilt:

• $\ f$ ist genau dann konvex, wenn $f''\,\!\geq 0$ gilt. Ist $f\,\!''$ durchweg positiv, $\ f$ also stets linksgekrümmt, ist $\ f$ damit zugleich streng konvex; bei einfacher Konvexität dagegen kann die zweite Ableitung auch einzelne Nullstellen, d.h. die Funktion selbst einzelne nicht gekrümmte Stellen besitzen, wie etwa $f(x)=x^4$ an der Stelle $x=0$.
• $\ f$ ist genau dann konkav, wenn $f''\,\!\leq 0$ gilt. Ist $f\,\!''$ durchweg negativ, $\ f$ also stets rechtsgekrümmt, ist $\ f$ damit zugleich streng konkav; bei einfacher Konkavität dagegen kann die zweite Ableitung auch einzelne Nullstellen, d.h. die Funktion selbst einzelne nicht gekrümmte Stellen besitzen, wie etwa $f(x)=-x^4$ an der Stelle $x=0$.

Ist die Funktion $f\colon\R^n \to \R$ zweimal stetig differenzierbar, dann gilt

• $f$ ist genau dann konvex, wenn die Hesse-Matrix von $f$ positiv semidefinit ist. Ist die Hesse-Matrix von $f$ positiv definit, so ist $f$ strikt konvex.
• $f$ ist genau dann konkav, wenn die Hesse-Matrix von $f$ negativ semidefinit ist. Ist die Hesse-Matrix von $f$ negativ definit, so ist $f$ strikt konkav.

Extremwerte

• Ein lokales Minimum einer konvexen Funktion ist auch ein globales Minimum. Eine strikt konvexe Funktion hat höchstens ein globales Minimum. Eine stetige strikt konvexe Funktion auf einer kompakten konvexen Menge hat auf dieser Menge genau ein globales Minimum. $e^x$ hat aber beispielsweise kein globales Minimum für $x\in(-\infty,\infty)$.
• Ein lokales Maximum einer konkaven Funktion ist auch ein globales Maximum. Eine strikt konkave Funktion hat höchstens ein globales Maximum. Eine stetige strikt konkave Funktion auf einer kompakten konvexen Menge hat auf dieser Menge genau ein globales Maximum. $\ln x$ hat aber beispielsweise kein globales Maximum für $x\in(0,\infty)$.

Da konvexe bzw. konkave Funktionen die Eindeutigkeit von Extremwerten sicherstellen, spielen sie in der nicht-linearen Optimierung eine wichtige Rolle.

Verknüpfungen

Linearkombination

Sind $f$ und $g$ zwei konvexe (konkave) Funktionen, so ist auch jede Linearkombination $a f + b g$ mit nichtnegativen Koeffizienten $a,b$ wieder konvex (konkav).

Grenzwert

Der Grenzwert einer punktweise konvergenten Folge konvexer (konkaver) Funktionen ist auch wieder eine konvexe (konkave) Funktion. Ebenso ist die Summe einer punktweise konvergenten Reihe konvexer (konkaver) Funktionen auch wieder eine konvexe (konkave) Funktion.

Supremum konvexer Funktionen

Ist $\lbrace f_\alpha:\alpha \in A \rbrace$ eine Menge konvexer Funktionen und existiert punktweise das Supremum

$f(x):=\sup_{\alpha\in A}f_\alpha(x)$

für alle $x$, so ist auch $f$ eine konvexe Funktion.

Für das Infimum gilt das nicht, wie das Beispiel $f_1(x)=1$, $f_2(x)=x$ zeigt.

Infimum konkaver Funktionen

Ist $\lbrace f_\alpha:\alpha \in A \rbrace$ eine Menge konkaver Funktionen, und existiert punktweise das Infimum

$f(x):=\inf_{\alpha\in A}f_{\alpha}(x)$

für alle $x$, so ist auch $f$ eine konkave Funktion.

Für das Supremum gilt das nicht, wie das Beispiel $f_1(x)=1$, $f_2(x)=x$ zeigt.

Jensensche Ungleichung

Für konvexe und konkave Funktionen gilt die jensensche Ungleichung.

Der Fall t<0 bzw. t>1

Für $t<0$ oder $t>1$ dreht sich das Ungleichheitszeichen um, für konvexe Funktionen gilt dann also

$f(t x+(1-t)y) \ge t f(x)+(1-t)f(y),$

sofern $u:=t x+(1-t)y$ noch im Intervall $I$ (bzw. in der konvexen Menge $C$) ist. Um das zu sehen, sei beispielsweise $t>1$, dann gilt $x=\frac 1t u+\frac{t-1}t y$, wegen Konvexität also

$f(x)=f(\frac{1}{t}u+\frac{t-1}{t}y)\le \frac{1}{t}f(u)+\frac{t-1}{t}f(y),$

somit

$t f(x) + (1-t)f(y)\le f(u)=f(t x+(1-t)y).$

Konvexität und Stetigkeit

Jede auf einem offenen Intervall definierte konvexe Funktion ist stetig. Setzt man umgekehrt Stetigkeit voraus, so reicht für Konvexität bereits die Bedingung, dass für alle $x$,$y$ aus $I$ gilt

$f\left(\frac{x+y}2\right) \le \frac{f(x)+f(y)}2;$

es reicht sogar, dass für ein beliebiges, aber fixes $\lambda$ mit $0<\lambda<1$

$f\left(\lambda x +(1-\lambda)y\right) \le \lambda f(x)+(1-\lambda)f(y)$

für alle $x$,$y$ aus $I$ gilt.

Beispiele

Normalparabel ist konvex

• Die Funktion $f(x)=x^2$ ist auf ganz $\R$ streng konvex, denn $f\,\!'(x)=2x$ ist streng monoton wachsend.
• Die Funktion $f(x)=-x^2$ ist auf ganz $\R$ streng konkav, denn $f\,\!'(x)=-2x$ ist streng monoton fallend.
• Die Wurzelfunktion $f(x)=\sqrt x$ ist streng konkav auf dem Intervall $[0, \infty)$ der nichtnegativen reellen Zahlen.
• Die Exponentialfunktion ist streng konvex auf ganz $\R$.
• Die Logarithmusfunktion ist streng konkav auf dem Intervall $(0, \infty)$ für eine Basis größer als 1 und streng konvex auf dem Intervall $(0, \infty)$ für eine Basis kleiner als 1.
• Die Betragsfunktion $f(x)=|x|$ ist auf ganz $\R$ konvex, aber nicht streng konvex.
• Die negative Betragsfunktion $f(x) = -|x|$ ist auf ganz $\R$ konkav, aber nicht streng konkav.
• Die Funktion $f(x)=x^3$ ist konkav für $x\le 0$ und konvex für $x\ge 0$.
• Die Funktion $f(x)=\frac 1x$ ist streng konvex auf dem Intervall $(0, \infty)$ der positiven reellen Zahlen und streng konkav auf dem Intervall $(-\infty, 0)$ der negativen reellen Zahlen.

Konvexität, Beschränktheit und Stetigkeit

Schwächere Definition der Konvexität

Setzt man Stetigkeit voraus, so reicht für Konvexität in einer konvexen Teilmenge $C$ eines reellen topologischen Vektorraums bereits die Bedingung, dass ein beliebiges, aber fixes $\lambda\in\R$ mit $0<\lambda<1$ existiert, sodass für alle $x$,$y$ aus $C$ gilt:

$f\left(\lambda x + (1-\lambda)y\right) \le \lambda f(x) + (1-\lambda)f(y).$

Um dies zu sehen, betrachtet man die Menge $T$ aller „guten“ $t$, die durch

$T=\lbrace t \in [0,1]: f(t x+(1-t)y) \le t f(x)+(1-t)f(y) \quad \forall x,y \in C\rbrace$

definiert ist.

Seien nun $u,v\in T$. Dann gilt auch $\lambda u + \left(1-\lambda\right)v \in T$, denn

$\begin{align} &f\Big(\left(\lambda u + \left(1-\lambda\right)v\right)x+\left(1-\lambda u - \left(1-\lambda\right)v\right)y\Big)\\ &\quad=f\Big(\lambda(ux+(1-u)y)+ (1-\lambda)(vx+(1-v)y)\Big)\\ &\quad\leq \lambda f\Big(ux+(1-u)y\Big)+ (1-\lambda)f\Big(vx+(1-v)y\Big)\\ &\quad\leq \lambda \Big( uf(x)+(1-u)f(y)\Big)+ (1-\lambda)\Big(vf(x)+(1-v)f(y)\Big)\\ &\quad=\Big(\lambda u + (1-\lambda)v\Big)f(x)+ \Big(1- \lambda u - (1-\lambda)v\Big) f(y). \end{align}$

Sein nun $t$ eine beliebige reelle Zahl mit $0<t<1$. Dann lässt sich eine Intervallschachtelung $[u_n,v_n]$ mit $u_n, v_n \in T$ konstruieren, die gegen $t$ konvergiert: Sei $u_0=0, v_0=1$ und $0\leq u_n\leq t < v_n\leq 1$ und $0<v_n-u_n\leq q^n$ mit $0<q:=\min\left(\lambda, 1-\lambda\right)<1$.

Sei $t_n:=\lambda u_n + \left(1-\lambda\right)v_n$.

Ist $t_n\leq t$, so setzt man $u_{n+1}:=t_n\!$, $v_{n+1}:=v_n\!$, und es gilt $v_{n+1}-u_{n+1}=\lambda(v_n-u_n)\!$.

Ist $t_n> t\!$, so setzt man $u_{n+1}:=u_n\!$, $v_{n+1}:=t_n\!$, und es gilt $v_{n+1}-u_{n+1}=(1-\lambda)(v_n-u_n)\!$.

$u_{n+1}, t_{n+1}\!$ sind ebenfalls aus $T\!$, es gilt $t\in[u_{n+1}, v_{n+1}]\!$ und $0<v_{n+1}-u_{n+1}\leq q^{n+1}$.

Die so konstruierte Intervallschachtelung konvergiert also gegen $t\!$; wegen der Stetigkeit von $f\!$ gilt daher $t\in T\!$. Da $t\!$ beliebig gewählt war, folgt also $T=[0,1]\!$, und $f\!$ ist konvex.

Gegenbeispiel ohne Stetigkeit

Dass Stetigkeit für die schwächere Definition wirklich benötigt wird, lässt sich mit folgendem Gegenbeispiel zeigen: Ist $b_j$$\in \R, j\in J$ eine Hamelbasis des Vektorraums der reellen Zahlen über dem Körper der rationalen Zahlen, also eine über den rationalen Zahlen linear unabhängige Menge reeller Zahlen, in der jede reelle Zahl $r$ eine Darstellung der Art $r=\sum_{j\in J}q_j b_j$ mit nur endlich vielen rationalen $q_j\neq 0$ hat, so erfüllt bei beliebiger Wahl von $f(b_j)$ die Funktion $f(r):=\sum_{j\in J}q_j f(b_j)$ zwar $f\left(\frac{x+y}{2}\right) \le \frac{f(x)+f(y)}{2},$ ist aber nicht notwendigerweise konvex.

Beschränktheit und Konvexität

Setzt man für eine Funktion $f$ zusätzlich zur Bedingung, dass für ein fixes $\lambda\in(0,1)\!$ die Beziehung

$f\left(\lambda x + (1-\lambda)y\right) \le \lambda f(x) + (1-\lambda) f(y)$

für alle $x$,$y$ aus einer konvexen Teilmenge $C$ eines normierten Vektorraums gilt, noch voraus, dass $f$ nach oben beschränkt ist, so folgt daraus bereits die Stetigkeit von $f$ in den inneren Punkten von $C$. Anschaulich wird dies daraus klar, dass man an einer Unstetigkeitsstelle eine beliebig steile Verbindungsgerade zwischen zwei Funktionswerten ziehen kann, wobei die Funktion zwischen den beiden Werten unterhalb der Verbindungsgeraden und außerhalb der beiden Werte oberhalb der Verbindungsgerade liegen muss. Kann die Verbindungsgerade nun beliebig steil werden, so stößt man irgendwann über die obere Schranke der Funktion.

Formal ist der Beweis allerdings etwas komplizierter. Zunächst beachte man, dass aus den obigen Voraussetzungen für natürliche Zahlen $n$ und

$x=\lambda^n u+\left(1-\lambda^n\right)y$

folgt, dass

$f(x)\le \lambda^n f(u)+\left(1-\lambda^n\right)f(y)$

bzw.

$f(u)=f\left(\frac{1}{\lambda^n} x - \left(\frac{1}{\lambda^n}-1\right)y\right)\geq \frac{1}{\lambda^n} f(x) - \left(\frac{1}{\lambda^n}-1\right)f(y).$

Sei nun $a$ ein beliebiger innerer Punkt von $C$ und

$B_\rho(a)=\lbrace x:\|x-a\|<\rho\rbrace$$\subseteq C$

eine zur Gänze in $C$ enthaltene offene Kugel um $a$. Wäre nun $f$ nicht stetig in $a$, so gäbe es ein $\varepsilon>0$, so dass für jedes $\delta>0$ ein $x$ existiert, so dass zwar $\|a-x\|<\delta$, aber $|f(x)-f(a)|>\varepsilon$. Sein nun $n\in\N$ so gewählt, dass

$\frac{1}{\lambda^n}-1>\frac{M-f(a)}{\varepsilon},$

wobei $M$ eine obere Schranke für $f$ sei. Wählt man nun $\delta=\lambda^n \rho\!$, so existiert also ein $x$ mit

$\|x-a\|<\lambda^n \rho$,

aber

$|f(x)-f(a)|>\varepsilon.$

Angenommen, $f(x)>f(a)+\epsilon$. Dann gilt für $y:=\frac{1}{\lambda^n}x-\left(\frac{1}{\lambda^n}-1\right)a$

$f(y)=f\left(\frac{1}{\lambda^n}x-\left(\frac{1}{\lambda^n}-1\right)a\right)\ge \frac{1}{\lambda^n} f(x) - \left(\frac{1}{\lambda^n}-1\right)f(a)> f(a)+\frac{1}{\lambda^n}\varepsilon > M.$

Das kann aber nicht sein, da $\|y-a\|=\frac{1}{\lambda^n}\|x-a\|<\rho$. Daher liegt $y$ in $C$, und es muss $f(y)<M$ gelten.

Sei daher $f(x)<f(a)-\epsilon$. Dann gilt für $z:=\frac{1}{\lambda^n} a-\left(\frac{1}{\lambda^n}-1\right)x$

$f(z)=f\left(\frac{1}{\lambda^n} a-\left(\frac{1}{\lambda^n}-1\right)x\right)\ge \frac{1}{\lambda^n} f(a) - \left(\frac{1}{\lambda^n}-1\right)f(x)> f(a)+\left(\frac{1}{\lambda^n}-1\right)\varepsilon > M.$

Das kann aber auch nicht sein, da $\|z-a\|=\left(\frac{1}{\lambda^n}-1\right)\|x-a\|<\rho$. Daher liegt auch $z$ in $C$, und es muss ebenfalls $f(z)<M$ gelten.

$f$ muss daher stetig in $a$ sein.

Die Aussage, dass eine konvexe beschränkte Funktion stetig in den inneren Punkten ist, ist auch bedeutsam für das Lösen der cauchyschen Funktionalgleichung

$f(x+y)=f(x)+f(y)$

$f(1)=a.$

Aus dieser Aussage folgt nämlich, dass diese Funktionalgleichung eine eindeutige Lösung hat, wenn zusätzlich gefordert wird, dass $f$ beschränkt ist.

Unendlichdimensionaler Fall

Im unendlichdimensionalen Fall brauchen konvexe Funktionen nicht stetig zu sein, da es lineare (also somit auch konvexe) Funktionale gibt, die nicht stetig sind. Allerdings gilt, dass beschränkte konvexe Funktionale eines normierten Vektorraums stetig sind.

Endlichdimensionaler Fall

Innere Punkte

Konvexe Funktionen $f$ einer konvexen Teilmenge $C$ des endlichdimensionalen reellen Vektorraums $\R^n$ sind stetig in den inneren Punkten. Um das zu sehen, betrachte man einen inneren Punkt $a\in C$. Für diesen existiert ein Simplex $S_n\subseteq C$ mit den Eckpunkten $p_1,\dotsc,p_n,p_{n+1}$, der $a$ wieder als inneren Punkt enthält. Jeder Punkt $x\in S_n$ ist aber in der Form

$x=\sum_{j=1}^{n+1}t_jp_j$

mit

$\sum_j t_j = 1\,$

und $0\le t_j\le 1$ für alle $j$ darstellbar. Nach der jensenschen Ungleichung gilt nun

$f(x)=f\left(\sum_{j=1}^{n+1}t_jp_j\right)\le\sum_{j=1}^{n+1}t_j f(p_j)\le\max f(p_j)$.

$f$ ist daher nach oben beschränkt und somit, wie oben gezeigt wurde, stetig im inneren Punkt $a$.

Randpunkte

In Randpunkten können konvexe Funktionen unstetig sein, wie das Beispiel der Funktion $[0,\infty)\to \R$ mit

$f(x)=\begin{cases} 1, & \text{falls } x=0,\\ 0, & \text{sonst}, \end{cases}$

zeigt, die zwar konvex ist, aber am Randpunkt $x=0$ eine Unstetigkeit aufweist.

Siehe auch

• Verallgemeinerte Konvexität

Weblinks

• Convex Function in Mathworld
• Concave Function in Mathworld
• Convex Function in PlanetMath