Mathematische Optimierung

Die Mathematische Optimierung ist ein Teilgebiet der angewandten Mathematik, welches sich mit dem Lösen von Optimierungsproblemen beschäftigt. Sie hat zahlreiche Anwendungen, beispielsweise in den Bereichen Automatisierungstechnik, Automobilindustrie, Energiewirtschaft, Ernährungswissenschaft, Finanzen, Gesundheitswesen, Luft- und Raumfahrttechnik, Marketing, Produktionsplanung, Machine Learning, Robotik und Supply-Chain-Management. Generell ist sie in allen Disziplinen von Interesse, in denen mit unbekannten Variablen gearbeitet wird, die optimal bestimmt werden sollen wie beispielsweise in der Chemie, der Informatik, der Physik oder den Wirtschaftswissenschaften. Häufig ist eine analytische Lösung von Optimierungsproblemen nicht möglich und es müssen numerische Verfahren eingesetzt werden.

Optimierungsprobleme

→ Hauptartikel: Optimierungsproblem

Minimierung der Funktion $f(x)=(x-1)^{2}+2$

Das wohl bekannteste Optimierungsproblem ist das Auffinden eines Minimums oder Maximums einer differenzierbaren eindimensionalen Funktion $f(x)$, was in der Regel durch Berechnung der Nullstellen der ersten Ableitung $f'(x)$ gelingt. Ein einfaches Beispiel ist in nebenstehendem Bild aufgezeigt.

Jedes Optimierungsproblem besteht aus einer zu optimierenden Zielfunktion und Entscheidungsvariablen, welchen manchmal Nebenbedingungen (auch Restriktionen genannt) auferlegt werden, die die zulässige Menge definieren.

Mathematisch formuliert lässt sich das Optimierungsproblem $P$ schreiben als

$$P:\qquad \min _{x}f(x)\quad {\text{s. t.}}\quad x\in M,$$

wobei die Zielfunktion $f:V\to \mathbb {R}$ jedem Vektor von Entscheidungsvariablen $x\in V$ aus einem beliebigen Vektorraum $V$ (z.B. $\mathbb {R} ^{n}$) eine reelle Zahl $f(x)$ zuordnet, die es zu minimieren gilt. Bei der Suche nach dem Optimalpunkt $x^{\star }$, welcher $f(x)$ minimiert, kommen nur Punkte der zulässigen Menge $M\subseteq V$ infrage. Ist ein Optimalpunkt $x^{\star }$ gefunden, so erhält man den zugehörigen Optimalwert $f(x^{\star })$ durch Einsetzen des Optimalpunkts in die Zielfunktion, welcher im Gegensatz zum Optimalpunkt immer eindeutig bestimmt ist. Die zulässige Menge $M$ lässt sich in der Regel in der Form

$$M=\{x\in V|\ g_{i}(x)\leq 0,\ h_{j}(x)=0,\ i\in I,\ j\in J\}$$

darstellen, d.h. sie ist durch Gleichungen und Ungleichungen funktional beschrieben. Eine solche Darstellung ist in der Regel nicht eindeutig. Generell gibt es für die meisten Anwendungen verschiedene Möglichkeiten, diese als Optimierungsproblem zu formulieren, die sich teilweise jeweils auch nicht klar dominieren. Sobald der Schwerpunkt auf einer möglichst vorteilhaften mathematischen Beschreibung des zu optimierenden Sachverhalts liegt, befindet man sich im Bereich der mathematischen Modellierung und spricht entsprechend auch von Optimierungsmodellen.

Beispiele für Optimierungsprobleme

Wirtschaftsmathematik

Die Zielfunktion stellt hier meist den Gewinn oder den Umsatz einer Firma dar; Parameter sind Rohstoffe, Personal-, Maschineneinsatz, Preise usw. Die Zielfunktion soll maximiert werden. Im Grunde genommen handelt es sich um eine vereinfachte Formalisierung eines grundlegenden Managementproblems. Seine systematische Fundierung erhält es in der Operations Research.

Statistik, Data-Mining

Statistische Modelle enthalten offene Parameter, die geschätzt werden. Ein Parametersatz ist optimal, wenn die zugehörige Modellinstanz die Datenbeziehungen optimal darstellt, d. h. die Abweichungen der modellierten Daten (im Sinne einer passenden Gütefunktion) von den empirischen Daten so gering wie möglich, also optimal sind. Die Zielfunktion kann hier unterschiedlich gewählt werden, zum Beispiel als Fehlerquadratsumme oder als Likelihood-Funktion.

Klimaforschung

Klimamodelle stellen vereinfachte numerische Systeme der eigentlichen hydrodynamischen Prozesse in der Atmosphäre dar. Innerhalb der Gitterzellen müssen die Wechselwirkungen durch Gleichungen approximiert werden. Die Gleichungen können dabei entweder aus grundlegenden hydrodynamischen Gesetzen abgeleitet werden oder es werden empirische Gleichungen verwendet, also im Grunde statistische Modelle, deren Parameter so optimiert werden müssen, dass die Klimamodelle die tatsächlichen Prozesse möglichst gut darstellen.

Spieltheorie

Erreicht eine Spielerpopulation in einem Superspiel ein Populationsoptimum? Oder wenigstens ein Pareto-Optimum? Ist dieses Gleichgewicht stabil?

Physik

Auswertung von Messkurven, indem Parameterwerte einer Theoriefunktion so variiert werden („Optimierung im Parameterraum“, s. a. Ausgleichsrechnung („Fitten“)), dass die Theoriefunktion bestmöglich mit der Messkurve übereinstimmt. Physikalische Systeme streben stets ein Energie-Minimum an; viele Problemstellungen bestehen gerade darin, dieses Energie-Minimum zu finden.

Lösungskonzepte, lokale und globale Optimierung

Lokale und globale Minima und Maxima der Funktion $f(x)=\cos(3\pi x)/x$ im Bereich $0.1\leq x\leq 1.1$

Neben Unterscheidung in Optimalpunkt- und wert wird in Literatur und Praxis oft einfach nur von der Lösung, dem Optimum oder dem Minimum/Maximum eines Optimierungsproblems gesprochen. Da für den Optimalpunkt $x^{\star }\in M$ einer Minimierungsaufgabe gilt

$$f(x^{\star })\ \leq \ f(x)\qquad \forall x\in M,$$

er also alle anderen zulässigen Punkte global dominiert, wird er auch als globaler Optimalpunkt (auch globales Optimum oder globales Minimum) bezeichnet. Entsprechend spricht man bei einer Maximierung von einem globalen Maximum. Falls ein Punkt $x^{\star }\in M$ die anderen zulässigen Punkte nur in einer Umgebung $U(x^{\star })$ dominiert, wenn also gilt

$$f(x^{\star })\ \leq \ f(x)\qquad \forall x\in M\cap U(x^{\star }),$$

so ist $x^{\star }$ ein lokaler Optimalpunkt (auch lokales Optimum oder lokales Minimum) bzw. im Maximierungsfall ein lokales Maximum. Ist man interessiert an der Berechnung lokaler Optima, so spricht man von lokaler Optimierung und analog bei für globale Minima oder Maxima von globaler Optimierung. Für konvexe Optimierungsprobleme sind alle lokale Optimalpunkte immer auch global optimal. Für nichtkonvexe Probleme werden in der lokalen Optimierung Lösungsmethoden der nichtlinearen Optimierung zur effizienten Berechnung lokaler Optima eingesetzt. Die deterministische globale Optimierung nichtkonvexer Optimierungsprobleme erfolgt mit Branch-and-Bound bzw. Branch-and-Cut Methoden, deren Effizienz stark von der Struktur des Optimierungsproblems abhängt und die beispielsweise erfolgreich zur Lösung (nichtlinearer) gemischt-ganzzahlige Optimierungsprobleme eingesetzt werden.

Klassifikation von Optimierungsproblemen

Für eine Klassifikation von Optimierungsproblemen hinsichtlich ihrer mathematischen Struktur siehe Optimierungsproblem (Klassifikation von Optimierungsproblemen).

Lineare und ganzzahlige Optimierung

Ein wichtiger Spezialfall ist die lineare Optimierung. Hierbei ist die Zielfunktion linear, und die Nebenbedingungen sind durch ein System linearer Gleichungen und Ungleichungen darstellbar. Jedes lokale Optimum ist automatisch auch globales Optimum, da der zulässige Bereich konvex ist. Es gibt Pivotverfahren, um das globale Optimum im Prinzip exakt zu berechnen, wovon die bekanntesten die Simplex-Verfahren sind (nicht zu verwechseln mit dem Downhill-Simplex-Verfahren weiter unten). Seit den 1990er Jahren gibt es allerdings auch effiziente Innere-Punkte-Verfahren, die bei bestimmten Arten von Optimierungsproblemen konkurrenzfähig zum Simplex-Verfahren sein können.

Eine Beschränkung auf ganzzahlige Variablen macht das Problem deutlich schwerer, erweitert aber gleichzeitig die Anwendungsmöglichkeiten. Diese sogenannte ganzzahlige lineare Optimierung wird beispielsweise in der Produktionsplanung, im Scheduling, in der Tourenplanung oder in der Planung von Telekommunikations- oder Verkehrsnetzen eingesetzt.

Nichtlineare Optimierung

→ Hauptartikel: Nichtlineare Optimierung

Methoden der lokalen nichtlinearen Optimierung mit Nebenbedingungen

Schwieriger als die lineare Optimierung ist der Fall der nichtlinearen Optimierung, bei der die Zielfunktion, die Nebenbedingungen (NB) oder beide nichtlinear vorliegen. Die Lösung wird erreicht, indem das Problem auf die Optimierung einer Hilfsfunktion ohne NB zurückgeführt wird. Auf dieses neue Problem können dann die Methoden der nichtlinearen Optimierung ohne NB unten angewendet werden. Das Vorgehen soll anhand eines Kontaktproblems erläutert werden: Zwei Kugeln in einer Mulde versuchen den tiefstmöglichen Punkt einzunehmen, dürfen sich dabei aber nicht durchdringen. Die Zielfunktion ist also die Lageenergie der Kugeln und nimmt im Gleichgewicht ein Minimum an. Die Nebenbedingung $g(x,y)\leq 0$ würde hier die Durchdringung der Kugeln $x$ und $y$ bezeichnen, wobei mit negativer Durchdringung ein positiver Abstand gemeint wird. Für die Konstruktion der Hilfsfunktion liegen fünf Methoden vor:

1. Lagrange-Multiplikatoren: Die NB werden mit reellen Faktoren, den Lagrange-Multiplikatoren, multipliziert und zur Zielfunktion hinzuaddiert. Die Faktoren werden als Unbekannte in das Problem eingeführt und müssen (unter Einhaltung der Karush-Kuhn-Tucker-Bedingungen) ebenfalls bestimmt werden. Bei den Kugeln sind die Lagrange-Multiplikatoren gerade die Kontaktkräfte, die die Kugeln bei Berührung aufeinander ausüben, so dass sie sich nicht durchdringen.
2. Straffunktionen: Die NB werden mit Straffunktionen dargestellt, die im Definitionsbereich verschwinden und bei Verletzung der NB negativ sind. Die Straffunktionen werden mit Strafparametern multipliziert und zur Zielfunktion addiert (bei Maximierung, ansonsten Subtraktion), so dass die Verletzung der NB also bestraft wird, daher der Name. Hier werden aktive NB evtl. verletzt und die Zulässigkeit der Lösung muss geprüft werden. Im Kugel-Bild entspricht die Straffunktion der echten Durchdringung $\min(0,g(x,y))$, die also bei positivem Abstand verschwindet, und der Strafparameter entspricht einer Federsteifigkeit. Die Feder versucht eindringende Punkte wieder an die Oberfläche zu ziehen. Je steifer die Feder ausfällt, desto geringer wird die Eindringung sein.
3. Barrierefunktionen: Die Barrierefunktionen werden wie die Straffunktionen eingesetzt. Allerdings haben sie bereits bei Annäherung an die Grenze des Definitionsbereiches negative Werte und wachsen auf der Grenze ins Unendliche. Im Kugelbild bekämen die Kugeln einen mehr oder weniger dicken Mantel, der immer steifer wird, je stärker er bei Berührung zusammengedrückt wird. Eine Verletzung der NB wird so verhindert zu dem Preis, dass bereits die Annäherung an den Rand bestraft wird.
4. Erweiterte Lagrange-Methode (engl. augmented lagrange method): Dies ist eine Kombination der vorhergehenden Methoden. Der Lagrange-Multiplikator wird iterativ anhand der Verletzung der NB bestimmt.
5. Trivial, aber doch zu erwähnen ist, dass aktive NB dazu genutzt werden können, Parameter der Zielfunktion zu eliminieren. Die Parameter werden auf Werte festgelegt, derart dass eine Verletzung der NB nunmehr unmöglich ist. Im Kugel-Bild würde man Berührungspunkte der Kugeln aneinanderkoppeln (ihre Koordinaten gleichsetzen), so dass eine Durchdringung (dort) nicht mehr stattfinden kann.

Methoden der lokalen nichtlinearen Optimierung ohne Nebenbedingungen

Bei der lokalen Optimierung hängt die Wahl der Methode von der genauen Problemstellung ab: Handelt es sich um eine beliebig exakt bestimmte Zielfunktion? (Das ist bei stochastischen Zielfunktionen oft nicht der Fall.) Ist die Zielfunktion in der Umgebung streng monoton, nur monoton oder könnte es „unterwegs“ sogar kleine relative Extrema geben? Wie hoch sind die Kosten, einen Gradienten zu bestimmen?

Beispiele für Methoden:

Ableitungsfreie Methoden

• Intervallhalbierungsverfahren, Verfahren des goldenen Schnitts und andere Verfahren zur Optimierung eindimensionaler Funktionen oder zur Liniensuche (sequentiellen Suche) bei mehrdimensionalen Funktionen.
• Downhill-Simplex-Verfahren
• Trust-Region-Verfahren

Diese Methoden kosten viele Iterationen, sind aber (teilweise) relativ robust gegenüber Problemen in der Zielfunktion, zum Beispiel kleine relative Extrema und sie verlangen nicht die Berechnung eines Gradienten. Letzteres kann sehr kostspielig sein, wenn lediglich ein relativ ungenaues Ergebnis angestrebt wird.

Verfahren, für die die 1. Ableitung benötigt wird

• Sekantenverfahren (zum Bestimmen der Nullstelle der 1. Ableitung)
• Gradientenverfahren und Konjugierte-Gradienten-Verfahren.
• Quasi-Newton-Verfahren

Diese Methoden sind schneller als die ableitungsfreien Methoden, sofern ein Gradient schnell berechnet werden kann, und sie sind ähnlich robust wie die ableitungsfreien Methoden.

Verfahren, für die die 2. Ableitung benötigt wird

• Newton-Verfahren, bzw. Newton-Raphson-Verfahren.

Gemeinhin ist das Newton-Verfahren als Verfahren zur Bestimmung einer Nullstelle bekannt und benötigt die erste Ableitung. Dementsprechend lässt es sich auch auf die Ableitung einer Zielfunktion anwenden, da die Optimierungsaufgabe auf die Bestimmung der Nullstellen der 1. Ableitung hinausläuft. Das Newton-Verfahren ist sehr schnell, aber sehr wenig robust. Wenn man sich der „Gutartigkeit“ seines Optimierungsproblems nicht sicher ist, muss man zusätzlich Globalisierungsstrategien wie Schrittweitensuche oder Trust-Region-Verfahren verwenden.

Für die in der Praxis häufig auftretenden Probleme, in denen die zu minimierende Zielfunktion die spezielle Gestalt des Normquadrates einer vektorwertigen Funktion hat (Methode der kleinsten Quadrate, „least squares“), steht das Gauß-Newton-Verfahren zur Verfügung, das sich im Prinzip zu Nutze macht, dass für Funktionen dieser Form unter bestimmten Zusatzannahmen die teure 2. Ableitung (Hesse-Matrix) sehr gut ohne ihre explizite Berechnung als Funktion der Jacobi-Matrix angenähert werden kann. So wird in Zielnähe eine dem Newton-Verfahren ähnliche super-lineare Konvergenzgeschwindigkeit erreicht. Da dieses Verfahren die Stabilitätsprobleme des Newton-Verfahrens geerbt hat, sind auch hier sog. Globalisierungs- und Stabilisierungsstrategien erforderlich, um die Konvergenz zumindest zum nächsten lokalen Minimum garantieren zu können. Eine populäre Variante ist hier der Levenberg-Marquardt-Algorithmus.

Methoden der globalen nichtlinearen Optimierung

Im Gegensatz zur lokalen Optimierung ist die globale Optimierung ein quasi ungelöstes Problem der Mathematik: Es gibt praktisch keinerlei Methoden, bei deren Anwendung man in den meisten Fällen als Ergebnis einen Punkt erhält, der mit Sicherheit oder auch nur großer Wahrscheinlichkeit das absolute Extremum darstellt.

Allen Methoden zur globalen Optimierung gemein ist, dass sie wiederholt nach einem bestimmten System lokale Minima/Maxima aufsuchen.

Am häufigsten werden hier Evolutionäre Algorithmen angewandt. Diese liefern besonders dann ein gutes Ergebnis, wenn die Anordnung der relativen Minima und Maxima eine gewisse Gesetzmäßigkeit aufweisen, deren Kenntnis vererbt werden kann. Eine ganz gute Methode kann auch sein, die Ausgangspunkte für die Suche nach lokalen Minima/Maxima zufällig zu wählen, um dann mittels statistischer Methoden die Suchergebnisse nach Regelmäßigkeiten zu untersuchen.

Oft wird allerdings in der Praxis das eigentliche Suchkriterium nicht genügend reflektiert. So ist es oft viel wichtiger, nicht das globale Optimum zu finden, sondern ein Parametergebiet, innerhalb dessen sich möglichst viele relative Minima befinden. Hier eignen sich dann Methoden der Clusteranalyse oder neuronale Netze.

Weitere Methoden der nichtlinearen globalen Optimierung:

• Naturanaloge Optimierungsverfahren
  • Sintflutalgorithmus (great deluge algorithm)
  • Simulierte Abkühlung (simulated annealing)
  • Metropolisalgorithmus
  • Schwellenakzeptanz (threshold accepting)
  • Ameisenalgorithmus (ant colony optimization)
  • Partikelschwarmoptimierung
• Sonstige Verfahren
  • Bergsteigeralgorithmus (hill climbing)
  • Stochastisches Tunneln (Stochastic tunneling)
  • RANSAC-Algorithmus zur besseren Handhabung von Messdaten mit Ausreißern
  • Primal-Dual-Active-Set-Algorithmus zur Lösung eines quadratischen Optimierungsproblems über einer konvexen Teilmenge $S$ eines Hilbertraumes $V$ über der Menge $\Omega$

Die Performance von Optimierungsalgorithmen wird oft anhand von Testproblemen mit komplexer Struktur der Minima oder Maxima analysiert, bei denen die exakte Lösung bekannt ist. Ein Beispiel für eine solche Testfunktion ist die Rastrigin-Funktion.

Theoretische Aussagen

Bei der Optimierung einer (differenzierbaren) Funktion $f(x)$ ohne Nebenbedingungen ist bekannt, dass Minima/Maxima nur an Stellen mit $\nabla f(x)=0$ sein können. Diese Bedingung wird bei der Konstruktion vieler Lösungsverfahren ausgenutzt. In dem Fall der Optimierung mit Nebenbedingungen gibt es analoge theoretische Aussagen: Dualität und Lagrange-Multiplikatoren.

Konvexe Probleme

→ Hauptartikel: Konvexe Optimierung

Bei konvexen Problemen ist das abzusuchende Gebiet und die Zielfunktion konvex. Bei einem konvexen Gebiet liegen alle Punkte auf der Verbindungslinie zweier beliebiger Punkte im Gebiet ebenfalls vollständig im Gebiet. Mathematisch:

$\lambda \in [0,1]\Rightarrow x+\lambda (y-x)\in X\quad \forall x,y\in X$

Beispiele für konvexe Gebiete sind Kreise, Ellipsen, Dreiecke und Quadrate.

Die Zielfunktion ist konvex, wenn alle Werte der Zielfunktion von Punkten auf der Geraden, die zwei Punkte im Gebiet verbinden, unter dieser Geraden liegen. Mathematisch:

$\lambda \in [0,1]\Rightarrow f(x+\lambda (y-x))\leq f(x)+\lambda (f(y)-f(x))\quad \forall x,y\in X$.

Die zu Beginn dieses Artikels gezeigte parabelförmige Optimierungsaufgabe hat eine konvexe Zielfunktion.

Bei konvexen Problemen ist jedes lokale Minimum auch globales Minimum. Sind die Punkte $x_{i}\,,\;i=1,\dotsc ,n$ optimal, dann sind alle Punkte „zwischen“ diesen Punkten optimal. Mathematisch:

$\alpha _{1},\alpha _{2},\dotsc ,\alpha _{n}\in [0,1]\;\wedge \;\sum _{i=1}^{n}\alpha _{i}=1\quad \Rightarrow \quad f\left(\sum _{i=1}^{n}\alpha _{i}x_{i}\right)=f_{\text{opt}}$.

Dualität

Das einem Optimierungsproblem $\min \;f(x):\;g(x)=0$ zugeordnete (Lagrange-)duale Problem ist

$\max _{\lambda }\min _{x}{\mathcal {L}}(x,\lambda )$

wobei ${\mathcal {L}}(x,\lambda )=f(x)+\lambda ^{T}g(x)$ die zugehörige Lagrange-Funktion ist. Die $\lambda$ heißen hierbei Lagrange-Multiplikatoren, oder auch duale Variablen oder Schattenpreise. Anschaulich erlaubt man eine Verletzung der Nebenbedingungen, bestraft sie aber in der Zielfunktion durch Zusatzkosten $\lambda$ pro verletzter Einheit. Eine Lösung $\lambda$, für die es sich nicht lohnt, die Nebenbedingungen zu verletzen, löst das duale Problem. Für konvexe (insbesondere lineare) Probleme ist der Wert des dualen Problems gleich dem Wert des Ursprungsproblems. Für lineare und konvexe quadratische Probleme lässt sich die innere Minimierung geschlossen lösen und das duale Problem ist wieder ein lineares oder konvexes quadratisches Problem.

Lagrange-Multiplikatoren

Der Lagrange-Multiplikatorsatz besagt, dass Lösungen des eingeschränkten Optimierungsproblems $\min _{x}\,f(x):\,g(x)=0$ nur an Stellen $x$ zu finden sind, an denen es Lagrange-Multiplikatoren $\lambda _{i}$ gibt, die die Bedingung

$\nabla _{x}{\mathcal {L}}(x,\lambda )=\nabla f(x)+\sum _{i}\lambda _{i}\nabla g_{i}(x)=0$

erfüllen. Diese Bedingung ist die direkte Verallgemeinerung der obigen Ableitungsbedingung. Wie diese gibt der Lagrange-Multiplikatorensatz eine notwendige Bedingung für ein Minimum bzw. Maximum. Eine hinreichende Bedingung kann durch Betrachtung der zweiten Ableitungen gewonnen werden.

Der Lagrange-Multiplikatorensatz gilt nur für den Fall, dass die Nebenbedingungen durch Gleichungen gegeben sind. Die Verallgemeinerung auf Ungleichungen $\min _{x}\{f(x):g(x)\leq 0\}$ gibt der Satz von Karush-Kuhn-Tucker.

Straffunktionen

Im Grenzwert der gegen unendlich gehenden Strafparameter geht die mit Straffunktionen gefundene Lösung in die mit den Lagrange-Multiplikatoren gefundene Lösung über.

Erweiterte Lagrange-Methode

Im Grenzwert unendlich vieler Iterationen strebt die mit der erweiterten Lagrange-Methode gefundene Lösung auch gegen die mit den Lagrange-Multiplikatoren gefundene Lösung.

Literatur

• Walter Alt: Nichtlineare Optimierung – Eine Einführung in Theorie, Verfahren und Anwendungen. Vieweg, 2002, ISBN 3-528-03193-X.
• Yonathan Bard: Nonlinear Parameter Estimation. Academic Press, New York 1974, ISBN 0-12-078250-2.
• Hans Benker: Mathematische Optimierung mit Computeralgebrasystemen. Springer-Verlag, Berlin/ Heidelberg/ New York 2003.
• S. Boyd, L. Vandenberghe: Convex Optimization. Cambridge University Press, 2004. (online)
• W. Domschke, A. Drexl: Einführung in Operations Research. 7. Auflage. Springer, Berlin 2007, ISBN 978-3-540-70948-0.
• R. Fletcher: Practical Methods of Optimization. Wiley, 1987, ISBN 0-471-91547-5.
• U. Hoffmann, H. Hofmann: Einführung in die Optimierung: mit Anwendungsbeispielen aus dem Chemie-Ingenieur-Wesen. Verlag Chemie, Weinheim 1971, ISBN 3-527-25340-8.
• R. Horst, P. M. Pardalos (Hrsg.): Handbook of Global Optimization. Kluwer, Dordrecht 1995, ISBN 0-7923-3120-6.
• F. Jarre, J. Stoer: Optimierung. Springer, 2004, ISBN 3-540-43575-1. eingeschränkte Vorschau in der Google-Buchsuche
• J. Nocedal, S. J. Wright: Numerical Optimization. Springer, Berlin 1999, ISBN 0-387-98793-2.
• C. Grossmann, J. Terno: Numerik der Optimierung. Teubner Studienbücher, 1997, ISBN 3-519-12090-9. eingeschränkte Vorschau in der Google-Buchsuche

Weblinks

Commons: Optimization – Sammlung von Bildern, Videos und Audiodateien

• Literatur zur Optimierung im Katalog der Deutschen Nationalbibliothek
• Allgemeine Link-Seite zur globalen Optimierung (engl.)
• Einführung in die numerische Optimierung
• NEOS Optimization Guide (engl.)
• Entscheidungsbaum für Optimierungssoftware (engl.)
• Global Optimization Algorithms - Theory and Application (engl.; PDF-Datei; 13,14 MB)