1.1 Das lineare und das nichtlineare Optimierungsproblem

Im vorliegenden Buch werden Optimierungsaufgaben betrachtet, die dadurch charakterisiert sind, dass eine lineare oder nichtlineare Zielfunktion f unter linearen oder nichtlinearen Ungleichungsnebenbedingungen minimiert wird, d. h.

(1.1)

wobei I

die Indexmenge der Ungeichungsrestriktionen bezeichnet. Gleichungsrestriktionen werden der Übersichtlichkeit halber zunächst weggelassen. An geeigneten Stellen werden sie zusätzlich berücksichtigt.

1.2 Definitionen und Bezeichnungen

Für die weiteren Überlegungen benötigen wir folgende Bezeichnungen:

• n-dimensionaler Euklidischer Raum: Rⁿ,
• Menge der reellen Zahlen: R,
• nichtnegativer Orthant des n-dimensionalen Euklidischen Raumes: ,
• Euklidische Norm:
• Betragssummennorm:
• (m, n)-Matrix A: rechteckiges Zahlenschema A = (a_i,j) von m ∗ n Zahlen, angeordnet in m Zeilen und n Spalten,
• quadratische Matrix: (m, n)-Matrix A mit m = n,
• Diagonalmatrix A: quadratische Matrix A mit a_{i j} = 0 für i ≠ j und a_ii ≠ 0,
• Einheitsmatrix I: Diagonalmatrix A mit a_ii = 1,
• obere Dreiecksmatrix A: quadratische Matrix A mit a_{i j} = 0, i > j,
• untere Dreiecksmatrix A: quadratische Matrix A mit a_{i j} = 0, i < j,
• positiv definite Matrix A: quadratische Matrix A mit x^TAx > 0 für alle x ≠ 0,
• symmetrische Matrix A: quadratische Matrix A mit a_{i j} = a_ji,
• transponierte Matrix A^T zu A: Matrix A^T mit A^T = (a_ji),
• inverse Matrix A⁻¹ zur Matrix A: Matrix mit der Eigenschaft A ∗ A⁻¹ = I,
• nichtsinguläre Matrix A: die inverse Matrix A⁻¹ zu A existiert,
• orthogonale Matrix A: Matrix mit der Eigenschaft A^T = A⁻¹,
• transponierter Vektor: x^T = (x₁, …, x_n),
• Gradient einer Funktion f : Rⁿ → R
  
• Hesse-Matrix einer Funktion f : Rⁿ → R
  
• Lagrange-Funktion für die Aufgabe (1.1)
  
• Ableitung der Lagrange-Funktion nach den Komponenten des 1. Arguments
  
• zweite Ableitung der Lagrange-Funktion nach den Komponenten des 1. Arguments
  
• Indexmenge I(x) der in x aktiven Restriktionen
  
• Vektor, dessen Komponenten alle gleich 1 sind: e = (1, …, 1)^T,
• i-ter Einheitsvektor: e_i = (0, …, 0, 1, 0, …, 0)^T,
• die Menge G⁰ := {x : g_i(x) < 0, i = 1, …, m}.

1.3 Spezialfälle linearer und nichtlinearer Optimierungsaufgaben

Besitzen Zielfunktion f und der zulässige Bereich G bzw. Nebenbedingungen g_i und g_j eine spezielle Gestalt, so können zur Lösung von (1.1) spezielle Verfahren herangezogen werden. Für die Zielfunktion f sind folgende Strukturen interessant:

1. Allgemeine nichtlineare Zielfunktion f (x).
2. Lineare Zielfunktion f (x) = c^Tx.
3. Quadratische Zielfunktion
4. Quadratsumme (Regression)
   
5. Maximum von Funktionen f (x) = max f_j(x) (j = 1, …, l).

In Bezug auf die Nebenbedingungen N sind folgende Situationen typisch:

1. Allgemeine nichtlineare Nebenbedingungen.
2. Lineare Nebenbedingungen .
3. Keine Nebenbedingungen G = Rⁿ.

In den folgenden Kapiteln werden spezielle Kombinationen von Zielfunktion und Nebenbedingungen eine besondere Rolle spielen:

• lineare Optimierung (L): f 2 + N2,
• quadratische Optimierung (Q): f 3 + N2,
• allgemeine nichtlineare Optimierungsaufgabe (C): f 1 + N1,
• unbeschränkte Minimierung (U): f 1 + N3,
• Regressionsprobleme (P): f 4 + N3, f 4 + N1.

Die Spezifikationen L, Q, C, U und P werden in der Charakterisierung der implementierten Beispiele im Programmsystem „Optisoft“ verwendet. Über die dargestellten Kombinationen von Zielfunktion und Nebenbedingungen hinaus spielen Aufgaben der nichtglatten Optimierung eine besondere Rolle. Diese finden im vorliegenden Buch keine Beachtung. Gleiches gilt auch für Optimierungsaufgaben mit sehr vielen Variablen: n > 100, sofern sie nicht als Teilprobleme zur Lösung von (1.1) auftreten.

Obwohl die spezifische Gestalt von Zielfunktion und Nebenbedingungen interessant ist, wie etwa in der geometrischen Optimierung

wird diese nicht explizit berücksichtigt.

In der Betrachtung von Optimierungsverfahren gehen wir von dem Grundmodell (1.1) aus. Für Least-Square-Probleme in Differenzialgleichungsmodellen und bei Strukturoptimierungsproblemen liegen spezielle Aufgaben zugrunde. Diese werden in den folgenden Kapiteln näher erläutert.

1.4 Anwendungen

Nichtlineare Optimierungsprobleme spielen in vielen Anwendungsbereichen eine wichtige Rolle, z. B. in der

• Luft- und Raumfahrt (Steuerung, Konstruktion),
• Mechanik (Optimierung mechanischer Strukturen, z. B. von Tragwerken),
• Elektrotechnik (Transformatorkonstruktion),
• Chemie (Gleichgewichtsprobleme),
• Medizin, Soziologie (Statistische Probleme),
• Betriebswirtschaft (Planungsmodelle),
• Physik (Kernforschung),
• Energiewesen (Energieverteilung).

Typische Anwendungsbeispiele finden sich in den Büchern von Bracken und McCormick [3] oder Beightler und Phillips [4]. Einige mathematische Fragestellungen, welche bei der Lösung praktischer Probleme auf Optimierungsverfahren zurückgreifen, werden im Buch näher betrachtet:

1.4.2 Das Least-Squares-Problem

Spezielle nichtlineare Optimierungsaufgaben treten bei der Parameterbestimmung von Modellen auf, die einen in Natur- oder Technikwissenschaften vorliegenden Zusammenhang qualitativ beschreiben. Sind über diesen Zusammenhang Resultate von Experimenten bekannt, kann man die Methode der kleinsten Quadrate anwenden, um die Koeffizienten näherungsweise zu bestimmen. Das zugehörige Optimierungsproblem lautet:

bei

(1.2)

Hierbei sind

y(x, t) – die gewählte Modellfunktion,

x – der Parametervektor, dessen Komponentenwerte zu bestimmen sind

t_i – der

i-te Wert der (u. U. vektorwertigen) unabhängigen Veränderlichen,

y_i – die i-te Beobachtung der (u. U. vektorwertigen) unabhängigen Veränderlichen,

a, b – Schrankenvektoren für den Vektor x.

Entsprechend der Wahl der Norm haben wir es mit einer linearen oder quadratischen Zielfunktion zu tun. Die vorliegende Formulierung gestattet die Berücksichtigung zusätzlicher Nebenbedingungen. Beim Vorliegen von Differenzialgleichungen wird die Aufgabe wie folgt modifiziert:

bei

(1.3)

Eventuell treten zusätzlich Anfangsbedingungen der Form

(1.4)

auf.

Diese können gegebenenfalls in die Least-Square-Formulierung einbezogen werden.

1.4.3 Optimale Steuerung

Das Problem der optimalen Steuerung besteht darin, eine Funktion unter Differenzialgleichungsnebenbedingungen sowie Anfangs- und Endbedingungen zu minimieren: bei

bei

(1.5)

Durch Spline-Approximation der Steuerungsfunktion und Anwendung von Lösungsmethoden für Differenzialgleichungssysteme ist es möglich, das Problem der optimalen Steuerung in eine nichtlineare Optimierungsaufgabe zu transformieren. Hierzu wird die Kopplung einer Mehrfachschießmethode mit einer SQP-Methode betrachtet.

Diese Kopplung ist sehr effektiv und eine Alternative zur Verwendung von Straf-Barriere-Verfahren, welche von Kraft publiziert wurde [5].