Numerische Mathematik: Eine Einführung anhand von Differentialgleichungsproblemen; Band 1: Stationäre Probleme

Mathematik Kompakt

Herausgegeben von: Martin Brokate Heinz W. Engl Karl-Heinz Hoffmann Götz Kersting Gernot Stroth Emo Welzl

Die neu konzipierte Lehrbuchreihe Mathematik Kompakt ist eine Reaktion auf die Umstellung der Diplomstudiengänge in Mathematik zu Bachelorund Masterabschlüssen. Ähnlich wie die neuen Studiengänge selbst ist die Reihe modular aufgebaut und als Unterstützung der Dozenten wie als Material zum Selbststudium für Studenten gedacht. Der Umfang eines Bandes orientiert sich an der möglichen Stofffülle einer Vorlesung von zwei Semesterwochenstunden. Der Inhalt greift neue Entwicklungen des Faches auf und bezieht auch die Möglichkeiten der neuen Medien mit ein. Viele anwendungsrelevante Beispiele geben dem Benutzer Übungsmöglichkeiten. Zusätzlich betont die Reihe Bezüge der Einzeldisziplinen untereinander. Mit Mathematik Kompakt entsteht eine Reihe, die die neuen Studienstrukturen berücksichtigt und für Dozenten und Studenten ein breites Spektrum an Wahlmöglichkeiten bereitstellt.

Numerische Mathematik Eine Einführung anhand von Differentialgleichungsproblemen Band 1: Stationäre Probleme Walter Zulehner

Birkhäuser Basel · Boston · Berlin

Autor: Walter Zulehner Institut für Numerische Mathematik Johannes Kepler Universität Linz Altenbergerstrasse 69 4040 Linz email: [email protected]

2000 Mathematical Subject Classification: 65-01

Bibliografische Information der Deutschen Bibliothek Die Deutsche Bibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über abrufbar.

ISBN 978-3-7643-8426-5 Birkhäuser Verlag AG, Basel – Boston – Berlin Das Werk ist urheberrechtlich geschützt. Die dadurch begründeten Rechte, insbesondere die des Nachdrucks, des Vortrags, der Entnahme von Abbildungen und Tabellen, der Funksendung, der Mikroverfilmung oder der Vervielfältigung auf anderen Wegen und der Speicherung in Datenverarbeitungsanlagen, bleiben, auch bei nur auszugsweiser Verwertung, vorbehalten. Eine Vervielfältigung dieses Werkes oder von Teilen dieses Werkes ist auch im Einzelfall nur in den Grenzen der gesetzlichen Bestimmungen des Urheberrechtsgesetzes in der jeweils geltenden Fassung zulässig. Sie ist grundsätzlich vergütungspflichtig. Zuwiderhandlungen unterliegen den Strafbestimmungen des Urheberrechts. © 2008 Birkhäuser Verlag AG, Postfach 133, CH-4010 Basel, Schweiz Ein Unternehmen der Fachverlagsgruppe Springer Science+Business Media Gedruckt auf säurefreiem Papier, hergestellt aus chlorfrei gebleichtem Zellstoff. TCF ∞ Printed in Germany ISBN 978-3-7643-8426-5 987654321

www.birkhauser.ch

Inhaltsverzeichnis

Vorwort

vi

1

Einleitung

1

2

Ein erstes Beispiel einer Variationsformulierung

7

3

Der Satz von Lax-Milgram

19

4

Die Galerkin-Methode 4.1 Ein Beispiel einer Finite-Elemente-Methode . . . . . . . . . . . . . . 4.2 Der Diskretisierungsfehler . . . . . . . . . . . . . . . . . . . . . . . .

35 36 44

5

Lineare Gleichungssysteme 5.1 Kondition des Problems . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2 Konditionszahl der Steifigkeitsmatrix . . . . . . . . . . . . . . . . . .

53 53 60

6

Das Gaußsche Eliminationsverfahren 6.1 Der Algorithmus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.2 Numerische Stabilität des Algorithmus . . . . . . . . . . . . . . . . .

65 65 75

7

Erweiterung auf lineare mehrdimensionale Randwertprobleme

83

8

Iterative Verfahren für lineare Gleichungssysteme 8.1 Das Richardson-Verfahren . . . . . . . . . . . 8.2 Das Gradientenverfahren . . . . . . . . . . . . 8.3 Das Verfahren der konjugierten Gradienten . 8.4 Präkonditionierung . . . . . . . . . . . . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

93 . 93 . 99 . 103 . 112

9

Erweiterung auf nichtlineare Randwertprobleme

127

10

Das Newton-Verfahren

135

Literaturverzeichnis

147

Index

149

vi Vorwort Dieses Lehrbuch entstand auf der Grundlage von Vorlesungen zu Numerischer Mathematik, die ich in den letzten Jahren an der Johannes Kepler Universität Linz im Rahmen des Bachelor-Studiums Technische Mathematik gehalten habe. Ich bedanke mich bei den Herausgebern der Lehrbuchreihe Mathematik Kompakt für die Möglichkeit, bei diesem Projekt mitzuwirken. Ihre konstrukive Kritik hat wesentlich die Gestaltung des Buches beeinflusst. Beim Verlag möchte ich mich für die stets freundliche Zusammenarbeit bedanken. Meinen Kollegen Ulrich Langer und Clemens Pechstein gilt mein Dank für das sorgfältige Korrekturlesen des Manuskripts und die vielen Hinweise zur Verbesserung des Textes. Besonders bedanken möchte ich mich bei Ulrich Langer für seine langjährige Unterstützung. Sein Bild der Numerischen Mathematik hat mich sehr wesentlich geprägt. Linz, November 2007

Walter Zulehner

1

Einleitung

Viele Modelle aus Wissenschaft und Technik führen auf Differentialgleichungsprobleme. Gerade zu diesen wichtigen mathematischen Problemstellungen liefert die Numerische Mathematik eine große Anzahl erfolgreicher Beiträge. Eine Einführung in die Numerische Mathematik anhand solcher Problemstellungen ist daher ein nahe liegender Weg, mit der Arbeitsweise und mit wichtigen Methoden dieses Faches vertraut zu werden. Auflösungsverfahren für lineare Gleichungssysteme bilden einen wichtigen Baustein bei der Berechnung von Näherungslösungen von Differentialgleichungsproblemen. Viele Lehrbücher der Numerischen Mathematik tragen dem Rechnung und diskutieren lineare Gleichungssysteme als eine der ersten Problemstellungen, um sich dann schrittweise zu komplexeren Problemstellungen, wie nichtlinearen Gleichungen, gewöhnlichen und partiellen Differentialgleichungen, hoch zu arbeiten. Wir wollen hier einen anderen Weg gehen. Der rote Faden durch die beiden Bände ist von Anfang an die Diskussion von Differentialgleichungsproblemen. Andere eigenständige mathematische Problemstellungen (wie zum Beispiel lineare Gleichungssysteme) werden erst dann diskutiert, wenn sie das erste Mal bei der Behandlung von Differentialgleichungsproblemen auftreten. Wir erhoffen uns davon eine bessere Motivation für die Beschäftigung mit Problemstellungen, wie linearen Gleichungssystemen, und eine frühzeitige Konzentration auf die durch den Hintergrund bestimmten Eigenschaften solcher Problemstellungen. In jedem der beiden Bände beginnen wir jeweils mit der Diskretisierung von Differentialgleichungsproblemen. Das führt uns im Band 1 (stationäre Probleme) auf spezielle lineare und nichtlineare Gleichungssysteme, die als Motivation der Diskussion allgemeiner linearer und nichtlinearer Gleichungssysteme (auch solcher, die nicht durch Diskretisierung entstanden sind) dienen. Nach der Diskussion allgemeiner linearer und nichtlinearer Gleichungssysteme wird auf die speziellen durch Diskretisierung entstandenen Gleichungssysteme eingegangen. Im Band 2 (instationäre Probleme) beginnen wir mit der Ortsdiskretisierung partieller Differentialgleichungen, die auf Anfangswertprobleme gewöhnlicher Differentialgleichungen führt. Diese speziellen Anfangswertprobleme dienen als Motivation der Diskussion allgemeiner Anfangswertprobleme gewöhnlicher Differentialgleichungen (auch solcher,die nicht durch Ortsdiskretisierung entstanden sind),deren Zeitdiskretisierung dann wieder auf Gleichungssysteme führt. Zur Lösung dieser Gleichungssysteme werden wir von den Techniken aus Band 1 Gebrauch machen. Nach der allgemeinen Diskussion erfolgt wieder die Anwendung auf durch Diskretisierung entstandene Anfangswertprobleme bzw. Gleichungssysteme.

2

1 Einleitung Andere numerische Themen, wie differentielle Fehleranalyse, Numerische Integration und Numerische Differentiation, werden nicht systematisch sondern nur beispielhaft besprochen und zwar dort, wo sie das erste Mal im Zusammenhang mit den oben erwähnten mathematischen Problemstellungen auftauchen. Es wird davon ausgegangen, dass ein Basiswissen zu solchen und ähnlichen Themen bereits vorhanden ist, z.B. durch entsprechende algorithmisch orientierte Ergänzungen über numerische Themen zu einführenden Standardkursen aus Analysis und Linearer Algebra. Der Umfang der beiden Bücher ist so bemessen,dass ihre Umsetzung im Rahmen zweier Module mit je 2 Semester-Wochenstunden (und je einer ergänzenden Übung im Ausmaß einer Semester-Wochenstunde) möglich sein sollte. Diese Vorgabe hat natürlich zur Folge, dass viele wichtige Alternativen zu den präsentierten Methoden und weitere wichtige Themen der Numerischen Mathematik nicht Inhalt der beiden Bücher sind. Bei der vorgenommenen Auswahl wurde Hauptaugenmerk darauf gelegt, dass ein in sich abgeschlossenes (aber natürlich nicht vollständiges) Bild von wichtigen Bereichen der Numerischen Mathematik vermittelt wird. Das ermöglicht es, die beiden Bände als Grundlage der Ausbildung über Numerische Mathematik im Rahmen eines Bachelor-Programms zu verwenden und berücksichtigt die Möglichkeit, dass manche Studierende nicht mit einem Master-Programm fortsetzen. Zusätzlich sollen die beiden Bände natürlich auch als Vorbereitung für vertiefende und erweiternde Kurse über Numerische Mathematik in weiterführenden MasterProgrammen dienen. Es folgen nun einige kurze Anmerkungen zu einer groben Klassifizierung und zum möglichen Hintergrund von Differentialgleichungsproblemen: Die gesuchte Größe ist eine Funktion (gegebenenfalls mit mehreren Komponenten), wir nennen sie u, die eine oder mehrere gegebene Differentialgleichungen zu erfüllen hat. Die Funktion u soll entweder von einer Variablen x (dem Ort) oder einer Variablen t (der Zeit) oder von beiden Variablen x und t abhängen. Im ersten Fall sprechen wir von einem stationären Problem, in den beiden anderen Fällen von instationären Problemen. Die Variable x liegt typischerweise in Rd mit d = 1 (eindimensionale Probleme) oder d ∈ {2, 3} (mehrdimensionale Probleme). Üblicherweise konzentriert man sich auf die Bestimmung der Werte der gesuchten Funktion u auf einem für die jeweilige Problemstellung geeigneten Teilgebiet § ⊂ Rd . Differentialgleichungen für u basieren häufig auf allgemeinen physikalischen Gesetzen in Form von Bilanzgleichungen. Bilanziert man die mögliche Änderung einer bestimmten physikalischen Größe E (wie z.B. der Energie) auf einem fixen Teilgebiet ! ⊂ §, so erhält man d dt



 !

e dx =

 !

q0 dx +

∂!

q · (−n) ds,

wobei e die (Volumen-)Dichte von E (also z.B. die Energiedichte) bezeichnet. Der Term auf der linken  Seite der Bilanzgleichung beschreibt die zeitliche Änderung des Anteils E(!) = ! e dx von E im Teilgebiet !. Es gibt zwei mögliche Ursachen, warum sich E(!) ändern könnte. Entweder es wird ein gewisser Anteil von E im Teilgebiet ! erzeugt bzw. vernichtet oder es fließt ein gewisser Anteil von E durch die Oberfläche ∂!. Der erste Term auf der rechten Seite der Bilanzgleichung beschreibt denAnteil von E,der innerhalb ! erzeugt bzw.vernichtet wird.Die (Volumen-)Dichte

1 Einleitung

3

q0 beschreibt den pro Zeiteinheit erzeugten oder vernichteten Anteil von E. Für Punkte von ! mit q0 > 0 kommt es zu einer Vermehrung, für Punkte mit q0 < 0 zu einer Verringerung des Anteils von E in !. Der zweite Term auf der rechten Seite beschreibt den Strom durch die Oberfläche mithilfe eines so genannten Flusses (engl.: flux) q = (q1 , . . . , qd )T und des Einheitsnormalvektors n in einem Punkt des Randes ∂!, der von ! aus gesehen nach außen zeigt, das Symbol · bezeichnet das euklidische Skalarprodukt von Vektoren in Rd . Die (Oberflächen-) Dichte q · (−n) beschreibt den pro Zeiteinheit durch die Oberfläche in Richtung −n (also von außen nach innen) fließenden Anteil von E. Für Punkte der Oberfläche ∂! mit q · (−n) > 0 kommt es dadurch zu einerVermehrung,für Punkte der Oberfläche ∂! mit q·(−n) < 0 zu einer Verringerung des Anteils von E in !. Die Bilanzgleichung, also die Gleichheit der linken Seite und der rechten Seite, bringt zum Ausdruck, dass alle für E maßgeblichen Veränderungsprozesse durch die Dichten e, q0 und q erfasst sind. Sie lässt sich auch folgendermaßen schreiben: d dt



 !

e dx +

 ∂!

q · n ds =

!

q0 dx.

Sind alle beteiligten Größen hinreichend glatt, so darf beim ersten Term Differentiation und Integration vertauscht werden und auf den zweiten Term der Gaußsche Satz angewendet werden. Dann erhält man die Bilanzgleichung in der Form  !

∂e dx + ∂t



 !

div q dx =

!

q0 dx,

wobei div q die Divergenz der vektorwertigen Funktion q bezeichnet: div q =

∂q1 ∂qd +···+ . ∂x1 ∂xd

Man fordert die Gültigkeit der Bilanzgleichung für beliebige Teilgebiete ! ⊂ §, daher folgt (bei hinreichender Glattheit) die Differentialgleichung ∂e + div q = q0 ∂t

in §.

Neben der Bilanzgleichung benötigt man noch Kenntnis über den funktionalen Zusammenhang zwischen e, q0 und q und der Unbekannten u, kurz: e = e(u),

q0 = q0 (u),

q = q(u).

Diese Information ist zum Teil in Form von speziellen Materialgesetzen oder Zustandsgleichungen gegeben.

Wir diskutieren die Energiebilanz in einem Festkörper, bei dem nur der Transport von Energie durch Wärmeleitung und die Erzeugung/Vernichtung von Energie, beschrieben durch eine Dichte q0 , berücksichtigt wird. Wir führen als

Beispiel

4

1 Einleitung Unbekannte die Temperaturverteilung T ein: u = T. Die (innere) Energiedichte des Festkörpers lässt sich üblicherweise in der Form e = c T darstellen, wobei die Massendichte  und die spezifische Wärmekapazität c des betrachteten Materials bekannt sind. Für die Wärmestromdichte q nehmen wir die Gültigkeit des so genannten Fourierschen Gesetzes an: q = − grad T, wobei die Wärmeleitzahl  bekannt ist und grad T den Gradienten der skalaren Funktion T bezeichnet:  grad T =

∂T ∂T ,..., ∂x1 ∂xd

T .

Die Erzeugung oder Vernichtung von Energie wird häufig in der Form q0 = ˛ (T0 − T) modelliert, wobei der Wärmeübergangskoeffizient ˛ und die Referenztemperatur T0 bekannt sind. Insgesamt erhalten wir dann folgende Differentialgleichung: ∂ (c u) − div( grad u) + ˛ u = ˛ T0. ∂t Eine komplette Beschreibung eines Differentialgleichungsproblems erfordert es, geeignete zusätzliche Bedingungen an u für Argumente x auf dem Rand  = ∂§ der Menge § vorzuschreiben, die so genannten Randbedingungen. Randbedingungen erlauben in gewisser Weise eine zumindest näherungsweise Einbeziehung des Einflusses der Umgebung Rd \ §. Bei Bilanzgleichungen werden in den Randpunkten typischerweise Werte für u oder q · (−n) (oder für eine Kombination von beiden Größen) vorgegeben. Bei instationären Problemen sind geeignete zusätzliche Bedingungen im Anfangszeitpunkt t = 0 vorzuschreiben, so genannte Anfangsbedingungen. Typischerweise wird u im Anfangszeitpunkt t = 0 vorgegeben. Bei gewissen Problemstellungen (z.B. bei Schwingungsproblemen) müssen zusätzlich auch zeitliche Ableitungen von u im Anfangszeitpunkt t = 0 vorgegeben werden. Die entsprechenden Differentialgleichungsprobleme werden dann als ein- oder mehrdimensionale Randwertprobleme,Anfangswertprobleme oder ein- oder mehrdimensionale Anfangsrandwertprobleme bezeichnet. Im vorliegenden Band 1 fokussieren wir unsere Aufmerksamkeit auf Randwertprobleme, im Band 2 auf Anfangswertprobleme und Anfangsrandwertprobleme.

1 Einleitung Der erste Schritt zur numerischen Lösung eines Randwertproblems ist die Diskretisierung bezüglich der Ortsvariablen x. Die gesuchte Funktion u mit sozusagen unendlich vielen Freiheitsgraden (nämlich ihren Werten u(x), x ∈ § ∪  ) wird durch einen Vektor mit nur endlich vielen Freiheitsgraden ersetzt, das Differentialgleichungsproblem wird durch ein endlich-dimensionales Gleichungssystem ersetzt. Dieses Gleichungssystem kann linear oder nichtlinear sein. Ist das Gleichungssystem nichtlinear, so wird es üblicherweise durch eine Folge von linearen Gleichungssystemen ersetzt (Linearisierung), deren Lösungen gegen die Lösung des nichtlinearen Gleichungssystems konvergieren. Letztendlich sind also ein oder mehrere lineare Gleichungssysteme zu lösen, um eine Näherungslösung eines Randwertproblems zu berechnen. Das unterstreicht die Wichtigkeit der Diskussion von Auflösungsverfahren für lineare Gleichungssysteme in der Numerischen Mathematik. Auf den ersten Blick könnte man meinen, dass es also durch Diskretisierung und Linearisierung gelungen ist, ein kompliziertes Differentialgleichungsproblem durch ein viel einfacheres mathematisches Problem, nämlich die Bestimmung der Lösung (einer Folge) von linearen Gleichungssystemen zu ersetzen. Das ist auch der Fall, sofern die Anzahl der Unbekannten klein ist. Eine Diskretisierung, die zu einer genauen Näherungslösung des Differentialgleichungsproblems führt, erfordert allerdings häufig viele Freiheitsgrade und daher sind in diesem Zusammenhang vor allem Gleichungssysteme mit vielen Unbekannten zu lösen. Bei eindimensionalen Randwertproblemen wird man vielleicht in der Regel mit etwa 100 Freiheitsgraden auskommen. Bei zweidimensionalen Problemen braucht man zu jedem dieser 100 Freiheitsgrade vielleicht weitere 100 Freiheitsgrade zur Erfassung der zusätzlichen zweiten Dimension, also insgesamt etwa 10 000 Freiheitsgrade. Für dreidimensionale Probleme erhält man durch eine analoge Argumentation eine weitere Verhundertfachung der Unbekannten, also etwa 1 000 000 Unbekannte. Das allgemein bekannte Gaußsche Eliminationsverfahren schafft die Lösung eines linearen Gleichungssystems mit 100 Unbekannten auf einem Computer im Bruchteil einer Sekunde, bei 1 000 000 Unbekannten würde man (ohne spezielle Eigenschaften der Matrix auszunutzen) mindestens einige Jahrzehnte an Rechenzeit auf den derzeit schnellsten Rechnern benötigen. Diese (sehr vereinfachten) Überlegungen zeigen, dass scheinbar einfache Problemstellungen, wie lineare Gleichungssysteme, bereits eine Herausforderung sein können. Im vorliegenden Band 1 werden wir als Einstieg zuerst den linearen eindimensionalen Fall eines Randwertproblems behandeln, dann die Erweiterung auf den linearen mehrdimensionalen Fall diskutieren und schließlich mit dem nichtlinearen Fall abschließen. Die Analyse der Randwertprobleme wird die richtige Spur zur Diskretisierung und anschließend zur Auflösung der durch Diskretisierung erhaltenen Gleichungssysteme legen. Die diskretisierten Gleichungssysteme dienen als Einstieg und Motivation der dann folgenden Diskussion allgemeiner endlich-dimensionaler Gleichungssysteme. Es ist nicht dieAbsicht des Buches einen Überblick über verschiedene numerische Zugänge zu den einzelnen mathematischen Problemstellungen zu bieten, sondern es soll einen Einblick durch ausgewählte Techniken zur Diskretisierung, Linearisierung und Auflösung endlich-dimensionaler Gleichungssysteme gewähren. Jede Auswahl erfolgte nach der Einschätzung der Relevanz der Technik, aber auch nach didaktischen Grundsätzen. So wird als einzige Ortsdiskretisierungstechnik eine FiniteElemente-Methode ausgewählt, ein zwar gegenüber der Finite-Differenzen-Methode

5

6

1 Einleitung aufwendigerer Zugang, der aber der Wichtigkeit der Methode Rechnung trägt. Bei der Diskussion iterativer Verfahren für lineare Gleichungssysteme beginnen wir aus didaktischen Gründen mit der einfachsten Methode, dem Richardson-Verfahren, da viele wesentlichen Aspekte bereits anhand dieser Methode erläutert werden können. Die notwendigen Verbesserungen (Krylow-Unterraum-Methoden und Präkonditionierung) komplettieren die Diskussion. Kurz zum Inhalt des ersten Bandes: Wir beginnen in Kapitel 2 mit der Variationsformulierung eines linearen eindimensionalen Randwertproblems. Kapitel 3 beinhaltet den Satz von Lax-Milgram als wichtige Grundlage der Analyse und Diskretisierung von allgemeinen Variationsproblemen.Anschließend lernen wir in Kapitel 4 die Galerkin-Methode zur Diskretisierung von Variationsproblemen kennen, die uns auf ein wichtiges Beispiel einer Finite-Elemente-Methode führt,deren Realisation die Berechnung der Lösung eines linearen Gleichungssystems erfordert. Kapitel 5 enthält eine kurze Analyse von linearen Gleichungssystemen, für die wir in Kapitel 6 das Gaußsche Eliminationsverfahren behandeln. Mit diesem Kapitel ist die Diskussion des Beispiels eines linearen eindimensionalen Randwertproblems und der damit in Verbindung stehenden numerischen Fragestellungen erfolgreich abgeschlossen. Im Kapitel 7 wird die mögliche Erweiterung (Variationsformulierung,Analyse und Diskretisierung) auf lineare mehrdimensionale Randwertprobleme diskutiert, die dann den Einsatz von iterativen Verfahren zur Lösung linearer Gleichungssysteme motiviert. Eine Auswahl solcher Verfahren wird in Kapitel 8 behandelt. Schließlich untersuchen wir in Kapitel 9 kurz die Möglichkeiten der Erweiterung auf nichtlineare Randwertprobleme (Variationsformulierung, Analyse und Diskretisierung). Als wichtigstes Verfahren zur Lösung nichtlinearer Gleichungssysteme, z.B. solcher, die durch Diskretisierung nichtlinearer Randwertprobleme entstehen, besprechen wir in Kapitel 10 das Newton-Verfahren. Am Ende jedes Kapitels findet man einige Übungsaufgaben. Sie bieten die Möglichkeit, den Inhalt des jeweiligen Kapitels zu vertiefen bzw. zu erweitern. Vor den Übungsaufgaben findet man bei den meisten Kapiteln einige wenige ergänzende Hinweise auf weiterführende Literatur, sozusagen als Startpunkte für Vertiefungen, Erweiterungen und Alternativen.

Ergänzende Hinweise In diesem Sinne soll im einleitenden Kapitel jedenfalls auf das im deutschsprachigen Raum klassische Werk [11,21] hingewiesen werden,das eine umfassende Einführung in die Numerische Mathematik bietet. Es gibt eine große Anzahl weiterer exzellenter Bücher zum selben Thema, wie z.B. [13,20] und die beiden Bände [9,10] mit einer algorithmisch orientierten Prägung.

2

Ein erstes Beispiel einer Variationsformulierung

Wir beginnen mit einem typischen eindimensionalen linearen Randwertproblem: Gesucht ist eine reelle Funktion u auf dem Intervall [0, 1], welche die Differentialgleichung   − a(x)u(x) + b(x)u (x) + c(x)u(x) = f (x)

für alle x ∈ (0, 1)

und die Randbedingungen u(0) = g0, a(1)u (1) = g1 für vorgegebene Daten a, b, c, f , g0 und g1 erfüllt. Wie wir in der Übungsaufgabe 1 sehen werden, lässt sich (fast) jede lineare Differentialgleichung 2. Ordnung in diese Form bringen. Aufgrund der speziellen Gestalt des ersten Terms spricht man von einer Differentialgleichung in Divergenzform. Wir haben in der Einleitung gesehen, dass in Bilanzgleichungen Ausdrücke dieser Form (div q) auftreten. Also lässt sich die obige Differentialgleichung als Bilanzgleichung (im stationären eindimensionalen Fall) mit q = −a(x)u(x) und q0 = f (x) − c(x)u(x) − b(x)u (x) interpretieren. Die Bestimmung der Temperaturverteilung in einem dünnen Stab, der sich mit Länge 1 in x-Richtung erstreckt, führt auf die obige Differentialgleichung für u = T mit a = , b = 0, c = ˛ und f = ˛ T0, siehe Kapitel 1, falls man annehmen darf, dass alle beteiligten Größen nur von x abhängen. Die Randbedingung im Punkt x = 0 schreibt den Wert der gesuchten Funktion im Randpunkt vor, man nennt sie eine Dirichlet1 -Randbedingung (oder auch eine Randbedingung der 1. Art). Die Randbedingung im Punkt x = 1 schreibt die erste Ableitung der gesuchten Funktion im Randpunkt vor, man nennt sie eine Neumann2 -Randbedingung (oder auch eine Randbedingung der 2. Art). Genau genommen wird ein Wert für a(1)u (1), also in der Sprache einer Bilanzgleichung für den (negativen) Fluss −q = a(x)u (x) im Punkt x = 1 vorgeschrieben. 1 Johann

Peter Gustav Lejeune Dirichlet (1805–1859), deutscher Mathematiker Neumann (1832–1925), deutscher Mathematiker

2 Carl Gottfried

Beispiel

8 Beispiel

2 Ein erstes Beispiel einer Variationsformulierung Für die Bestimmung der Temperaturverteilung in einem Stab werden durch diese Randbedingungen im Punkt x = 0 die Temperatur und im Punkt x = 1 die Wärmestromdichte vorgegeben.

Eine vollständige Problembeschreibung erfordert es, die gegebenen Eigenschaften der Daten und die gewünschten Eigenschaften der Lösung zu präzisieren. Plausible Annahmen über die Daten sind z.B. die stetige Differenzierbarkeit der Funktion a auf [0, 1] und die Stetigkeit der Funktionen b, c und f auf [0, 1], also insgesamt: a ∈ C 1 [0, 1],

b, c, f ∈ C[0, 1],

g0 , g1 ∈ R.

Unter diesen Bedingungen ist es nahe liegend, von der Lösung u zu erwarten, dass sie zweimal stetig differenzierbar auf [0, 1] ist, kurz u ∈ C 2 [0, 1]. Wir arbeiten hier also mit dem klassischen Begriff der Ableitung aus der Analysis sowohl bei der Problemformulierung als auch bei den Differenzierbarkeitsbedingungen an die Lösung. Man spricht daher von einer klassischen Formulierung des Randwertproblems und einer klassischen Lösung u. Die Differentialgleichung lässt sich kurz auch in der Form Lu(x) = f (x)

für alle x ∈ (0, 1)

mit dem linearen Differentialoperator L, gegeben durch   Lu(x) = − a(x)u (x) + b(x)u (x) + c(x)u(x), schreiben. Als ein einfaches Beispiel eines Randwertproblems der obigen Art wird im Laufe des Buches immer wieder Bezug auf das folgende Modellproblem genommen: Beispiel

Das eindimensionale Modellproblem. Für a(x) = 1, b(x) = 0, c(x) = 0 erhält man das Randwertproblem: −u (x) = u(0) = u (1) =

f (x)

für alle x ∈ (0, 1),

g0 , g1 .

Variationsformulierung Der erste Schritt zur Konstruktion einer (Näherungs-)Lösung ist die Diskretisierung. Die schnellste Art zu einem diskretisierten Problem zu kommen, bietet eine so genannte Finite-Differenzen-Methode. Dabei ersetzt man die Ableitungen

2 Ein erstes Beispiel einer Variationsformulierung der Differentialgleichung durch Differenzenquotienten und erhält ein System von Differenzengleichungen für die Näherungen der exakten Lösung in endlich vielen Punkten des Intervalls [0, 1]. Wir werden hier mit einer aufwendigeren Diskretisierungsmethode beginnen, einer so genannten Finite-Elemente-Methode. Diese Technik gilt als die wichtigste Diskretisierungsmethode. Sie hat eine Reihe von Vorteilen, die bei weitem die Anfangsstrapaze ausgleichen. Ausgangspunkt dieser Diskretisierungsmethode ist nicht die obige klassische Formulierung, sondern eine so genannte Variationsformulierung des Randwertproblems. Anstelle die Gleichheit der linken und rechten Seite der Differentialgleichung in jedem Punkt x ∈ (0, 1) zu verlangen, fordern wir 

1



   − a(x)u (x) + b(x)u (x) + c(x)u(x) v(x) dx =



1

f (x)v(x) dx

0

(2.1)

0

für hinreichend viele Funktionen v, die wir Testfunktionen nennen. Wir testen also gewissermaßen die Gleichheit der linken und rechten Seite der Differentialgleichung hinter dem Integral. Es ist klar, dass diese beiden Formen des Begriffes Gleichheit übereinstimmen, solange wir ausreichend viele Testfunktionen verwenden. Rein formal haben wir also in diesem ersten Schritt die Differentialgleichung mit einer Testfunktion v multipliziert und anschließend über das Intervall (0, 1) integriert. Wir vereinbaren für das weitere Vorgehen, dass alle beteiligten Funktionen die notwendigen Differenzierbarkeits- und Integrierbarkeitsbedingungen erfüllen. Die genauen Anforderungen werden zu einem späteren Zeitpunkt detailliert beschrieben. Im nächsten Schritt der Umwandlung in ein Variationsproblem wird der Term, der die höchste Ableitung enthält, partiell integriert: 

1 0

1       − a(x)u (x) v(x) dx = −a(x)u (x)v(x) + 0

1

a(x)u (x)v(x) dx.

(2.2)

0

Anschließend vereinfachen wir den auftretenden Randterm mit Hilfe der bekannten Randbedingungen an u unter der zusätzlichen Annahme, dass die Testfunktion v die Randbedingung v(0) = 0 erfüllt: 1  −a(x)u (x)v(x) = − a(1)u (1) v(1) + a(0)u (0) v(0) = −g1 v(1).     0 = g1 =0

(2.3)

Bei den bisherigen Umformungen wurde die Randbedingung u(0) = g0 nicht verwendet. Wir müssen sie nach wie vor explizit vorschreiben und erhalten somit aus (2.1) unter Verwendung von (2.2) und (2.3) folgende neue Formulierung des Randwertproblems, die zunächst wesentlich komplizierter aussieht: Gesucht ist eine Funktion u mit u(0) = g0, sodass 

1



a(x)u (x)v (x) + b(x)u(x)v(x) + c(x)u(x)v(x) dx =

0

für alle Testfunktionen v mit v(0) = 0.



1

f (x)v(x) dx + g1 v(1) 0

9

10

2 Ein erstes Beispiel einer Variationsformulierung

Wesentliche und natürliche Randbedingungen Die Randbedingung u(0) = g0 im Punkt x = 0 lässt sich nicht bei der Vereinfachung des Randterms, der durch partielle Integration entstanden ist, einbauen, ganz einfach weil u(0) im Randterm nicht vorkommt. Daher musste diese Bedingung explizit in der neuen Problemformulierung übernommen werden. Um trotzdem den Beitrag im Randterm an der Stelle x = 0 vereinfachen zu können (d.h. hier die erste Ableitung zu eliminieren), wurde die entsprechende (homogene) Randbedingung v(0) = 0 als Einschränkung an die Testfunktion v gestellt. Randbedingungen dieser Art nennt man wesentliche Randbedingungen: Sie sind in der Variationsformulierung explizit an die Lösung zu stellen und bedingen eine entsprechende homogene Randbedingung an die Testfunktionen. Ganz anders verhält es sich mit der Randbedingung im Punkt x = 1: Sie enthält die erste Ableitung der gesuchten Funktion, dieselbe erste Ableitung tritt im Randterm auf, die Randbedingung wird bei der Vereinfachung des Randterms verwendet ohne jegliche Einschränkung an die Testfunktion. Randbedingungen dieser Art nennt man natürliche Randbedingungen: Sie sind sozusagen in der Variationsformulierung eingebaut, werden daher nicht (nochmals) explizit an die Lösung u gestellt. In Punkten des Randes mit einer natürlichen Randbedingung dürfen keinerlei Einschränkungen an die Testfunktionen v gestellt werden, wie wir noch sehen werden. Für eine vollständige Formulierung des Randwertproblems als Variationsproblem ist es noch erforderlich, geeignete Mengen für die Testfunktionen v und die Lösung u zu fixieren:

Schwache Ableitungen In der Variationsformulierung kommen Ableitungen nur im Integranden vor, und 1 zwar nur in Ausdrücken der Form 0 w (x)' (x) dx. Also genügt ein Ableitungsbegriff, der festlegt, was man unter diesen Ausdrücken zu verstehen hat. Definiert man die Ableitung w wie klassisch üblich, dann folgt durch partielle Integration sofort die Identität  1  1 w (x)' (x) dx = − w(x)'  (x) dx für alle ' ∈ C0∞ (0, 1). (2.4) 0

0

Dabei bezeichnet C0∞ (0, 1) die Menge aller unendlich oft mal differenzierbaren Funktionen auf (0, 1), die außerhalb einer kompakten Menge K ⊂ (0, 1), also insbesondere in der Nähe der Randpunkte, verschwinden. Wir drehen nun den Spieß um und erheben (2.4) zur definierenden Eigenschaft einer Ableitung.Um sie vom klassischen Begriff einer Ableitung zu unterscheiden,nennen wir diese Ableitung schwache (oder auch verallgemeinerte) Ableitung: Definition

Eine lokal integrierbare Funktion w heißt schwache Ableitung einer lokal integrierbaren Funktion w, wenn (2.4) gilt. (Die Einschränkung auf lokal integrierbare Funktionen, also auf Funktionen, die auf jedem kompakten Intervall K ⊂ (0, 1) integrierbar sind, stellt sicher, dass die Integrale in (2.4) existieren.)

2 Ein erstes Beispiel einer Variationsformulierung

11

Es lässt sich zeigen, dass die schwache Ableitung w einer Funktion w, sofern sie existiert, als lokal integrierbare Funktion eindeutig ist. Sie stimmt im Falle der klassischen Differenzierbarkeit von w mit der klassischen Ableitung überein, was die Übernahme der gleichen Bezeichnung rechtfertigt. Es wird sich herausstellen, dass auch Funktionen, die nicht auf dem ganzen Intervall (0, 1) im klassischen Sinne differenzierbar sind, trotzdem eine schwache Ableitung besitzen können. Dazu betrachten wir das wichtige Beispiel einer Funktion, die stückweise klassisch differenzierbar ist: Sei w eine Funktion auf [0, 1] und x¯ ein Punkt in (0, 1), so dass die Einschränkungen w|[0,x) ¯ und w|(¯x,1] stetig differenzierbar sind und die links- und rechtsseitigen Grenzwerte von w und w im Punkt x¯ existieren. Die einseitigen Grenzwerte von w werden mit w(¯x −) und w(¯x +) bezeichnet. Wenn überhaupt eine schwache Ableitung von w auf dem Intervall (0, 1) existiert, muss diese schwache Ableitung auf den Teilintervallen (0, x¯ ) und (¯x, 1) mit der klassischen Ableitung übereinstimmen. Das folgt leicht aus der Eindeutigkeit der schwachen Ableitung. Damit bleibt als einziger Kandidat für die schwache Ableitung die Funktion w , die man durch stückweises Differenzieren von w auf (0, x¯ ) ∪ (¯x, 1) erhält. Diese Funktion w ist natürlich lokal integrierbar. (Für eine lokal integrierbare Funktion ist es unerheblich, welcher Wert der Funktion an der Stelle x = x¯ zugeordnet wird.) Es bleibt zu untersuchen,ob diese Funktion w tatsächlich die schwache Ableitung ist. Es ist also zu überprüfen, ob (2.4) gilt.Wir betrachten zunächst die linke Seite: Da w nur auf den beiden Teilintervallen, nicht aber auf dem gesamten Intervall stetig differenzierbar ist, können wir partielle Integration auch nur auf den Teilintervallen anwenden:  1 w (x)' (x) dx 0  1  x¯ w (x)' (x) dx + w (x)' (x) dx = 0 x¯ 1  1 x¯  x¯   w(x)'  (x) dx + w(x)' (x) − w(x)'  (x) dx = w(x)' (x) − 0 x ¯ 0 x¯  1  = [w(¯x −) − w(¯x +)] ' (¯x) − w(x)' (x) dx. 0

Vergleicht man mit (2.4), so ist die Funktion w offensichtlich genau dann die schwache Ableitung, wenn w(¯x −) = w(¯x +), wenn also w stetig ist. Natürlich lassen sich die Überlegungen leicht von 2 Teilintervallen auf endlich viele Teilintervalle übertragen. Also gilt: Eine stückweise stetig differenzierbare Funktion besitzt genau dann eine schwache Ableitung, wenn die Funktion stetig ist.

Wir werden später von dieser fundamentalen Tatsache bei der Diskretisierung Gebrauch machen.

Satz

12

2 Ein erstes Beispiel einer Variationsformulierung

Sobolew-Räume Für eine korrekte Variationsformulierung ist es erforderlich, dass alle auftretenden Integrale wohldefiniert sind und einen endlichen Wert besitzen. Zum Beispiel erfüllt 1 der Term 0 c(x)u(x)v(x) dx diese Anforderung, wenn alle beteiligten Funktionen (Lebesgue-) messbar sind, der Koeffizient c beschränkt ist (kurz c ∈ L∞ (0, 1)) und u, v quadratisch integrierbar sind (kurz u, v ∈ L2 (0, 1)). Dies ist eine direkte Folgerung aus der Cauchy-Ungleichung für Funktionen v, w ∈ L2 (0, 1): Das Produkt vw ist integrierbar (kurz vw ∈ L1 (0, 1)) und es gilt: (v, w)L2 (0,1) ≤ vL2 (0,1) wL2 (0,1) mit dem L2 -Skalarprodukt und der dazugehörigen L2 -Norm  1  v(x)w(x) dx, vL2 (0,1) = (v, v)L2 (0,1) . (v, w)L2 (0,1) = 0

Die analoge Diskussion der weiteren Terme führt insgesamt auf die Forderungen a, b, c ∈ L∞ (0, 1),

f ∈ L2 (0, 1)

an die Daten und die Forderungen u, u , v, v ∈ L2 (0, 1) an die Lösung bzw. an die Testfunktionen. Das führt uns zu folgender Menge als Arbeitsraum für Lösung und Testfunktionen: Definition

H 1 (0, 1) bezeichnet die Menge aller Funktionen v ∈ L2 (0, 1), die eine schwache Ableitung v ∈ L2 (0, 1) besitzen: H 1 (0, 1) = {v ∈ L2 (0, 1): v ∈ L2 (0, 1)}. In H 1 (0, 1) ist durch



(v, w)

H 1 (0,1)



1

1

v(x)w(x) dx +

= 0

v (x)w (x) dx

0

1

ein Skalarprodukt, das H -Skalarprodukt, die dazugehörige H 1 -Norm vH 1 (0,1) =





1



(v, v)H 1 (0,1) =

|v(x)| dx +

0

und die H 1 -Halbnorm 

1

2



1/2

|v (x)| dx 2

0



1

|v|H 1 (0,1) = v L2(0,1) =



1/2

|v (x)| dx 2

0

gegeben. H 1 (0, 1) nennt man einen Sobolew3 -Raum der Ordnung 1.

3 Sergei L’vovich

Sobolew(1908–1989), russischer Mathematiker

2 Ein erstes Beispiel einer Variationsformulierung

13

Wir werden später sehen, wie wichtig es ist, mit diesen Normen zu arbeiten. Man könnte diese Normen natürlich auch in den klassischen Funktionenräumen C[0, 1] bzw. C 1 [0, 1] (anstelle von L2 (0, 1) und H 1 (0, 1)) verwenden. Diese so normierten Räume sind allerdings nicht vollständig: Wir können aus dem Cauchy-Kriterium einer Folge nicht auf die Konvergenz der Folge schließen, eine sehr wichtige Eigenschaft ginge verloren. Siehe Übungsaufgabe 3 für ein Beispiel einer Cauchy-Folge in C 1 [0, 1] bezüglich der H 1 -Norm, die keinen Grenzwert in C 1 [0, 1] besitzt. Hingegen lässt sich zeigen, dass die Räume L2 (0, 1) und H 1 (0, 1) bezüglich der oben eingeführten Normen vollständig sind. L2 (0, 1) und H 1 (0, 1) sind also HilbertRäume.

Der Spuroperator Für die Menge H 1 (0, 1) als Teilmenge von lokal integrierbaren Funktionen ist die Bedeutung der wesentlichen Randbedingungen u(0) = g0 für eine Lösung u und die Forderung v(0) = 0 für eine Testfunktion zunächst nicht klar, da man lokal integrierbare Funktionen, die sich nur in einzelnen Punkten (allgemeiner auf einer Nullmenge) unterscheiden, als gleich betrachtet. Es bedarf daher einer genaueren Überlegung: Von entscheidender Bedeutung ist die folgende Ungleichung: Es gibt eine Konstante Ctr > 0 mit |v(0)| ≤ Ctr vH 1 (0,1)

Lemma für alle v ∈ C 1 [0, 1].

Beweis. Aus der Identität 

x

v(y) dy

v(0) = v(x) − 0

folgt mit Hilfe der Dreiecksungleichung und der Cauchy-Ungleichung 

x

|v(0)| ≤ |v(x)| +

|v (y)| dy ≤ |v(x)| +



0

1

|v (y)| dy ≤ |v(x)| + v L2(0,1) .

0

Durch Integration folgt  |v(0)|

1

≤

|v(x)| dx + v L2(0,1) ≤ vL2 (0,1) + v L2 (0,1)

0

≤

√  2 1/2 2 vL2 (0,1) + v 2L2 (0,1) .

Die behauptete Abschätzung gilt also für Ctr =

√

2.

Die Aussage dieses Lemmas lässt sich auch folgendermaßen ausdrücken: Der lineare Operator 0 : C 1 [0, 1] −→ R, der jeder Funktion v ∈ C 1 [0, 1] ihren Wert v(0) zuordnet, also 0v = v(0), ist bezüglich der H 1 -Norm beschränkt. Es lässt sich zeigen, dass C 1 [0, 1] bezüglich der H 1-Norm dicht in H 1 (0, 1) ist. Daher gibt es eine

14

2 Ein erstes Beispiel einer Variationsformulierung eindeutige Erweiterung des Operators 0 auf ganz H 1 (0, 1). Wir bezeichnen diesen erweiterten Operator wieder mit 0 , er heißt der Spuroperator. Der Ausdruck v(0) als alternative Schreibweise von 0v ist somit auf ganz v ∈ H 1 (0, 1) (nicht aber auf L2 (0, 1)) wohldefiniert und es gilt die Abschätzung des letzten Lemmas auf ganz H 1 (0, 1): |v(0)| ≤ Ctr vH 1 (0,1) für alle v ∈ H 1 (0, 1).

Das endgültige Variationsproblem Nach diesen Vorbereitungen lassen sich nun alle beteiligten Funktionenmengen exakt definieren: V0 = {v ∈ V |v(0) = 0},

V = H 1(0, 1),

Vg = {v ∈ V |v(0) = g0 }.

V bezeichnet also den Arbeitsraum, V0 ist der lineare Teilraum der Testfunktionen und Vg ist die lineare Mannigfaltigkeit, in der die Lösung u gesucht wird. Wir kommen somit zur endgültigenVariationsformulierung unseres Randwertproblems: Gesucht ist u ∈ Vg , sodass a(u, v) = f , v

für alle v ∈ V0

mit  a(w, v)

1

= 

a(x)w (x)v (x) + b(x)w (x)v(x) + c(x)w(x)v(x) dx,

0 1

f , v =

f (x)v(x) dx + g1 v(1) 0

für w, v ∈ V . Alle Ausdrücke sind für Daten a, b, c ∈ L∞ (0, 1),

f ∈ L2 (0, 1),

g 0 , g1 ∈ R

wohldefiniert. Wie man sofort sieht, hängt der Ausdruck a(w, v) sowohl von w als auch von v linear ab, definiert also eine Bilinearform a: V × V −→ R. Der Term f , v hängt linear von v ab, definiert also ein lineares Funktional f : V −→ R. Die Bezeichnung f , v ist einfach als Wert des Funktionals f für das Argument v, also als alternative Schreibweise für f (v) zu verstehen. Man beachte, dass das Symbol a sowohl zur Bezeichnung der Koeffizientenfunktion a(x) als auch zur Bezeichnung der Bilinearform a(w, v) verwendet wird. Wir verzichten auf die Einführung unterschiedlicher Symbole, da aus dem Zusammenhang stets klar sein wird, was gemeint ist. Analoges gilt für das Symbol f . Wir nennen das obige Problem ein (lineares) Variationsproblem (oder auch eine (lineare) Variationsgleichung), Lösungen dieses Variationsproblems werden schwache (oder auch verallgemeinerte) Lösungen genannt.

2 Ein erstes Beispiel einer Variationsformulierung Die Variationsformulierung für das eindimensionale Modellproblem lautet: Gesucht ist u ∈ Vg = {v ∈ V = H 1 (0, 1): v(0) = g0 }, sodass  

1 0

 1 u (x)v (x) dx = f (x)v(x) dx + g1 v(1) 0

 

 = a(u, v) = f , v

für alle v ∈ V0

WARNUNG: Es mag auf Grund der Herleitung der Eindruck entstehen, dass eine klassische Lösung automatisch auch eine schwache Lösung ist. Das ist zwar richtig, wenn wir von einer klassischen Lösung u ∈ C 2 [0, 1] ausgehen, nicht aber, wenn wir die Voraussetzungen an die Daten abschwächen: Zur korrekten klassischen Formulierung der Differentialgleichung genügen eigentlich die Bedingungen a ∈ C 1 (0, 1), b, c, f ∈ C(0, 1) und u ∈ C 2 (0, 1). Wegen der Randbedingung im Punkt x = 0 wird man zusätzlich die Stetigkeit von u in diesem Punkt fordern, wegen der Randbedingung im Punkt x = 1 die Stetigkeit von a und die stetige Differenzierbarkeit von u in diesem Punkt. Also können wir für die klassische Formulierung auch die Bedingungen a ∈ C 1 (0, 1) ∩ C(0, 1],

b, c, f ∈ C(0, 1),

g0, g1 ∈ R

an die Daten stellen und erwarten eine klassische Lösung u ∈ C 2 (0, 1) ∩ C 1 (0, 1] ∩ C[0, 1).

(2.5)

Eine solche klassische Lösung muss nicht notwendig eine quadratisch integrierbare Ableitung besitzen, siehe Übungsaufgabe 5. Also i. A.

klassische Lösung ⇒ schwache Lösung Nur wenn zusätzliche Integrierbarkeitsbedingungen gelten, ist eine klassische Lösung auch eine schwache Lösung. Um den Zusammenhang zwischen einer klassischen Lösung und einer schwachen Lösung noch näher zu beleuchten, untersuchen wir die umgekehrte Frage: Ist eine schwache Lösung auch eine klassische Lösung? Sei also u ∈ Vg eine schwache Lösung. Wir nehmen zusätzlich an, dass a stetig differenzierbar ist, b, c, f stetig sind und u zweimal stetig differenzierbar ist. Durch partielle Integration erhält man  0

1

1   a(x)u (x)v (x) dx = a(x)u (x)v(x) − 



1



0

0



 a(x)u (x) v(x) dx.

15 Beispiel

16

2 Ein erstes Beispiel einer Variationsformulierung Wegen v(0) = 0 folgt damit aus der Variationsgleichung  1    − a(x)u (x) + b(x)u (x) + c(x)u(x) v(x) dx a(1)u (1)v(1) + 0  1 f (x)v(x) dx + g1 v(1). (2.6) = 0

Wir wählen zunächst Testfunktionen v ∈ C0∞ (0, 1) (⊂ V0 ). Das bedeutet insbesondere v(0) = v(1) = 0. Dann folgt 

1



   − a(x)u(x) + b(x)u (x) + c(x)u(x) v(x) dx =



0

1

f (x)v(x) dx. 0

Es lässt sich zeigen, dass C0∞ (0, 1) bezüglich der L2 -Norm dicht in C[0, 1] liegt. Daher folgt sofort   − a(x)u(x) + b(x)u(x) + c(x)u(x) = f (x)

für alle x ∈ (0, 1).

Die Differentialgleichung ist also erfüllt und aus (2.6) wird die Bedingung: a(1)u (1)v(1) = g1 v(1)

für alle v ∈ V0.

Da v(1) beliebig gewählt werden kann, erhält man daraus die (natürliche) Randbedingung: a(1)u (1) = g1 . Hier sieht man, warum keine Einschränkungen an den Wert einer Testfunktion in einem Randpunkt mit Neumann-Randbedingung gestellt werden dürfen.Wir könnten sonst nicht die natürliche Randbedingung aus der Variationsgleichung extrahieren. WARNUNG:

i. A.

schwache Lösung ⇒ klassische Lösung Das ist offensichtlicher: Die obige Herleitung klappt nur, wenn zusätzliche Differenzierbarkeitsbedingungen gelten.

Ergänzende Hinweise Eine Vertiefung der hier verwendeten Begriffe und Aussagen aus der linearen Funktionalanalysis und über Sobolew-Räume findet man zum Beispiel in [1,2].

Übungsaufgaben 1. Zeigen Sie, dass jede lineare Differentialgleichung 2. Ordnung a(x)u (x) + b(x)u (x) + c(x)u(x) = f (x) für a ∈ C 1(0, 1) und b, c, f ∈ C(0, 1) auch in der Form    ¯ − a¯ (x)u (x) + b(x)u (x) + c(x)u(x) = f (x)

2 Ein erstes Beispiel einer Variationsformulierung mit geeigneten Funktionen a¯ ∈ C 1 (0, 1) und b¯ ∈ C(0, 1) geschrieben werden kann (und umgekehrt). Beide Formen einer allgemeinen linearen Differentialgleichung sind also (im Wesentlichen) ineinander transformierbar, die zweite Form führt zu einfacheren Ausdrücken in der Variationsgleichung. In physikalischen Problemstellungen besitzt der Ausdruck −¯a(x)u (x) aus der zweiten Form eine unmittelbare physikalische Interpretation (als Fluss q). 2. Zeigen Sie, dass jede lineare Differentialgleichung 2. Ordnung a(x)u (x) + b(x)u (x) + c(x)u(x) = f (x) für a ∈ C 2 (0, 1), b ∈ C 1(0, 1) und c, f ∈ C(0, 1) auch in der Form    ¯ − a(x)u ¯ (x) + b(x)u(x) + c¯ (x)u(x) = f (x) mit geeigneten Funktionen a¯ ∈ C 2 (0, 1), b¯ ∈ C 1 (0, 1) und c¯ ∈ C(0, 1) geschrieben werden kann (und umgekehrt). Beide Formen einer allgemeinen linearen Differentialgleichung sind also (im Wesentlichen) ineinander transformierbar. Ein Term von erster ¯ Ordnung in u lässt sich also auch als Beitrag zum Fluss (q = −¯a(x)u (x) + b(x)u(x)) unterbringen. In Bilanzgleichungen beschreiben Terme von erster Ordnung in u (in welcher Form auch immer) zum Beispiel den konvektiven Transport einer Größe. 3. Die Funktionenfolge (uk )k∈N ist durch ⎧ ⎪ ⎪ 2x ⎪ ⎪ ⎪ ⎪ ⎪   ⎨ 1 2 1 uk (x) = − 2k x − 1− ⎪ 2k 2 ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎩ 2(1 − x)

für für für

  1 1 x ∈ 0, − , 2 2k   1 1 1 1 x∈ − , + , 2 2k 2 2k   1 1 x∈ + ,1 2 2k

gegeben. Zeigen Sie: uk ∈ C 1 [0, 1]. Berechnen Sie uk − uH 1 (0,1) mit ⎧ ⎨ 2x für x ∈ [0, 1/2] , u(x) = ⎩ 2(1 − x) für x ∈ (1/2, 1] und zeigen Sie lim uk − uH 1(0,1) = 0.

k→∞

Schließen Sie daraus,dass (uk )k∈N eine Cauchy-Folge in C 1 [0, 1] bezüglich der H 1 -Norm ist, aber keinen Grenzwert in C 1 [0, 1] besitzt. 4. Wandeln Sie das Randwertproblem in klassischer Formulierung −u (x)

=

f (x)

−u (0)

=

g0 − ˛0 u(0),

u(1)

=

g1

für alle x ∈ (0, 1),

in ein Variationsproblem um. Hinweis: Die Randbedingung bei x = 0 ist eine natürliche Randbedingung (Robin-Randbedingung oder Randbedingung der 3. Art): Mit ihrer Hilfe lässt sich die Größe u (0) aus dem Randterm, der durch partielle Integration entsteht, durch die rechte Seite der Randbedingung ersetzen. Bringen Sie alle bilinearen Terme auf die linke Seite und alle linearen Terme auf die rechte Seite der Gleichung, um die Bilinearform a und das lineare Funktional f zu identifizieren.

17

18

2 Ein erstes Beispiel einer Variationsformulierung 5. Bestätigen Sie, dass u(x) =

√

2x − x2

eine klassische Lösung (im Sinne von (2.5) auf Seite 15) des Randwertproblems   = 1 für alle x ∈ (0, 1), − a(x)u (x) u(0)

=

0,



a(1)u (1) = 0 √ mit a(x) = 2x − x 2 ist und zeigen Sie für diese klassische Lösung  1 |u (x)|2 dx = ∞. 0

Das zeigt, dass u ∈ / H 1(0, 1), also ist u keine schwache Lösung.

3

Der Satz von Lax-Milgram

Der Erfolg einer numerischen Methode zur (näherungsweisen) Lösung eines mathematischen Problems hängt entscheidend vom theoretischen Wissen über das Problem ab. Eine erste wichtige Frage ist die Frage nach der Existenz einer Lösung. Hier geht es nicht um die Diskussion der Existenz einer Lösung eines realen Problems, sondern um die Existenz der Lösung des mathematischen Modells, das hoffentlich ein möglichst genaues Abbild der realen Problemstellung liefert. Lässt sich die Existenz einer Lösung des Modells nachweisen, so ist eine Minimalanforderung an ein sinnvolles Modell gesichert: Die Bedingungen, die an eine Lösung gestellt werden, widersprechen einander nicht, eine durchaus nichttriviale Sache bei Differentialgleichungen mit Zusatzbedingungen, wie Anfangs- und/oder Randbedingungen.Als nächstes möchte man Eindeutigkeit der Lösung: Die gestellten Bedingungen sollten ausreichend sein, um genau eine Lösung zu charakterisieren. Und schließlich sollten kleine Änderungen der Daten auch nur kleine Änderungen in der Lösung bewirken. Konkrete Daten eines Problems sind meist mit Messfehlern behaftet. Diese Datenfehler sollten sich nicht dramatisch auswirken. Sind diese drei Anforderungen an ein Problem, nämlich Existenz, Eindeutigkeit der Lösung und stetige Abhängigkeit der Lösung von den Daten, erfüllt, so sprechen wir von einem korrekt gestellten (oder auch gut gestellten, engl.: well posed) Problem. Ist eine dieser Anforderungen nicht erfüllt, so spricht man von einem inkorrekt gestellten (oder auch schlecht gestellten, engl.: ill posed) Problem. Die Behandlung inkorrekt gestellter Probleme erfordert zunächst eine sorgfältige Diskussion des Lösungsbegriffes und ist nicht Gegenstand dieses Buches.

Das abstrakte Problem In Kapitel 2 haben wir ein lineares Randwertproblem als lineares Variationsproblem mit Hilfe einer speziellen Bilinearform a und einem speziellen linearen Funktional f in einem speziellen Hilbert-Raum V , einer speziellen linearen Mannigfaltigkeit Vg ⊂ V für die Lösung und einem speziellen Teilraum V0 ⊂ V für die Testfunktionen formuliert. Wir abstrahieren nun von den Details und betrachten ein allgemeines Variationsproblem: Gesucht ist u ∈ Vg , sodass a(u, v) = f , v

für alle v ∈ V0,

(3.1)

20

3 Der Satz von Lax-Milgram Hilbert-Raum mit einer Bilinearform a und einem linearen Funktional f auf einem √ V mit dem Skalarprodukt (w, v) und der dazugehörigen Norm v = (v, v), einem Teilraum V0 ⊂ V und einer linearen Mannigfaltigkeit Vg ⊂ V .Abstraktion in diesem Sinne soll die Problemstellung nicht verkomplizieren, sondern unseren Blick auf das Wesentliche lenken und dadurch die Problemstellung durchschaubarer machen.

Homogenisierung Bevor wir klären, unter welchen Bedingungen das Variationsproblem (3.1) korrekt gestellt ist, formulieren wir es geringfügig um. Dazu nehmen wir an, dass es ein Element g ∈ V gibt, sodass Vg = g + V0

mit

g + V0 = {g + v: v ∈ V0 }.

(Für das Problem aus Kapitel 2 erfüllt die konstante Funktion g(x) = g0 diese Bedingung.) Unter dieser Annahme ist es nahe liegend, den Ansatz u = g + w mit w ∈ V0 zu verwenden. Aus (3.1) wird dann das äquivalente (homogenisierte) Variationsproblem: Gesucht ist w ∈ V0, sodass a(w, v) = fˆ , v

für alle v ∈ V0

mit

fˆ , v = f , v − a(g, v).

Das Funktional fˆ ist natürlich ebenfalls linear. Mit den Umbenennungen V0 → V ,

fˆ → f ,

w→u

lautet unsere (umgebaute) Problemstellung also: Gesucht ist u ∈ V , sodass a(u, v) = f , v

für alle v ∈ V ,

(3.2)

wobei a eine Bilinearform und f ein lineares Funktional auf einem Hilbert-Raum V ist. Das entspricht in den ursprünglichen Bezeichnungen dem so genannten homogenen Fall: g = 0, V0 = Vg = V .

Der Rieszsche Darstellungssatz Wir nähern uns der Frage nach der Korrektgestelltheit in zwei Schritten. Zunächst untersuchen wir das Variationsproblem für eine sehr spezielle Bilinearform, nämlich für das Skalarprodukt in V : Gesucht ist u ∈ V , sodass (u, v) = f , v

für alle v ∈ V .

Dieses Problem lässt sich auch als Minimierungsproblem formulieren:

(3.3)

3 Der Satz von Lax-Milgram Sei f ein lineares Funktional auf V . Dann ist das Variationsproblem (3.3) zu folgendem Minimierungsproblem äquivalent: Gesucht ist u ∈ V , sodass J(u) = min J(v) v∈V

mit

J(v) =

21 Lemma

1 (v, v) − f , v . 2

Beweis. Jeder der folgenden Äquivalenzen lässt sich leicht bestätigen: J(u) = min J(v) v∈V

⇐⇒ ⇐⇒ ⇐⇒ ⇐⇒

J(u) ≤ J(u + tw) für alle w ∈ V , t ∈ [0, 1]

t2 J(u) ≤ J(u) + t (u, w) − f , w) + (w, w) für alle w ∈ V , t ∈ [0, 1] 2 t (u, w) − f , w) + (w, w) ≥ 0 für alle w ∈ V , t ∈ [0, 1] 2 (u, w) − f , w) ≥ 0 für alle w ∈ V

Die Behauptung folgt sofort für w = v und w = −v mit einem beliebigen v ∈ V . Die Äquivalenz von Minimierungsproblemen undVariationsproblemen wird uns noch mehrmals in diesem Buch begegnen. Wir diskutieren nun das Variationsproblem (3.3) bzw. das äquivalente Minimierungsproblem für ein beschränktes lineares Funktional f , also für f ∈ V ∗, wobei V ∗ den Dualraum von V , den Raum aller beschränkten linearen Funktionale auf V bezeichnet. Die Norm von f ∈ V ∗ ist bekanntlich durch f  = sup 0=v∈V

f , v v

erklärt. Da keine Verwechslungsgefahr besteht, werden die Normen in V und in V ∗ im Buch stets mit dem gleichen Symbol bezeichnet. Mit diesen Vorbereitungen erhält man die folgende zentrale Aussage. Rieszscher1 Darstellungssatz. Sei V ein reeller Hilbert-Raum und f ∈ V ∗ . Dann gibt es eine eindeutige Lösung u ∈ V des Variationsproblems (3.3) und es gilt: u = f . Beweis. Das Funktional J ist nach unten beschränkt: J(v) ≥

1 1 v2 − f v ≥ − f 2 . 2 2

Daher gibt es eine Folge (uk )k∈N in V mit J(uk ) → inf J(v) > −∞. v∈V

1 Frigyes Riesz

(1880–1956), ungarischer Mathematiker

Satz

22

3 Der Satz von Lax-Milgram Die Folge (uk )k∈N erfüllt das Cauchy-Kriterium: uk − ul 2

= = ≤

2uk 2 + 2ul 2 − uk + ul 2   uk + ul 4J(uk ) + 4J(ul ) − 8J 2 4J(uk ) + 4J(ul ) − 8 inf J(v) → 0 v∈V

für k, l → ∞.

Da V vollständig ist, konvergiert die Folge (uk )k∈N gegen einen Grenzwert u ∈ V . Wegen der Stetigkeit von J(v) folgt: J(u) = lim J(uk ) = inf J(v). v∈V

k→∞

Angenommen, uˆ ∈ V sei eine weitere Lösung des Variationsproblems (3.3), also (ˆu, v) = f , v

für alle v ∈ V .

Dann folgt durch Subtraktion: (ˆu − u, v) = 0 für alle v ∈ V und damit uˆ − u = 0, also uˆ = u.Die Lösung ist also eindeutig.Aus der Cauchy-Ungleichung und der Definition der Norm von f folgt u = sup 0=v∈V

Definition

(u, v) f , v = sup = f . v 0=v∈V v



Die Abbildung R : V ∗ −→ V , die jedem f ∈ V ∗ die eindeutige Lösung u = Rf ∈ V des Variationsproblems (3.3) zuordnet, heißt der Riesz-Isomorphismus. Offensichtlich ist R linear und es gilt (Rf , v) = f , v

für alle v ∈ V , f ∈ V ∗ .

(3.4)

Wegen des Rieszschen Darstellungssatzes ist R bijektiv und Rf und f besitzen die gleiche Norm. Man nennt R daher einen isometrischen Isomorphismus, mit dessen Hilfe der Dualraum V ∗ mit V identifiziert werden kann. Aus (3.4) erhält man für die Umkehrabbildung I = R−1 : (w, v) = Iw, v

für alle v, w ∈ V .

Also ist I offensichtlich durch I : V −→ V ∗

mit

Iw, v = (w, v)

gegeben. Hier wird (wieder) die Notation Iw, v als Abkürzung für (Iw)(v) verwendet.

3 Der Satz von Lax-Milgram

23

Der allgemeine Fall Wir wenden uns nun dem allgemeinen Variationsproblem (3.2) zu. Zunächst formulieren wir das Variationsproblem als lineare Operatorgleichung: Unter der Annahme, dass die Bilinearform a beschränkt ist, d.h. es gibt eine Konstante 2 mit |a(w, v)| ≤ 2 wv

für alle w, v ∈ V ,

ist der Term a(w, v) für festes w ∈ V ein lineares und beschränktes Funktional in v ∈ V , also a(w, .) ∈ V ∗ . Der Operator, der jedem Element w ∈ V das lineare Funktional a(w, .) ∈ V ∗ zuordnet, wird mit A bezeichnet: A: V −→ V ∗

mit

Aw, v = a(w, v).

Auch hier ist Aw, v die Abkürzung für (Aw)(v). Der Operator A ist linear und beschränkt. Je nachdem in welche Richtung man die Identität Aw, v = a(w, v) liest, kann man jeder beschränkten Bilinearform a auf V einen linearen und beschränkten Operator A: V −→ V ∗ zuordnen, oder aber auch jedem linearen und beschränkten Operator A: V −→ V ∗ eine beschränkte Bilinearform a auf V zuordnen. Man beachte, dass der vorhin eingeführte Operator I in gleicher Weise dem Skalarprodukt in V , einer sehr speziellen Bilinearform auf V , zugeordnet ist. Mit der soeben eingeführten Notation lässt sich das Variationsproblem (3.2) als lineare Operatorgleichung Au = f schreiben. Diese Operatorgleichung lässt sich leicht in eine so genannte Fixpunktgleichung umwandeln: Zuerst wird auf beide Seiten der Gleichung der Rieszsche Isomorphismus R angewendet: RAu = Rf . Dadurch entstehen auf der linken und rechten Seite Elemente in V , eine für die weiteren Umformungen wichtige Voraussetzung. Der Term auf der linken Seite wird auf beiden Seiten subtrahiert, dann die Gleichung mit einem reellen Parameter  = 0 multipliziert und auf beiden Seiten u ∈ V addiert: u = u +  R(f − Au). Für diese zur ursprünglichen Gleichung äquivalente Fixpunktgleichung lässt sich die Existenz und Eindeutigkeit einer Lösung mit Hilfe des Banachschen Fixpunktsatzes zeigen. Wie beim Rieszschen Darstellungssatz benötigt man für den Banachschen Fixpunktsatz einen vollständigen Raum. Für die Diskussion in diesem Buch reicht es, einen vollständigen normierten Raum, also einen Banach-Raum, vorauszusetzen: Banachscher2 Fixpunktsatz. Sei W eine abgeschlossene Teilmenge eines BanachRaumes V und G: W −→ W eine Kontraktion, d.h. es gibt eine Konstante q < 1 2 Stefan Banach

(1892–1945), polnischer Mathematiker

Satz

24

3 Der Satz von Lax-Milgram mit G(w) − G(v) ≤ q w − v

für alle v, w ∈ W .

Dann existiert genau ein Element u ∈ W mit u = G(u).

(3.5)

Die Folge (uk )k∈N0 , gegeben durch die Fixpunktiteration uk+1 = G(uk ), konvergiert für beliebige Startwerte u0 ∈ W gegen die Lösung u und es gilt: uk+1 − u ≤ q uk − u

für alle k ∈ N0 .

Beweis. Wir zeigen zunächst, dass die Folge (uk )k∈N0 eine Cauchy-Folge ist: Es gilt um − um+1  = G(um−1) − G(um ) ≤ q um−1 − um , woraus durch wiederholte Anwendung sofort folgt: um − um+1  ≤ qm u0 − u1. Daher gilt für k < l: uk − ul 

≤ uk − uk+1  + uk+1 − uk+2  + · · · + ul−1 − ul  ≤ qk u0 − u1 + qk+1 u0 − u1  + · · · + ql−1 u0 − u1    = qk + qk+1 + · · · + ql−1 u0 − u1 ≤



 qk qk + qk+1 + · · · + ql−1 + ql + · · · u0 − u1  = u0 − u1 . 1−q

Damit folgt wegen 0 ≤ q < 1 sofort das Cauchy-Kriterium: uk − ul  → 0

für

k, l → ∞.

Als abgeschlossene Teilmenge eines Banach-Raumes ist W vollständig, die Folge (uk )k∈N0 konvergiert daher gegen einen Grenzwert u ∈ W . G: W −→ W ist eine Kontraktion und daher stetig, also: u = lim uk = lim G(uk−1 ) = G( lim uk−1 ) = G(u). k→∞

k→∞

k→∞

Angenommen, uˆ ∈ W sei eine weitere Lösung der Gleichung (3.5), also: uˆ = G(ˆu). Dann folgt: uˆ − u = G(ˆu) − G(u) ≤ q uˆ − u. Wegen 0 ≤ q < 1 ist das nur möglich, falls uˆ − u = 0, also uˆ = u. Die Lösung ist in W eindeutig.

3 Der Satz von Lax-Milgram

25

Schließlich erhält man sofort die Fehlerabschätzung: uk+1 − u = G(uk ) − G(u) ≤ q uk − u.



Nach diesen Vorbereitungen kommen wir nun zum zentralen Ergebnis dieses Kapitels, dem Satz von Lax-Milgram. Die für diesen Satz entscheidenden Voraussetzungen an die Bilinearform a sind Inhalt der folgenden Definition: 1. Eine Bilinearform a: V × V −→ R heißt elliptisch auf V (V -elliptisch), falls es eine Konstante 1 > 0 gibt, sodass a(v, v) ≥ 1 v2

Definition

für alle v ∈ V .

2. Eine Bilinearform a: V ×V −→ R heißt beschränkt auf V (V -beschränkt), falls es eine Konstante 2 ≥ 0 gibt, sodass |a(w, v)| ≤ 2 wv

für alle w, v ∈ V .

Satz von Lax3-Milgram4 . Seien V ein reeller Hilbert-Raum, f ∈ V ∗ und a: V × V −→ R eine V -elliptische und V -beschränkte Bilinearform mit den Konstanten 1 und 2. Dann existiert eine eindeutige Lösung u des Variationsproblems (3.2) und es gilt: 1 1 f  ≤ u ≤ f . 2 1

(3.6)

Beweis. Wie bereits festgestellt wurde, lässt sich die ursprüngliche Operatorgleichung als eine Fixpunktgleichung schreiben: u = G (u) mit G (v) = v +  R(f − Av) = M v + g

und M = I −  RA,

g =  Rf .

Dabei bezeichnet I den Einheitsoperator. Wir werden zeigen, dass G : V −→ V für eine geeignete Wahl des Parameters  eine Kontraktion ist. Es gilt: G (w) − G (v) = M (w − v) ≤ M w − v.

4 Peter David

Lax (*1926), ungarischer Mathematiker Milgram (1912–1961), amerikanischer Mathematiker

4 Arthur Norton

Satz

26

3 Der Satz von Lax-Milgram Es genügt also M  < 1 zu zeigen: Für ein beliebiges Element v ∈ V gilt: = (M v, M v) = (v −  RAv, v −  RAv) = (v, v) − 2 (RAv, v) +  2 (RAv, RAv).

M v2

Mit Hilfe des Rieszschen Darstellungssatzes erhält man (RAv, v) = Av, v = a(v, v) ≥ 1 v2 und (RAv, RAv)

=

|Av, w |2 w2

RAv2 = Av2 = sup 0=w∈V

|a(v, w)| v2 w2 ≤ 22 sup = 22 v2 . 2 2 w w 0=w∈V 2

=

sup 0=w∈V

Damit folgt: ≤

M v2 Also M  = sup

0=v∈V

(1 − 21 + 22  2 ) v2

M v ≤ q() v

für alle v ∈ V . 

mit

q() =

1 − 21 + 22  2 .

Durch elementare Rechnung zeigt man q() < 1 ⇐⇒ 0 <  <

21 . 22

Also ist die Abbildung G : V −→ V für Parameter  ∈ (0, 21/22) auf V eine Kontraktion. Existenz und Eindeutigkeit folgt dann aus dem Banachschen Fixpunktsatz. Die Abschätzung der Lösung folgt sofort aus 1 u2 ≤ a(u, u) = f , u ≤ f u und f  = sup 0=v∈V

f , v a(u, v) 2 uv = sup ≤ sup = 2u. v v v 0=v∈V 0=v∈V



Das dazugehörige Iterationsverfahren Der Banachsche Fixpunktsatz garantiert nicht nur die Existenz einer eindeutigen Lösung u, sondern liefert auch ein iteratives Verfahren zur Approximation von u: Die Folge (uk )k∈N0 , gegeben durch die Fixpunktiteration uk+1 = G (uk ) = uk +  I −1 (f − Auk ), konvergiert für beliebige Startwerte u0 ∈ V gegen die Lösung u für Parameter  ∈ (0, 21/22 ). In diesem Sinne ist der Existenzbeweis konstruktiv. Mit den

3 Der Satz von Lax-Milgram Abkürzungen rk = f − Auk (Residuum) und wk = I −1 rk (Korrektur) lässt sich ein Iterationsschritt in 3 Teile zerlegen: 1. Berechne das Residuum rk = f − Auk der aktuellen Näherung uk . 2. Berechne die Korrektur wk als Lösung der Gleichung Iwk = rk . 3. Berechne die neue Näherung uk+1 = uk +  wk . Die Durchführung des zweiten Schrittes entspricht der Anwendung des Rieszschen Isomorphismus auf das Residuum: wk = I −1 rk = Rrk . Der Rieszsche Darstellungssatz sichert zwar die Existenz, der Beweis ist aber nicht konstruktiv. Die Gleichung Iwk = rk = f − Auk zur Berechnung der Korrektur wk lässt sich auch folgendermaßen schreiben: Iwk , v = f , v − Auk , v

für alle v ∈ V ,

also laut Definition der linearen Operatoren I und A: (wk , v) = f , v − a(uk , v)

für alle v ∈ V .

(3.7)

Die Berechnung von wk ∈ V erfordert somit die Lösung eines Variationsproblems mit dem Skalarprodukt in V als Bilinearform und dem Residuum als lineares Funktional auf V . Für das diskutierte Randwertproblem in V = H 1 (0, 1) hat diese Bilinearform folgendes Aussehen:  (w, v) = (w, v)H 1 (0,1) =

1

 w (x)v (x) + w(x)v(x) dx.

0

Das Variationsproblem für wk entspricht also offensichtlich genau der Variationsformulierung eines Randwertproblems mit den Koeffizienten a(x) = 1, b(x) = 0 und c(x) = 1. Der dazugehörige Differentialoperator L0 ist in klassischer Form durch L0 w(x) = −w (x) + w(x) gegeben. Die Berechnung der Korrektur wk erfordert also die Lösung eines Randwertproblems, das etwa ebenso schwierig wie das ursprüngliche Randwertproblem ist. Trotzdem bildet dieses (theoretische) Iterationsverfahren wichtige Hinweise für die tatsächliche Berechnung (einer Näherung) der Lösung, wie wir später sehen werden.

Fehlerabschätzungen Als eine weitere Konsequenz aus dem Banachschen Fixpunktsatz erhält man für  ∈ (0, 21/22) folgende Abschätzung für die Fehler aufeinander folgender Iterationen: uk+1 − u ≤ q uk − u mit q (= q()) < 1.

(3.8)

27

28 Definition

3 Der Satz von Lax-Milgram Erzeugt ein Iterationsverfahren Folgen von Näherungen mit (3.8) für eine Konstante q mit 0 ≤ q < 1 und hinreichend große k ∈ N0 , so nennt man es q-linear konvergent (der Buchstabe q steht für quotient, da hier eine Aussage über den Quotienten uk+1 − u/uk − u getroffen wird). Das Infimum aller solcher Faktoren q heißt die (q-) Konvergenzrate des Iterationsverfahrens. Aus der obigen Abschätzung lässt sich sofort eine weitere Abschätzung des Fehlers ableiten: uk − u ≤ C qk (3.9) mit C = u0 − u und q (= q()) < 1.

Definition

Erzeugt ein Iterationsverfahren Folgen von Näherungen mit (3.9) für Konstanten q mit 0 ≤ q < 1, C ≥ 0 und hinreichend große k ∈ N0 , so nennt man es r-linear konvergent (der Buchstabe r steht für root, da hier eine Aussage über die Wurzel √ k uk − u getroffen wird.) In diesem Sinne ist die Fixpunktiteration für alle Startwerte sowohl q-linear als auch r-linear konvergent und q() ist eine obere Schranke für die q-Konvergenzrate. Der kleinstmögliche Wert der Schranke q = q() wird für opt = 1/22 angenommen und man erhält als obere Schranke für den Konvergenzfaktor:  qopt = q(opt ) =

1−

1 2

mit  =

2 . 1

Die Kondition des Problems Die Abschätzung (3.6) zeigt, dass der lineare Operator A: V −→ V ∗ eine bijektive Abbildung mit 1 A ≤ 2 und A−1  ≤ 1 ist, wobei die Normen (wie üblich) durch A = sup 0=v∈V

Av v

und

A−1  = sup

0=g∈V ∗

A−1 g g

erklärt sind. Wir übernehmen wieder das Symbol der Norm in V , da auch hier keine Verwechslungsgefahr besteht. Aus der Beschränktheit und Linearität von A−1 folgt natürlich die stetige Abhängigkeit der Lösung u ∈ V von den Daten f ∈ V ∗ : Für f , f¯ ∈ V ∗ mit den dazugehörigen Lösungen u, u¯ ∈ V , also für Au = f

und

A¯u = f¯ ,

3 Der Satz von Lax-Milgram

29

erhält man durch Subtraktion A(¯u − u) = f¯ − f und daher u = A−1 f

mit

u = u¯ − u, f = f¯ − f .

Daraus folgt die Abschätzung u ≤ A−1  f . Wegen f  = Au ≤ Au folgt daraus für u = 0: f  u ≤ AA−1 . u f  Interpretiert man f als exakte Daten und f¯ als gestörte Daten, so liefert die erste Ungleichung eine Aussage über die Größe (gemessen durch die Norm) des absoluten Fehlers u = u¯ − u in der Lösung in Abhängigkeit des absoluten Datenfehlers f = f¯ − f . Die zweite Beziehung zwischen den entsprechenden relativen Fehlern u/|u und f /f  ist im Allgemeinen aussagekräftiger. Ein Problem heißt gut konditioniert (oder auch: datenstabil), wenn kleine Fehler der Daten nur kleine Störungen der Lösung bewirken. Andernfalls heißt das Problem schlecht konditioniert (dateninstabil). In unserem Fall ist das Problem sicherlich gut konditioniert, wenn A A−1  klein ist. Die Zahl

Definition (A) = AA−1

heißt die Konditionszahl des Operators A. Wegen 1 = I = AA−1  ≤ AA−1  ist 1 der kleinstmögliche Wert für die Konditionszahl. Unter den Bedingungen des Satzes von Lax-Milgram gilt offensichtlich die Abschätzung (A) ≤ 2 /1. Ist die Konditionszahl (A) groß, dann ist das Problem zumindest für spezielle rechte Seiten f schlecht konditioniert.

Der symmetrische und nicht-negative Fall Eine spezielle Rolle spielen Variationsprobleme mit einer symmetrischen Bilinearform a, d.h.: a(w, v) = a(v, w) für alle w, v ∈ V . Unter der zusätzlichen Voraussetzung, dass a nicht-negativ ist, d.h. a(v, v) ≥ 0

für alle v ∈ V ,

zeigt man völlig analog wie bei der Diskussion des Rieszschen Darstellungssatzes, dass das Variationsproblem (3.2) äquivalent zu folgendem Minimierungsproblem

30

3 Der Satz von Lax-Milgram ist: Gesucht ist u ∈ V , sodass J(u) = min J(v) v∈V

mit

J(v) =

1 a(v, v) − f , v . 2

Man nennt J das Ritzsche Energiefunktional. Auf die selbe Art erhält man für das ursprüngliche Variationsproblem (3.1) mit Vg = g + V0 das äquivalente Minimierungsproblem: Gesucht ist u ∈ Vg mit J(u) = min J(v). v∈Vg

Unter den Bedingungen des Satzes von Lax-Milgram lässt sich die Abschätzung der Konvergenzrate für symmetrische Bilinearformen a verschärfen. Für eine symmetrische Bilinearform ist M selbstadjungiert, d.h.: (M w, v) = (M v, w)

für alle w, v ∈ V .

Das folgt sofort aus der Identität (M w, v) = (w, v)− a(w, v).Da M selbstadjungiert ist, lässt sich folgende Darstellung der Norm zeigen: M  = sup 0=v∈V

|(M v, v)| . (v, v)

Der Ausdruck (M v, v) = (v, v) −  (RAv, v) = (v, v) −  a(v, v) lässt sich für Parameter  > 0 unter den Bedingungen des Satzes von Lax-Milgram leicht nach unten und oben abschätzen: (1 −  2) (v, v) ≤ (M v, v) ≤ (1 −  1 ) (v, v). Daher gilt |(M v, v)| ≤ max(|1 − 1 |, |1 − 2 |) (v, v). Also M  = sup 0=v∈V

|(M v, v)| ≤ q() (v, v)

mit

q() = max(|1 − 1 |, |1 − 2 |).

Durch elementare Rechnung zeigt man q() < 1 ⇔ 0 <  <

2 . 2

Die Schranke q() nimmt ihr Minimum für opt = 2/(1 + 2 ) an und man erhält: qopt = q(opt ) =

2 −  1  − 1 = 2 + 1  + 1

mit  =

2 . 1

3 Der Satz von Lax-Milgram

Anwendung auf das Randwertproblem Wir werden nun alleVoraussetzungen des Satzes von Lax-Milgram für dieVariationsformulierung des Randwertproblems aus Kapitel 2 überprüfen, um zu klären, unter welchen Bedingungen eine (schwache) Lösung des Randwertproblems existiert und eindeutig ist. Wir beginnen mit dem einfachen Nachweis der Beschränktheit von f und a in V = H 1 (0, 1): Mit Hilfe der Dreiecksungleichung, der Cauchy-Ungleichung und der Abschätzung des Spuroperators (diesmal für den Wert an der Stelle 1) erhält man:   |f , v | = 

1 0

  f (x)v(x) dx + g1 v(1)

≤ f L2 (0,1) vL2 (0,1) + Ctr |g1 | vH 1(0,1) ≤ C vH 1 (0,1) mit C = f L2(0,1) + Ctr |g1| und |a(w, v)|

=

   

1 0



    a(x)w (x)v (x) + b(x)w (x)v(x) + c(x)w(x)v(x) dx 

≤ aL∞ (0,1) w L2(0,1) v L2(0,1) + bL∞(0,1) w L2 (0,1) vL2(0,1) + cL∞(0,1) wL2 (0,1) vL2 (0,1) ≤ (aL∞ (0,1) + bL∞(0,1) + cL∞ (0,1) ) wH 1 (0,1) vH 1 (0,1) . 

 = 2 Das homogenisierte Variationsproblem ist im Teilraum V0 des Hilbert-Raumes V = H 1 (0, 1) formuliert. V0 ist der Kern des linearen und beschränkten Spuroperators 0. Damit ist V0 abgeschlossen und daher vollständig, also ein Hilbert-Raum. Die auf ganz V beschränkte Bilinearform a ist natürlich auf dem Teilraum V0 ebenfalls beschränkt. Durch die Homogenisierung des Problems erhält man eine modifizierte rechte Seite: fˆ , v = f , v − a(g, v). Aufgrund der bereits nachgewiesenen Beschränktheit von f und a auf V folgt sehr einfach die Beschränktheit von fˆ auf V und somit auch auf V0:   |fˆ , v | ≤ |f , v | + |a(g, v)| ≤ f  + 2 gH 1 (0,1) vH 1 (0,1) . Die einzige offene Frage ist die V0-Elliptizität von a. Wir werden diese Eigenschaft nur für das Modellproblem (a(x) = 1, b(x) = 0, c(x) = 0) nachweisen, siehe die Übungsaufgaben für Erweiterungen. Als Hilfsmittel benötigen wir dazu die so genannte Friedrichs5-Ungleichung:

5 Kurt Otto

Friedrichs (1901–1982), deutsch-amerikanischer Mathematiker

31

32 Lemma

3 Der Satz von Lax-Milgram Friedrichs-Ungleichung. Es gibt eine Konstante CF > 0 mit vL2(0,1) ≤ CF |v|H 1 (0,1)

für alle v ∈ V0 = {v ∈ H 1 (0, 1): v(0) = 0}.

Beweis. Sei v ∈ C 1 [0, 1] mit v(0) = 0. Aus der Identität 

x

v(x) =

v (y) dy

0

erhält man mit Hilfe der Cauchy-Ungleichung 

x

|v(x)| ≤

|v (y)| dy ≤

0



1

|v (y)| dy ≤ v L2 (0,1) .

0

Durch Quadrieren und Integrieren über (0, 1) folgt v|2L2(0,1) ≤ v 2L2 (0,1) . Es lässt sich zeigen, dass C 1 [0, 1] ∩ V0 bezüglich der H 1 -Norm dicht in V0 ist, alle involvierten Ausdrücke sind bezüglich der H 1 -Norm stetig. Daher gilt die Ungleichung auch auf dem Abschluss von C 1 [0, 1] ∩ V0, also auch auf V0 . Diese Argumentationskette wird Abschließungsprinzip (engl.: closure argument) genannt. Bemerkung. Die Friedrichs-Ungleichung gilt nicht in V = H 1 (0, 1): Für nichtverschwindende konstante Funktionen ist die rechte Seite der Ungleichung gleich 0, die linke ist größer als 0. Mit Hilfe der Friedrichs-Ungleichung folgt die Abschätzung |v|2H 1 (0,1) ≤ v2H 1 (0,1) = v2L2(0,1) + |v|2H 1 (0,1) ≤ (CF2 + 1) |v|2H 1 (0,1) . Die H 1 -Halbnorm |v|H 1 (0,1) ist also tatsächlich eine Norm auf V0 , die zur ursprünglichen Norm vH 1 (0,1) äquivalent ist. Damit lässt sich die Elliptizität von a auf V0 sofort zeigen: 1 a(v, v) = |v|2H 1 (0,1) ≥ 2 v2H 1 (0,1) . CF + 1   = 1

Übungsaufgaben Bisher wurde die Elliptizität der Bilinearform  a(w, v) =

1



a(x)w  (x)v (x) + b(x)w  (x)v(x) + c(x)w(x)v(x) dx

0

nur für den Spezialfall a(x) = 1, b(x) = 0, c(x) = 0 auf V0 = {v ∈ H 1(0, 1): v(0) = 0} nachgewiesen. Wir betrachten nun allgemeinere Fälle. Ausgangspunkt ist folgende einfache

3 Der Satz von Lax-Milgram Abschätzung:  a(v, v) ≥ a0 |v|2H 1 (0,1) +

0

1

b(x)v (x)v(x) dx + c0 v2L2 (0,1)

(3.10)

mit a0 = inf x∈(0,1) a(x) und c0 = inf x∈(0,1) c(x). 6. Mit Hilfe der Cauchy-Ungleichung lässt sich der mittlere Term auf der rechten Seite von (3.10) leicht nach unten abschätzen:  1 b(x)v (x)v(x) dx ≥ −bL∞ (0,1) |v|H 1 (0,1) vL2 (0,1) . 0

Verwenden Sie diese Abschätzungen, um die Elliptizität von a(w, v) auf V0 = {v ∈ H 1 (0, 1): v(0) = 0} unter den Bedingungen a0 > 0,

CF bL∞ (0,1) < a0 ,

c0 ≥ 0

nachzuweisen, wobei CF die Konstante der Friedrichs-Ungleichung ist. 7. Zeigen Sie die Elliptizität von a(w, v) auf ganz H 1 (0, 1) unter den Bedingungen √ a0 > 0, bL∞ (0,1) < 2 a0 c0 , c0 > 0. Hinweis: Aus den Abschätzungen von vorhin folgt sofort: a(v, v) ≥ q(vL2 (0,1) , |v|H 1(0,1) ) mit q( 0 , 1 ) = a0 12 − bL∞ (0,1) 1 0 + c0 02 . Zeigen und verwenden Sie: q( 0 , 1 ) ≥ a0 C 12 und q( 0 , 1 ) ≥ c0 C 02 mit C = 1 − b2L∞(0,1) /(4a0 c0 ). 8. Die beiden vorigen Übungsaufgaben zeigen, dass die Elliptizität der Bilinearform auch gilt, wenn b(x) (in einem geeigneten Sinn) klein im Vergleich zu a(x) bzw. klein im Vergleich zu c(x) ist. Aber auch wenn b(x) groß ist, kann unter geeigneten Voraussetzungen die Bilinearform elliptisch sein. Der Einfachheit halber beschränken wir uns auf den Fall, dass b(x) eine konstante Funktion mit Wert b ist. Zeigen Sie die Elliptizität von a(w, v) auf V0 = {v ∈ H 1 (0, 1): v(0) = 0} unter den Bedingungen a0 > 0, b(x) = b ≥ 0, c0 ≥ 0. Hinweis: Zeigen und benutzen Sie  1 1 b  v (x)v(x) dx = v(x)2  ≥ 0 b 0 2 0

für alle v ∈ V0 .

9. Ein Sonderfall ist das (reine Neumann-) Randwertproblem −u (x)

=

f (x)

−u (0)

=

g0 ,

u (1)

=

g1 ,



für alle x ∈ (0, 1),

das auf folgendes Variationsproblem führt: Gesucht ist u ∈ H 1(0, 1), sodass a(u, v) = f , v

für alle v ∈ H 1 (0, 1)

mit 

1

a(w, v) = 0

w  (x)v (x) dx,



1

f , v =

f (x)v(x) dx + g0 v(0) + g1 v(1). 0

(3.11)

33

34

3 Der Satz von Lax-Milgram (a) Zeigen Sie: Falls (3.11) eine Lösung u ∈ H 1 (0, 1) besitzt, folgt  1 f (x) dx + g0 + g1 = 0.

(3.12)

0

Hinweis: Verwenden Sie die konstante Testfunktion v(x) = 1. (b) Zeigen Sie: Falls u ∈ H 1 (0, 1) eine Lösung von (3.11) ist, dann ist auch uˆ ∈ ˆ = u(x) + c für eine beliebige Konstante c ∈ R eine Lösung von H 1 (0, 1) mit u(x) 1 (3.11). Für die spezielle Wahl c = −u¯ mit u¯ = 0 u(x) dx gilt: uˆ ∈ Vˆ = {v ∈ H 1 (0, 1):



1

v(x) dx = 0}. 0

Hinweis: Zeigen und verwenden Sie a(c, v) = 0. (c) Zeigen Sie: Falls uˆ ∈ Vˆ das Variationsproblem für alle vˆ ∈ Vˆ

a(ˆu, vˆ ) = f , vˆ

löst und falls (3.12) gilt, ist uˆ auch Lösung von (3.11). Hinweis: Jede Testfunktion v ∈ H 1(0, 1) lässt sich in der Form v(x) = vˆ (x) + v¯ 1 ˆ schreiben mit v¯ = 0 v(x) dx und vˆ ∈ V. 10. Zeigen Sie die Poincar´e6 -Ungleichung: Es gibt eine Konstante CP > 0 mit  vL2 (0,1) ≤ CP

v(x) dx 0

1/2

2

1

+

|v|2H 1(0,1)

für alle v ∈ H 1 (0, 1).

Hinweis zur Poincar´e-Ungleichung: Integrieren Sie die Identität  y v (z) dz v(y) = v(x) + x

bezüglich x über dem Intervall (0, 1) und setzen Sie ähnlich wie im Beweis der Friedrichs-Ungleichung durch Quadrieren und Integrieren fort. 11. Zeigen Sie: (3.11) besitzt genau dann eine Lösung, wenn (3.12) gilt. Die Lösung ist bis auf eine Konstante eindeutig. Hinweis: Zeigen Sie mit Hilfe der Poincar´e-Ungleichung die Vˆ -Elliptizität von a(w, v).

6 Henri Poincar´ e

(1854–1912), französischer Mathematiker, Physiker und Philosoph

4

Die Galerkin-Methode

Die Formulierung des Randwertproblems aus Kapitel 2 als Variationsproblem war mühsam, das Prinzip der Diskretisierung des Variationsproblems ist nun aber kurz darstellbar und lässt sich sehr allgemein formulieren. Wir betrachten ein allgemeines Variationsproblem: Gesucht ist u ∈ Vg , sodass a(u, v) = f , v

für alle v ∈ V0,

mit einer Bilinearform a und einem linearen Funktional f auf einem Hilbert-Raum V , einem Teilraum V0 ⊂ V und einer linearen Mannigfaltigkeit Vg ⊂ V ; wir gehen davon aus,dass die Mengen V0 ,Vg und V unendlich-dimensional sind.Die Galerkin1 Methode (das Galerkin-Prinzip) zur Diskretisierung dieser Aufgabenstellung besteht nun darin, geeignete endlich-dimensionale Teilmengen Vh ⊂ V ,

V0h ⊂ Vh mit V0h ⊂ V0

und

Vgh ⊂ Vh mit Vgh ⊂ Vg

auszuwählen, wobei Vh und V0h lineare Räume und Vgh eine lineare Mannigfaltigkeit sein sollen. Eine Näherungslösung uh ∈ Vgh wird dann als Lösung des entsprechenden endlich-dimensionalen Variationsproblems definiert: Gesucht ist uh ∈ Vgh , sodass a(uh , vh ) = f , vh für alle vh ∈ V0h . (4.1) Man schränkt also die Anzahl der Freiheitsgrade der Lösung auf endlich viele ein. Dann ist natürlich nicht zu erwarten, dass das ursprüngliche Variationsproblem für alle Testfunktionen aus V0 erfüllt werden kann, also schränkt man die Freiheitsgrade der Testfunktionen ebenfalls auf endlich viele ein. Oft reicht es aus, nach der Wahl von Vh mit folgenden Setzungen der anderen Mengen zu arbeiten: V0h = V0 ∩ Vh , Vgh = Vg ∩ Vh . Jedenfalls ist darauf zu achten, dass Vgh als Translation von V0h darstellbar ist: Vgh = gh + V0h für ein geeignetes Element gh ∈ Vgh . Welche endlich-dimensionalen Teilräume Vh geeignet sind, hängt von verschiedenen Umständen ab. Es ist intuitiv klar, dass es vorteilhaft sein wird, solche Unterräume auszuwählen, mit deren Hilfe die exakte Lösung möglichst gut approximiert werden kann. Das wird im Allgemeinen nur dadurch gelingen, dass die Anzahl der Freiheitsgrade, also die Dimension der endlich-dimensionalen Räume, groß ist. 1 Boris Grigorjewitsch Galerkin

(1871–1945), russischer Ingenieur und Mathematiker

36

4 Die Galerkin-Methode

Der symmetrische und nicht-negative Fall Im Falle, dass a symmetrisch und nicht-negativ ist, folgt nach den gleichen Überlegungen wie zum symmetrischen Fall im vorigen Kapitel, dass die durch eine Galerkin-Methode definierte Näherung auch folgendermaßen charakterisiert werden kann: J(uh ) = inf J(vh ). vh ∈Vgh

In dieser Form spricht man von der Rayleigh2 -Ritz3 -Methode (als einem Spezialfall der Galerkin-Methode).

 4.1 Ein Beispiel einer Finite-Elemente-Methode Unter der Bezeichnung Finite-Elemente-Methoden werden spezielle Techniken der Konstruktion dieser endlich-dimensionalen Räume zusammengefasst. Diesen Techniken ist gemeinsam, dass die Funktionen aus Vh stückweise aus einfachen Funktionen zusammengesetzt werden. Wir beschränken uns hier auf die Diskussion einer solchen (sehr typischen) Konstruktion, dem so genannten Courant4 -Element, für das Modellproblem, siehe Seite 15. Durch die Wahl von Punkten (Knoten, Gitterpunkten) xi , i = 0, 1, . . . , nh, mit 0 = x0 < x1 < · · · < xnh = 1 erhalten wir Teilintervalle (Elemente) Tk = (xk−1 , xk ), k = 1, 2, . . . , nh . Definition

Die Menge Th = {T1 , . . . , Tnh } heißt eine Zerlegung des Intervalls (0, 1). Die Feinheit h der Zerlegung ist durch h = max hk k=1,...,nh

mit hk = |xk − xk−1 |

gegeben. Zerlegungen (engl.: subdivision) werden auch Gitter (engl.: mesh, grid) genannt. Sei Pk die Menge aller Polynome vom Grad ≤ k. Wir definieren den Raum Vh als die Menge aller stetigen und stückweise linearen (genauer affin linearen) Funktionen auf [0, 1]: Vh = {v ∈ C[0, 1]: v|T ∈ P1 für alle T ∈ Th}. Funktionen in Vh sind eindeutig durch ihre Werte in den Knoten der Zerlegung bestimmt. (Vorgegebene Werte in den Knoten der Zerlegung lassen sich eindeutig stetig und stückweise affin linear verbinden.) 2 John William

Strutt, 3. Baron Rayleigh (1842–1919), englischer Physiker (1878–1909), Schweizer Mathematiker und Physiker 4 Richard Courant (1888–1972), deutsch-amerikanischer Mathematiker 3 Walter Ritz

4.1 Ein Beispiel einer Finite-Elemente-Methode Für die Wahl von V0h und Vgh bieten sich folgende Setzungen an: V0h

=

V0 ∩ Vh = {vh ∈ Vh : vh (0) = 0},

Vgh

=

Vg ∩ Vh = {vh ∈ Vh : vh (0) = g0 }.

Vh und V0h sind lineare Räume der Dimension nh + 1 bzw. nh , Vgh ist eine Translation der Menge V0h und es gilt: Vh ⊂ V = H 1 (0, 1),

V0h ⊂ V0 ,

Vgh ⊂ Vg .

Hier machen wir von der Tatsache Gebrauch, dass stetige und stückweise lineare Funktionen im Sobolew-Raum H 1 (0, 1) liegen, siehe Satz auf Seite 11. Die schwache Ableitung solcher Funktionen existiert, die quadratische Integrierbarkeit der Funktionen und ihrer ersten Ableitungen ist trivial.

Basis und Steifigkeitsmatrix An sich ist durch die Wahl der Mengen Vh , V0h und Vgh die Diskretisierung nach der Galerkin-Methode abgeschlossen. Will man die Näherung uh ∈ Vgh allerdings konkret berechnen, benötigt man eine Basis von Vh . Wir konstruieren nun eine spezielle Basis: Jedem Knoten xi , i = 0, 1, . . . , nh , der Zerlegung Th lässt sich eine Funktion 'i ∈ Vh zuordnen, die durch die Bedingungen 'i (xj ) = ıij

für alle i, j = 0, 1, . . . , nh

eindeutig definiert ist. Dabei bezeichnet ıij das Kronecker-Symbol. Wegen der Form ihres Graphen nennt man diese Funktionen auch Hut-Funktionen. Man sieht sofort, dass {'i : i = 0, 1, . . . , nh } eine Basis des linearen Raumes Vh ist: Die Funktionen sind linear unabhängig und jede Funktion vh ∈ Vh lässt sich in folgender Form darstellen: vh (x) =

nh 

vi 'i (x)

mit

vi = vh (xi ).

i=0

Diese Basis heißt die Knotenbasis. Wichtig ist, dass die Basisfunktionen jeweils nur auf einem kleinen Intervall um den jeweiligen Knoten von 0 verschieden sind: Die Basisfunktion 'i verschwindet außerhalb des Intervalls (xi−1 , xi+1 ). Man sagt: Die Basisfunktionen haben lokale Träger. Mit dieser Basis lassen sich dann auch die Mengen V0h und Vgh darstellen: V0h = {vh ∈ Vh : vh =

nh 

vi 'i },

Vgh = {vh ∈ Vh : vh = g0 '0 +

i=1

Offensichtlich gilt: Vgh = gh + V0h ⊂ Vg mit gh = g0'0 .

nh  i=1

vi 'i }.

37

38

4 Die Galerkin-Methode Bemerkung. Die Wahl eines endlich-dimensionalen Raumes von stückweise glatten Funktionen und einer Basis mit lokalen Trägern für die Diskretisierung nach der Galerkin-Methode ist typisch für eine Finite-Elemente-Methode. Wir bestimmen nun die Näherungslösung uh ∈ Vgh : Die obigen Überlegungen rechtfertigen den Ansatz nh  uh = gh + uj 'j j=1

mit noch unbekannten Koeffizienten uj . Setzt man diesen Ansatz in das diskrete Variationsproblem (4.1) ein, so erhält man a(gh +

nh 

uj 'j , vh ) = f , vh

für alle vh ∈ V0h .

j=1

Wegen der Linearität von a und f bezüglich v genügt es, nur mit den Basisfunktionen 'i , i = 1, 2, . . . , nh , die den ganzen Raum V0h der Testfunktionen aufspannen, zu testen: nh  a(gh + uj 'j , 'i ) = f , 'i für alle i = 1, 2, . . . , nh . j=1

Wegen der Linearität von a bezüglich u erhält man schließlich: nh 

a('j , 'i )uj = f , 'i − a(gh , 'i )

für alle i = 1, 2, . . . , nh .

j=1

Also entsteht ein lineares Gleichungssystem für den Vektor uh = (ui )i=1,...,nh der unbekannten Koeffizienten: Kh uh = f h

mit Kh = (Kij )i,j=1,...,nh , f = (fi )i=1,...,nh , h

Kij = a('j , 'i ), fi = f , 'i − a(gh , 'i ).

Bei Problemstellungen aus der Festigkeitslehre werden Kh Steifigkeitsmatrix und f Lastvektor genannt. Wir übernehmen hier diese Terminologie, auch wenn die h Differentialgleichungsprobleme einen anderen Ursprung haben sollten. Offensichtlich gibt es folgenden wichtigen Zusammenhang zwischen der Bilinearform a auf V0h und der Steifigkeitsmatrix Kh : a(wh , vh ) = (Kh wh , vh )2

für alle wh , vh ∈ V0h

und zwischen dem Funktional fˆ mit fˆ , v = f , v − a(gh , v) auf V0h und dem Lastvektor f : h fˆ , vh = (f , vh )2 für alle vh ∈ V0h. h

4.1 Ein Beispiel einer Finite-Elemente-Methode Dabei bezeichnet (y, z)2 das euklidische Skalarprodukt zweier Vektoren y, z ∈ Rn : (y, z)2 = yT z =

n 

yi zi .

i=1

Die dazugehörige euklidische Norm eines Vektors y ∈ Rn wird mit y2 bezeichnet. Wir haben hier also einen Zusammenhang zwischen Bilinearformen (linearen Funktionalen) auf endlich-dimensionalen Räumen und Matrizen (Vektoren): Jede Bilinearform (jedes lineare Funktional) auf V0h lässt sich durch eine Matrix (einen Vektor) darstellen, und umgekehrt: Jede Matrix (jeder Vektor) definiert eine Bilinearform (ein lineares Funktional) auf V0h . Zur Notation: Für eine Funktion vh ∈ V0h bezeichnet v h ∈ Rnh den entsprechenden Vektor der Koeffizienten in der Basisdarstellung und umgekehrt, also: vh (x) =

nh 

vi 'i (x)

und v h = (v1 , . . . , vnh )T .

i=1

Aufgrund der Tatsache, dass die Basisfunktionen lokale Träger besitzen, folgt bereits,dass die meisten Einträge der Steifigkeitsmatrix 0 sein müssen.Die Matrix Kh ist also dünnbesetzt. Für das Modellproblem und obige Knotenbasis gilt im Speziellen:  a('j , 'i ) =

1

0

'j (x) 'i (x) dx = 0

für |i − j| > 1.

Wir erhalten also eine Tridiagonalmatrix (für die gewählte Nummerierung der Knoten aufsteigend links nach rechts).

Element-Steifigkeitsmatrizen Für das Modellproblem (siehe Seite 15) gilt: (Kh w h , vh )2

= a(wh , vh ) =

 T∈Th

=

nh  nh 



vi wj Tk

k=1 i,j=1

T

wh (x) vh (x) dx

'j (x) 'i (x) dx.

 Für ein Element Tk ist das Integral Tk 'j (x) 'i (x) dx für nur sehr wenige Indexpaare (i, j) von 0 verschieden: für k = 1 nur falls i = j = 1, für k ≥ 2 nur für Indexpaare (i, j) mit i, j ∈ {k − 1, k}. Daher lässt sich die innere Summe für k = 1 durch eine Zahl Kh(1) , für k ≥ 2 durch eine 2 × 2-Matrix Kh(k) darstellen: (Kh w h , vh )2

=

Kh(1) w1 v1 +

    nh   wk−1 v Kh(k) , k−1 wk vk  k=2

2

39

40

4 Die Galerkin-Methode 

mit (1)

Kh =

T1

'1 (x)2 dx

und für k ≥ 2 ⎛  ⎜ (k)  Kh = ⎜ ⎝

Tk Tk



 'k−1 (x)2 dx

 'k (x)'k−1 (x) dx

⎞  'k−1 (x)'k (x) dx⎟ Tk  ⎟. ⎠ 'k (x)2 dx Tk

Die Matrizen (bzw. die Zahl) Kh(k) heißen Element-Steifigkeitsmatrizen, die beteiligten Anteile 'i |Tk der Basisfunktionen nennt man auch Formfunktionen.

DurchVerwendung der Substitutionsregel lässt sich die Berechnung der ElementSteifigkeitsmatrizen auf die Berechnung von Integralen auf einem so genannten Referenzelement, hier Tˆ = (0, 1) mit den Knoten 0 = 0 und 1 = 1, zurückführen: Sei die Abbildung Fk : R −→ R durch Fk ( ) = xk−1 + (xk − xk−1 ) gegeben. Es gilt: ˆ = Tk , Fk ( 0 ) = xk−1 , Fk ( 1) = xk , F  ( ) = xk − xk−1 = hk und Fk (T) k 'k−1 (Fk ( )) = 'ˆ0 ( ) mit 'ˆ0 ( ) = 1 − ,

'k (Fk ( )) = 'ˆ1 ( ) mit 'ˆ1 ( ) = .

Wegen 'ˆ0 ( ) = 'ˆ1 ( ) =



  'k−1 (Fk ( )) = 'k−1 (Fk ( )) Fk ( ),



 'k (Fk ( )) = 'k (Fk ( )) Fk ( )

erhält man mit Hilfe der Substitutionsregel:  Kh(1)

=

Tˆ

'1 (Fk ( ))2|F1 ( )| d

 =

Tˆ

'ˆ1 ( )2

1 1 d = |F1 ( )| h1

und analog für k ≥ 2: ⎛ 

Kh(k)

mit



1 d  ⎜ Tˆ |Fk ( )| ⎜ = ⎝ 1 d 'ˆ1 ( )'ˆ0 ( )  |Fk ( )| Tˆ 'ˆ0 ( )2



⎛ ⎜ Kˆ = ⎜ ⎝

Tˆ Tˆ

'ˆ0 ( )2

'ˆ1 ( )'ˆ0 ( ) d



⎞ 1 d 'ˆ0 ( )'ˆ1 ( )  |Fk ( )| ⎟ Tˆ ⎟ = 1 Kˆ  ⎠ hk 1 d 'ˆ1 ( )2  |Fk ( )| Tˆ

⎞  'ˆ0 ( )'ˆ1 ( ) d ⎟ 1 Tˆ ⎟  ⎠ = −1 'ˆ1 ( )2 d

 −1 . 1

Tˆ

Diese Rückführung auf Integrale am Referenzelement Tˆ legt eine entsprechende Indizierung der Element-Steifigkeitsmatrizen mit den Indizes 0 und 1 der auf das

4.1 Ein Beispiel einer Finite-Elemente-Methode Referenzelement transformierten Basisfunktionen 'ˆ0 und 'ˆ1 nahe: (0) Kh(1) = K11

und

⎛ (k) K00 =⎝ (k) K10

Kh(k)

(k) K01 (k)

⎞ ⎠

für k ≥ 2.

K00

Aus den Einträgen der Element-Steifigkeitsmatrizen Kh(k) lässt sich die Steifigkeitsmatrix zusammenbauen (assemblieren): ⎛ (2) K (1) + K00 ⎜ 11 ⎜ ⎜ (2) ⎜ K10 ⎜ ⎜ ⎜ ⎜ 0 ⎜ Kh = ⎜ ⎜ .. ⎜ ⎜ . ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎝ 0 ⎛

1 h1

+

⎜ ⎜ ⎜ ⎜ − h1 2 ⎜ ⎜ ⎜ ⎜ 0 ⎜ =⎜ ⎜ . ⎜ . ⎜ . ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎝ 0

(2) K01

···

..

.

..

.

..

.

(nh −1) K01

0

(2) (3) K11 + K00

(3) K01

(3) K10

(3) (4) K11 + K00

..

..

.

..

..

.

(nh −1) K10

(nh −1) (nh ) K11 + K00

0

(nh ) K10

.

··· 1 h2

···

0

···

− h12 1 h2

+

1 h3

− h13 ..

···

0 − h13 1 h3

+ ..

.

1 h4

.

···

0

..

.

..

.

..

..

.

− hn1−1

.

h

..

− hn1−1

.

h

···

···

1 hnh −1

+

1 hnh

− h1n

0

Im Spezialfall einer äquidistanten Zerlegung erhält man: 2

⎜ ⎜ ⎜−1 ⎜ ⎜ ⎜ 1⎜ ⎜0 Kh = ⎜ h ⎜ .. ⎜ . ⎜ ⎜ . ⎜ . ⎜ . ⎝ 0

−1

0

··· ···

2

−1

..

−1

2

..

.

..

..

..

.

..

.

−1

..

.

−1

2

0

−1

.

··· ···

. .

⎞ 0 .. . .. .

⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟. ⎟ 0⎟ ⎟ ⎟ ⎟ −1⎟ ⎠ 1

⎞

⎟ .. ⎟ ⎟ . ⎟ ⎟ ⎟ .. ⎟ . ⎟ ⎟ ⎟. ⎟ ⎟ 0 ⎟ ⎟ ⎟ ⎟ − h1n ⎟ ⎟ h ⎠ 1 hnh

h

⎛

.

⎞

⎟ ⎟ .. ⎟ . ⎟ ⎟ ⎟ .. ⎟ . ⎟ ⎟ ⎟ ⎟ ⎟ 0 ⎟ ⎟ ⎟ ⎟ (nh ) ⎟ K01 ⎟ ⎠ (nh ) K11

41

42

4 Die Galerkin-Methode Auf analoge Art lässt sich der Lastvektor berechnen: Es gilt 

1



f (x) 'i (x) dx =

0

mit

T

T∈Th



f (x) 'i (x) dx =

k=1

 f (x) 'i (x) dx =

Tk

nh  

Tˆ

f (x) 'i (x) dx Tk

f (Fk ( )) 'i (Fk ( )) |Fk ( )| d .

 Für ein Element Tk ist das Integral Tk f (x) 'i (x) dx für nur sehr wenige Indizes i von 0 verschieden: für k = 1 nur falls i = 1, für k ≥ 2 nur für Indizes i ∈ {k − 1, k}, also kommen nur die folgenden von Null verschiedenen Terme vor: 

 f (x) '1 (x) dx = h1

Tˆ

T1

f (F1( )) 'ˆ1 ( ) d

und für k ≥ 2: 

 f (x) 'k−1(x) dx

=

hk

Tk



 f (x) 'k (x) dx

=

hk

Tk

Tˆ

Tˆ

f (Fk ( )) 'ˆ0( ) d , f (Fk ( )) 'ˆ1( ) d .

Die Integrale über Tˆ werden typischerweise nicht exakt berechnet, sondern mit Hilfe einer Quadraturformel näherungsweise ausgewertet. Zum Beispiel kann man die Trapezregel verwenden:  0

1

1 g( ) d ≈ [g(0) + g(1)]. 2

Zur Motivation dieser Näherung: Interpretiert man das Integral auf der linken Seite als die Fläche zwischen der x-Achse und dem Graphen von g, so ist der Ausdruck auf der rechten Seite, die Fläche des Trapezes, das sich zwischen der x-Achse und der Geraden durch (0, g(0)) und (1, g(1)) erstreckt, eine plausible Näherung für die gesuchte Fläche. Bei Anwendung der Trapezregel auf das jeweilige Integral über Tˆ erhält man dann: 

h1 h1 f (x0 ) '1 (x0 ) + f (x1 ) '1 (x1 ) = f (x1 ) = f1(1) f (x) '1 (x) dx ≈ 2 2 T1 und analog für k ≥ 2:  f (x) 'k−1(x) dx

≈

f (x) 'k (x) dx

≈

Tk

 Tk

hk f (xk−1) = f0(k) , 2 hk f (xk ) = f1(k). 2

4.1 Ein Beispiel einer Finite-Elemente-Methode Aus der Zahl f1(1) und den Vektoren (f0(k) , f1(k) )T lässt sich der Lastvektor zusammenbauen (assemblieren): ⎛

⎞

⎛ ⎞ g0 /h1 ⎟ ⎜ (2) ⎜ f1 + f0(3) ⎟ ⎜ 0 ⎟ ⎟ ⎟ ⎜ ⎜ ⎜ ⎟ ⎟ ⎜ . . ⎜ .. f =⎜ ⎟ + ⎜ .. ⎟ ⎟. h ⎟ ⎜ ⎜ ⎟ ⎜ (nh −1) (nh ) ⎟ ⎝f1 + f0 ⎠ ⎝ 0 ⎠ g1 f (nh ) (1)

(2)

f1 + f0

1

Die Beiträge im zweiten Vektor stammen von den Termen a(gh , 'i ) = a('0 , 'i ) g0 und g1 'i (1). Für den Fall einer äquidistanten Zerlegung entsteht damit insgesamt der Lastvektor ⎛ ⎞ ⎞ ⎛ f (x1 ) g0 /h ⎜ f (x2 ) ⎟ ⎜ 0 ⎟ ⎜ ⎟ ⎟ ⎜ ⎜ ⎟ ⎜ . ⎟ .. ⎟+ ⎜ . ⎟. f =h⎜ ⎜ . ⎟ ⎜ . ⎟ h ⎜ ⎟ ⎟ ⎜ ⎝ f (xnh −1 ) ⎠ ⎝ 0 ⎠ g1 f (xnh )/2

Die äquivalente Finite-Differenzen-Methode Schreibt man das lineare Gleichungssystem Kh uh = f zeilenweise auf, so erhält man h (nach Division durch h für i ≤ nh − 1 bzw. durch h/2 für i = nh ):

1 2ui − ui+1 = f (xi ) − h2

1 − ui−1 + 2ui − ui+1 = f (xi ) 2 h

2 − ui−1 + ui = f (xi ) + h2

1 g0 h2

für i = 1, für i = 1 ∈ {2, . . . , nh − 1},

2 g1 h

für i = nh .

Die Finite-Elemente-Methode entspricht also genau einer Finite-Differenzen-Methode für die klassische Formulierung des Randwertproblems, die entsteht, wenn die 2. Ableitung in der Differentialgleichung −u (x) = f (x) durch einen zentralen Differenzenquotienten u (xi ) ≈

1 [−u(xi−1 ) + 2u(xi ) − u(xi+1 )] h2

in den Gitterpunkten xi , i = 1, 2, . . . , nh − 1 und einen einseitigen Differenzenquotienten   2  u(xnh ) − u(xnh−1 ) u (xnh ) − u(xnh ) ≈ h h

43

44

4 Die Galerkin-Methode im Gitterpunkt xnh approximiert wird und die Größen u(x0 ) und u (xnh ) durch die gegebenen Randwerte g0 und g1 ersetzt werden. Die umgekehrte Erkenntnis, dass nämlich eine Finite-Differenzen-Methode auch als Galerkin-Methode (und daher in unserem betrachteten symmetrischen Modellproblem auch als Rayleigh-Ritz-Methode) mit Vh als dem Raum der stetigen und stückweise linearen Funktionen interpretiert werden kann, geht auf eine berühmte Arbeit von Richard Courant aus dem Jahre 1943 zurück, siehe [6], der das große Potential dieses Zugangs erkannte. Die Konstruktion von Differenzenquotienten für allgemeinere Zerlegungen (speziell bei mehrdimensionalen Problemen mit komplizierter Geometrie) ist wesentlich mühsamer und unübersichtlicher als die Konstruktion von endlich-dimensionalen Teilräumen Vh ⊂ V für die Galerkin-Methode bzw. Rayleigh-Ritz-Methode.

 4.2 Der Diskretisierungsfehler Die Lösung uh ∈ Vh des diskretisierten Variationsproblems wird im Allgemeinen nur eine Approximation der exakten Lösung u ∈ V des ursprünglichen Variationsproblems sein. Die konkrete Berechnung von uh ∈ Vh erfordert die Lösung eines linearen Gleichungssystems, das man zum Beispiel mit dem Gaußschen Eliminationsverfahren lösen könnte. Wir werden diese Methode im nächsten Abschnitt näher diskutieren. Abgesehen von Rundungsfehlern liefert das Gaußsche Eliminationsverfahren die exakte Lösung des linearen Gleichungssystems. Der Gesamtfehler, der durch die diskutierten Verfahren (Diskretisierung und Gaußsches Eliminationsverfahren) in Kauf genommen wird (bzw. werden muss), kurz der Verfahrensfehler, entsteht nur durch die vorgenommene Diskretisierung. Wir werden nun diesen Fehler abschätzen, um zu wissen, wie gut die Diskretisierungstechnik ist. Wir betrachten zunächst eine (allgemeine) Diskretisierung nach der GalerkinMethode durch Wahl von endlich-dimensionalen Mengen Vh ⊂ V , V0h ⊂ V0 und Vgh = gh + V0h ⊂ Vg für ein Element gh ∈ Vh . Zunächst vereinfachen wir die Fragestellung durch Homogenisierung: Es gilt natürlich auch die Darstellung Vg = gh + V0. Sowohl das unendlich-dimensionale Variationsproblem als auch das endlich-dimensionale Variationsproblem lassen sich also durch die Ansätze u = gh + w

und

uh = gh + wh

gleichzeitig homogenisieren. Die neue rechte Seite hat die Form fˆ , v = f , v − a(gh , v). Für den Diskretisierungsfehler, also für den Unterschied zwischen der exakten Lösung und der Näherungslösung, erhält man dann u − uh = w − wh . Mit der gleichen Argumentation wie zu Beginn des Kapitels 3 genügt es also, die Diskussion unter

4.2 Der Diskretisierungsfehler

45

homogenen Bedingungen gh = g = 0,

V = Vg = V0 ,

Vh = Vgh = V0h

zu führen. Gelten die Voraussetzungen des Satzes von Lax-Milgram (siehe Seite 25) auf einem Hilbert-Raum V , so sind sie natürlich automatisch auf jedem Teilraum Vh auch erfüllt. Jeder endlich-dimensionale Raum ist vollständig. Der Satz von LaxMilgram garantiert somit sofort die Existenz und Eindeutigkeit der Lösung uh ∈ Vh des endlich-dimensionalen Problems: Es gelten die Bezeichnungen und Voraussetzungen des Satzes von Lax-Milgram, siehe Seite 25.Zusätzlich sei Vh ein endlich-dimensionaler Teilraum von V .Dann existiert eine eindeutige Lösung uh ∈ Vh des diskreten Variationsproblems a(uh , vh ) = f , vh

für alle vh ∈ Vh.

Satz

(4.2)

Der Satz von C´ea Der folgende Satz ist von fundamentaler Bedeutung für die Abschätzung des Diskretisierungsfehlers: Satz von C´ea5 . Es gelten die Bezeichnungen und Voraussetzungen des Satzes von Lax-Milgram. Im Weiteren sei Vh ein endlich-dimensionaler Teilraum von V und uh ∈ Vh sei die Lösung des Variationsproblems (4.2). Dann gilt: u − uh  ≤

2 inf u − wh . 1 wh ∈Vh

Beweis. Setzt man im ursprünglichen Variationsproblem Testfunktionen vh ∈ Vh ⊂ V ein, so erhält man a(u, vh ) = f , vh

für alle vh ∈ Vh .

Subtrahiert man davon die Identität a(uh , vh ) = f , vh

für alle vh ∈ Vh ,

a(u − uh , vh ) = 0

für alle vh ∈ Vh .

so erhält man

5 Jean

C´ea, französischer Mathematiker

Satz

46

4 Die Galerkin-Methode Diese fundamentale Eigenschaft nennt man Galerkin-Orthogonalität. Im Speziellen gilt für die Setzung vh = wh − uh a(u − uh , wh − uh ) = 0

für alle wh ∈ Vh .

Damit folgt 1u − uh 2

≤ a(u − uh , u − uh ) = a(u − uh , u − wh ) + a(u − uh , wh − uh ) = a(u − uh , u − wh ) ≤ 2u − uh u − wh .

Nach Division mit u − uh  erhält man sofort die Behauptung.

Der Approximationsfehler Der Ausdruck inf wh ∈Vh u − wh  heißt Approximationsfehler. Er ist der minimale Fehler, der bei der Approximation der Lösung u ∈ V durch ein Element wh ∈ Vh in Kauf zu nehmen ist. Ein derartiges Element wh ∈ Vh zu berechnen, ohne die exakte Lösung explizit zu kennen, ist im Allgemeinen ein sehr schwieriges Problem. Der Satz von C´ea besagt, dass die Näherung uh ∈ Vh , die viel einfacher durch Lösung eines linearen Gleichungssystems bestimmt werden kann, zu einem maximal um den konstanten Faktor  = 2 /1 schlechteren Fehler führt.

Der Interpolationsfehler Der Approximationsfehler wird üblicherweise durch einen Interpolationsfehler abgeschätzt. Wir diskutieren diesen Schritt im Folgenden für das Courant-Element. Zunächst wird eine geeignete Interpolation eingeführt: Jeder Funktion v ∈ H 1 (0, 1) lässt sich eindeutig eine stetige und stückweise lineare Funktion vh ∈ Vh zuordnen, die in den Knoten xi mit v übereinstimmt: vh (xi ) = v(xi )

für alle i = 0, 1, . . . , nh .

Um zu rechtfertigen, dass der Ausdruck v(xi ) Sinn ergibt, zeigt man, ähnlich wie beim Beweis der Beschränktheit des Spuroperators, die Wohldefiniertheit von v(x) für jedes x ∈ [0, 1] und die Existenz einer Konstanten Cc mit |v(x)| ≤ Cc vH 1 (0,1)

für alle v ∈ H 1 (0, 1)

mit einer von x unabhängigen Konstanten Cc . Bemerkung. Aus dieser Abschätzung lässt sich mit einer ähnlichen Argumentation wie bei der Definition des Spuroperators leicht folgern, dass H 1 (0, 1) ⊂ C[0, 1]: Die obige Ungleichung besagt, dass die (lineare und injektive) identische Abbildung id: C 1 [0, 1] −→ C[0, 1] bezüglich der H 1 -Norm in C 1 [0, 1] und der Supremumsnorm in C[0, 1] beschränkt ist. Daher gibt es eine eindeutige injektive Fortsetzung auf ganz H 1 (0, 1), im Sinne dieser injektiven Fortsetzung lässt sich H 1 (0, 1) als eine Teilmenge von C[0, 1] interpretieren, genauer gesagt: H 1 (0, 1) lässt sich mit einer Teilmenge von C[0, 1] identifizieren.

4.2 Der Diskretisierungsfehler Die auf diese Weise eingeführte Abbildung Ih : V −→ Vh , v → vh = Ih v ist natürlich linear und heißt Interpolationsoperator. Der Unterschied v − vh heißt Interpolationsfehler.Wir schätzen nun den Interpolationsfehler ab, zunächst unter der Voraussetzung v ∈ C 2 [0, 1]: Als erstes betrachten wir den Interpolationsfehler in der L2 -Norm: Ähnlich wie früher zerlegen wir den Fehler in seine Anteile auf den einzelnen Elementen Tk und transformieren die einzelnen Anteile auf das Referenzelement Tˆ = (0, 1): 

1

|v(x) − Ih v(x)| dx 2

nh  

=

0

k=1

|v(x) − Ih v(x)|2 dx Tk

und 

 |v(x) − Ih v(x)|2 dx

=

Tk

Tˆ

= hk

|(v ◦ Fk )( ) − (Ih v ◦ Fk )( )|2 |Fk ( )| d  Tˆ

|(v ◦ Fk )( ) − Iˆ(v ◦ Fk )( )|2 d .

Dabei bezeichnet Iˆ den entsprechenden Interpolationsoperator am Referenzelement: Für eine beliebige Funktion vˆ ∈ H 1 (0, 1) ist Iˆvˆ jene affin lineare Funktion, die in den beiden Knoten 0 = 0 und 1 = 1 mit vˆ übereinstimmt, also: Iˆvˆ ( ) = vˆ (0) 'ˆ0 ( ) + vˆ (1) 'ˆ1 ( ) = vˆ (0) (1 − ) + vˆ (1) . Die verwendete Identität Ih v ◦ Fk ( ) = Iˆ (v ◦ Fk )( ) folgt leicht, indem man zunächst die Gleichheit der beiden Funktionen in den Punkten 0 = 0 und 1 = 1 überprüft und berücksichtigt, dass die Funktionen dazwischen affin linear verlaufen müssen. Am Referenzelement kann der Interpolationsfehler leicht abgeschätzt werden:



vˆ ( ) − vˆ (0) − vˆ (1) − vˆ (0)  1  1

 vˆ ( y) − vˆ  (y) dy = =

vˆ ( ) − Iˆvˆ ( ) =



0

0

y

y

Mit Hilfe der Cauchy-Ungleichung folgt sofort: |ˆv ( ) − Iˆ vˆ ( )| ≤ ˆv L2 (0,1) und somit  Tˆ

|ˆv( ) − Iˆvˆ ( )|2 d

 ≤

Tˆ

|ˆv ( )|2 d .

vˆ  (z) dzdy.

47

48

4 Die Galerkin-Methode Im Speziellen gilt diese Abschätzung für vˆ ( ) = (v ◦ Fk )( ). Wegen (v ◦ Fk ) ( ) = v (Fk ( ))Fk ( )2

und

1 Fk (Fk−1 (x))

(Fk−1 ) (x) =

erhält man für das Integral auf der rechten Seite durch Rücktransformation auf Tk :  Tˆ

|ˆv ( )|2 d

 = 

Tk

|ˆv (Fk−1 (x))|2|(Fk−1) (x)| dx 

|v (x)|

=

2

Tk

|Fk (Fk−1 (x))|3

 dx =

h3k

|v (x)|2 dx

Tk

und somit die Abschätzung:  Tˆ



|(v ◦ Fk )( ) − Iˆ(v ◦ Fk )( )|2 d

≤

h3k

|v (x)|2 dx. Tk

Damit kann die Abschätzung des Interpolationsfehlers von oben fortgesetzt werden: 

1

|v(x) − Ih v(x)|2 dx

=

0

nh 

 hk

k=1

≤

nh  k=1

Tˆ

|(v ◦ Fk )( ) − Iˆ(v ◦ Fk )( )|2 d

 h4k





|v (x)| dx ≤ h Tk

2

4

1

|v (x)|2 dx.

0

Es lässt sich zeigen, dass die Menge C 2 [0, 1] dicht im Sobolew-Raum H 2 (0, 1) bezüglich der H 2 -Norm ist. Der Sobolew-Raum H 2 (0, 1) wird analog zu H 1 (0, 1) definiert: H 2 (0, 1) = {v ∈ L2 (0, 1): v , v ∈ L2 (0, 1)}. Die dazugehörige Norm ist durch  1/2 vH 2 (0,1) = v2L2 (0,1) + v 2L2(0,1) + v 2L2 (0,1) gegeben. (Höhere verallgemeinerte Ableitungen werden analog zur ersten Ableitung eingeführt.) Der erste und der letzte Term in der obigen Abschätzung ändern sich bezüglich dieser Norm stetig in H 2 (0, 1). Daher gelten die Abschätzungen in ganz H 2 (0, 1) (Abschließungsprinzip).Wir haben somit die erste Abschätzung des folgenden Lemmas bewiesen: Lemma

Es gibt Konstanten C0 , C1 > 0 mit v − Ih vL2 (0,1) ≤ C0 h2 v L2 (0,1) und

|v − Ih v|H 1 (0,1) ≤ C1 h v L2(0,1)

für alle v ∈ H 2 (0, 1) für alle v ∈ H 2 (0, 1).

Der Beweis der zweiten Abschätzung verläuft völlig analog, siehe Übungsaufgabe 13.

4.2 Der Diskretisierungsfehler

49

Wir fassen die Aussagen des Satzes von C´ea und die Abschätzung des Interpolationsfehlers zusammen und erhalten damit folgende Aussage über den Diskretisierungsfehler des Modellproblems von Seite 15: Sei u die exakte Lösung des Modellproblems und es gelte u ∈ H 2 (0, 1). Sei uh die durch die Galerkin-Methode definierte Näherungslösung im Raum der stetigen und stückweise linearen Funktionen auf (0, 1). Dann gilt: Es gibt eine (von h unabhängige) Konstante C mit u − uh H 1 (0,1) ≤ C h uL2(0,1) .

Beweis. Da die Voraussetzungen des Satzes von Lax-Milgram erfüllt sind, erhalten wir aus dem Satz von C´ea die Abschätzung: u − uh H 1 (0,1) = w − wh H 1 (0,1) ≤

2 inf w − vh H 1 (0,1) 1 vh ∈V0h

mit u = g + w, w ∈ V0, uh = g + wh , wh ∈ V0h , g(x) = g0. Da Ih w ∈ V0h gilt, folgt: inf w − vh 2H 1 (0,1)

vh ∈V0h

≤ w − Ih w2H 1 (0,1) =

w − Ih w2L2 (0,1) + |w − Ih w|2H 1 (0,1)

≤ (C02 h4 + C12 h2 ) w 2L2(0,1) ≤ C22 h2 u 2L2(0,1)  mit C2 = C02 + C12 wegen w = u und h ≤ 1. Daraus folgt die Behauptung mit C = (2/1) C2 . Die obige Abschätzung gilt offensichtlich nur, wenn die Lösung glatter ist (u ∈ H 2 (0, 1)) als auf Grundlage des Satzes von Lax-Milgram (u ∈ H 1 (0, 1)). Konvergiert h gegen 0, so konvergiert die Näherungslösung gegen die exakte Lösung. Das Verfahren ist also in diesem Sinne konvergent. Eine hinreichend kleine Wahl von h garantiert einen entsprechend kleinen Diskretisierungsfehler. Die obere Schranke ist proportional zu h = h1 , eine Halbierung der Schrittweite halbiert auch die obere Schranke. Man spricht von einer Konvergenzordnung (von mindestens) 1. Bemerkung. Ist diese zusätzliche Glattheitsbedingung u ∈ H 2(0, 1) nicht erfüllt, dann lässt sich unter den Voraussetzungen des Satzes von Lax-Milgram immer noch die Konvergenz zeigen: lim u − uh H 1(0,1) = 0. h→0

Es lässt sich jedoch die Konvergenz nicht näher in Abhängigkeit von h quantifizieren. Der Beweis der Konvergenz beruht auf der Dichtheit von H 2 (0, 1) in H 1(0, 1).

Der symmetrische Fall Im Falle, dass a zusätzlich symmetrisch ist, lässt sich die Abschätzung im Satz von C´ea verschärfen. Die Bilinearform a ist dann ein (weiteres) Skalarprodukt auf V mit

Satz

50

4 Die Galerkin-Methode der dazugehörigen Norm (A-Norm), die durch vA =



a(v, v)

gegeben ist, und für die unter den Voraussetzungen des Satzes von Lax-Milgram offensichtlich gilt: 1 v2 ≤ v2A ≤ 2 v2

für alle v ∈ V .

Die Galerkin-Orthogonalität wird dann zur Orthogonalität bezüglich des neuen Skalarprodukts (A-Orthogonalität, Symbol ⊥A ): u − uh ⊥A Vh und es gilt analog zum Beweis des Satzes von C´ea wegen der Cauchy-Ungleichung für das neue Skalarprodukt für alle wh ∈ Vh : u − uh 2A = a(u − uh , u − uh ) = a(u − uh , u − wh ) ≤ u − uh A u − wh A und damit u − uh A ≤ inf u − wh A. wh ∈Vh

Trivialerweise gilt auch die umgekehrte Ungleichung, also insgesamt: u − uh A = inf u − wh A . wh ∈Vh

In der A-Norm stimmen also Diskretisierungsfehler und Approximationsfehler überein. Daraus erhält man die folgenden Abschätzungen in der ursprünglichen Norm: √

1 u − uh  ≤ u − uh A = inf u − wh A ≤ wh ∈Vh



also u − uh  ≤

√ 2 inf u − wh , wh ∈Vh

2 inf u − wh . 1 wh ∈Vh

Übungsaufgaben 12. Wir haben folgenden Zusammenhang zwischen der Bilinearform a auf V0h , der Steifigkeitsmatrix Kh und den Element-Steifigkeitsmatrizen Kh(k) kennen gelernt: a(wh , vh ) = (Kh w h , vh )2 = Kh(1) w1 v1 +

nh  

Kh(k)

k=2

    wk−1 v , k−1 wk vk 

2

für alle vh , wh ∈ V0h. Zeigen Sie für den Fall g0 = g1 = 0 den analogen Zusammenhang zwischen dem linearen Funktional f , dem Lastvektor f und den Element-Lastvektoren h

4.2 Der Diskretisierungsfehler (bei exakter Integration, also ohne Trapezregel): f , vh = (f , v h )2 = f (1)v1 + h

h

  nh   v f (k) , k−1 h vk  k=2

für alle vh ∈ V0h 2



mit f (1) = f1(1) = h

f (x)'1 (x) dx T1

und für k ≥ 2  f (k) = h

 f0(k) (k) , f1





f0(k) =

f (x)'k−1 (x) dx, Tk

f1(k) =

f (x)'k (x) dx. Tk

13. Zeigen Sie: Es gibt eine Konstante C1 > 0 mit |v − Ih v|H 1 (0,1) ≤ C1 h v L2 (0,1)

für alle v ∈ C 2[0, 1].

14. Abschließungsprinzip: Zeigen Sie, dass alle Ausdrücke in der Ungleichung der vorigen Übungsaufgabe bezüglich der H 2 -Norm stetig sind. (Damit folgt dann sofort die Ungleichung für alle v ∈ H 2 (0, 1), da sich zeigen lässt, dass C 2 [0, 1] bezüglich der H 2 -Norm dicht in H 2 (0, 1) liegt.) Hinweis: Zeigen Sie Lipschitz-Bedingungen für die Ausdrücke auf der linken und rechten Seite der Ungleichung. 1 15. Zeigen Sie: Ersetzt man den Integranden g ∈ C[0, 1] im Ausdruck 0 g( ) d durch die Interpolierte Iˆ g (siehe Seite 47), so erhält man die Trapezregel:  1 1 (Iˆ g)( ) d = [g(0) + g(1)]. 2 0 Zeigen Sie die Fehlerabschätzung: Es gibt eine Konstante C > 0 mit  1    1   ≤ C |g  |L (0,1) für alle g ∈ C 2 [0, 1]. [g(0) + g(1)] g( ) d − 1   2 0 Hinweis: Gehen Sie ähnlich wie bei der Abschätzung des Interpolationsfehlers vor. 16. Zeigen Sie für eine äquidistante Zerlegung Th des Intervalls (0, 1) und den in diesem Kapitel eingeführten Finite-Elemente-Raum V0h (Courant-Element):  1 h2 (u − vh )2 dx = min vh ∈V0h 0 3 mit u(x) = x 2. Diese Identität zeigt, dass die Diskretisierungs- und Approximationsfehlerabschätzungen bezüglich des Exponenten von h im Allgemeinen nicht verbessert werden können. Hinweis: Eine Funktion vh ∈ V0h lässt sich folgendermaßen darstellen: vh (x) = vh (xk−1 ) + sk · (x − xk−1 )

für alle x ∈ Tk

und beliebigen sk ∈ R. Spalten Sie das Integral über (0, 1) in eine Summe von Integralen über Tk auf.

51

5

Lineare Gleichungssysteme

Um die Näherungslösung des diskretenVariationsproblems endgültig zu bestimmen, muss noch das lineare Gleichungssystem Kh uh = f

h

gelöst werden. Wir werden zunächst allgemeine lineare Gleichungssysteme behandeln, nicht nur solche Systeme, die durch Diskretisierung entstehen. Um das zu unterstreichen, bezeichnen wir ein allgemeines Gleichungssystem mit anderen Symbolen: Ax = b. Nach der Diskussion allgemeiner linearer Gleichungssysteme werden wir auf die spezielle Situation eines durch Diskretisierung entstandenen Gleichungssystems eingehen.

 5.1 Kondition des Problems Wir nehmen im Weiteren an, dass A ∈ Rn×n eine reguläre Matrix ist. Dann ist das lineare Gleichungssystem Ax = b für b ∈ Rn eindeutig lösbar und die Lösung x ∈ Rn lässt sich folgendermaßen darstellen: x = ' (A, b) mit ' (A, b) = A−1 b. Wir wollen die stetige Abhängigkeit der Lösung x von den Daten A und b untersuchen. Dazu wählen wir eine uns geeignet erscheinende Norm v für Vektoren v ∈ Rn . Für Matrizen M ∈ Rn×n verwenden wir dann stets die dazugehörige Norm M = sup

0=v∈Rn

Mv . v

54

5 Lineare Gleichungssysteme Häufig wird die euklidische Norm für Vektoren verwendet, die dazugehörige Matrixnorm heißt Spektralnorm. Zur Notation: Die Norm einer Matrix ist also die Operatornorm der entsprechenden linearen Abbildung von Rn nach Rn . Sie wird mit dem selben Symbol bezeichnet wie die verwendete Norm in Rn . Sei b¯ ∈ Rn eine weitere rechte Seite mit der dazugehörigen Lösung x¯ ∈ Rn : ¯ A¯x = b. Dann erhält man analog zur Diskussion auf Seite 28: x = A−1 b mit x = x¯ − x und b = b¯ − b und damit die Abschätzungen x ≤ A−1  b

Definition

und

x b ≤ AA−1 . x b

Die Zahl (A) = AA−1  heißt die Konditionszahl der Matrix A (bezüglich der gewählten Norm in Rn ).

Diese Analyse war besonders einfach, da die Lösung x linear von den Daten b abhängt.Will man zum Beispiel auch die Auswirkung von Störungen der Matrix A auf die Lösung untersuchen, so hat man einen nichtlinearen Zusammenhang zwischen den Daten A und der gesuchten Lösung x zu berücksichtigen. Wir diskutieren nun kurz, wie man für ein allgemeines Problem der Form x = ' (d) die Auswirkung von Störungen der Daten d auf die gesuchte Größe x abschätzen kann. Für gestörte Daten d¯ erhält man die Lösung x¯ mit ¯ x¯ = ' (d). ¯ Um den Fehler x = x¯ −x = ' (d)−' (d) zumindest näherungsweise in Abhängigkeit ¯ der Störung d = d − d zu bestimmen, hilft die Linearisierung des Problems mittels der Ableitung von ' : Wir nehmen an,dass die Funktion ' im Punkt d differenzierbar ist. Das heißt: ¯ − ' (d) − '  (d)(d¯ − d) ≤ " d¯ − d ' (d) für beliebig kleine Werte " > 0, solange d¯ hinreichend nahe bei d ist. Der Fehler x stimmt also für kleine Störungen d sehr genau mit dem Term '  (d)d überein.Wir verwenden für diesen Sachverhalt die Bezeichnung .

x = '  (d)d

für d → 0.

5.1 Kondition des Problems

55

.

Zur Notation: g(z) = h(z) für z → z0 bedeutet: Für jedes " > 0 gilt g(z) − h(z) ≤ "z − z0 , falls z hinreichend nahe bei z0 ist, siehe eine ähnliche Bezeichnung in [10]. Der Term '  (d)d ist die Richtungsableitung von ' im Punkt d in Richtung der Störung d. Die Richtungsableitung hängt linear von der Richtung ab: Für d = d1 + d2 setzt sich die Richtungsableitung aus zwei entsprechenden Beiträgen zusammen: '  (d)d = '  (d)d1 + '  (d)d2 . Also ist der Gesamtfehler, der durch Störung der Daten in zwei (oder mehrere) unterschiedliche Richtungen entsteht, ungefähr gleich der Summe der Fehler, die durch eine einzelne dieser Störungen entstehen. Wir wenden diese einfachen Überlegungen nun auf das Problem der Lösung eines linearen Gleichungssystems an: Zunächst müssen wir überprüfen, welche Störungen A der Matrix A die Regularität der gestörten Matrix garantieren. Im folgenden Lemma bezeichnet I die Einheitsmatrix: Sei A ∈ Rn×n eine reguläre Matrix. Falls eine Matrix A ∈ Rn×n die Bedingung A−1 A < 1 erfüllt, dann ist A¯ = A + A ebenfalls regulär und es gelten die Abschätzungen: 1 A−1 A ¯ −1 A ≤ A¯ −1 A ≤ und I − A . 1 − A−1 A 1 − A−1 A

¯ = 0. Durch MultiplikaBeweis. Angenommen, ein Vektor y erfüllt die Gleichung Ay −1 −1 −1 tion mit A erhält man 0 = A (A + A) y = y + A A y. Also 0

=

y + A−1 A y ≥ y − A−1 A y

≥

y − A−1 A y = y (1 − A−1 A) . 

 >0

Daraus folgt y = 0, also ist A¯ regulär. Die erste Ungleichung folgt aus ¯ −1 A = A−1 (A¯ − A)A¯ −1 A = I − A−1 AA¯ −1 A A und der daraus abgeleiteten Abschätzung A¯ −1 A ≤ 1 + A−1 A A¯ −1 A. Die zweite Ungleichung erhält man aus ¯ −1 A = A−1 AA¯ −1 A, I−A

Lemma

56

5 Lineare Gleichungssysteme der daraus abgeleiteten Abschätzung I − A¯ −1 A ≤ A−1 A A¯ −1 A und der ersten Ungleichung. Die Richtungsableitung von ' (A, b) in Richtung A = A¯ − A bei festem b lässt sich leicht berechnen:

1 1 ' (A + tA, b) − ' (A, b) = lim (A + tA)−1 − A−1 b. t→0 t t→0 t lim

Für |t| < 1/A−1 A ist A + tA regulär und es gilt

1 (A + tA)−1 − A−1 b = t

1 −1 A [A − (A + tA)] (A + tA)−1 b t

=

−A−1 A(A + tA)−1 b

=

−A−1 A(A + tA)−1 A x

und somit  

1 ' (A + tA, b) − ' (A, b) = −A−1 A lim(A + tA)−1 A x. t→0 t t→0

lim

Wegen der zweiten Abschätzung des obigen Lemmas gilt: lim(A + tA)−1 A = I.

t→0

Daher erhält man insgesamt für die Richtungsableitung: lim

t→0

1 ' (A + tA, b) − ' (A, b) = −A−1 Ax. t

Somit folgt für die Auswirkung einer Störung der Matrix A auf die Lösung x: .

x = −A−1 A x und daher

für

.

A → 0

x ≤ A−1  A x für bzw.

x . A ≤ (A) x A .

für

A → 0, A → 0.

Zur Notation: g(z) ≤ h(z) für z → z0 bedeutet: Für jedes " > 0 gilt g(z) ≤ h(z) + "z − z0 , falls z hinreichend nahe bei z0 ist, siehe wieder [10] für eine ähnliche Bezeichnung. Will man die Auswirkungen von Störungen sowohl in b als auch in A abschätzen, so muss man nach den allgemeinen Ausführungen von vorhin die einzelnen Fehler

5.1 Kondition des Problems nur addieren. Also: .

x = A−1 b − A−1 A x

für

A, b → 0.

Somit erhält man die Abschätzungen   . x ≤ A−1  b + A x und

  b A x . + ≤ (A) x b A

für

für

A, b → 0

A, b → 0.

Das unterstreicht die zentrale Bedeutung der Konditionszahl (A) für die Beurteilung der Kondition (Datenstabilität) eines linearen Gleichungssystems, siehe auch Übungsaufgabe 17. Wir wollen nun (A) für selbstadjungierte Matrizen A mit Hilfe ihrer Eigenwerte darstellen. Dazu benötigen wir einige Hilfsmittel aus der Linearen Algebra, die im Folgenden kurz zusammengefasst werden:

Der Rayleigh-Quotient Wir geben ein Skalarprodukt (y, z) auf Rn vor, das nicht notwendigerweise das euklidische Skalarprodukt (y, z)2 sein muss. Die zu einer Matrix A ∈ Rn×n adjungierte Matrix A∗ ∈ Rn×n ist durch (A∗ y, z) = (Az, y)

für alle y, z ∈ Rn

definiert. Im Falle des euklidischen Skalarprodukts ist die transponierte Matrix AT die zu A adjungierte Matrix. Eine Matrix A ∈ Rn×n heißt selbstadjungiert, falls A∗ = A, d.h.: (Ay, z) = (Az, y)

für alle y, z ∈ Rn .

Im Falle des euklidischen Skalarprodukts ist A genau dann selbstadjungiert, wenn A symmetrisch ist, d.h.: AT = A. Für selbstadjungierte Matrizen werden die folgenden Begriffe und Notationen eingeführt: 1. A ∈ Rn×n heißt positiv semi-definit, kurz A ≥ 0, falls (Ay, y) ≥ 0

für alle y ∈ Rn .

2. A ∈ Rn×n heißt positiv definit, kurz A > 0, falls (Ay, y) > 0

für alle y ∈ Rn mit y = 0.

3. A ≥ B, falls A − B ≥ 0. 4. A > B, falls A − B > 0. Die Ausdrücke A ≤ 0, A < 0, A ≤ B und A < B sind analog definiert.

57

58

5 Lineare Gleichungssysteme Wir fassen nun (ohne Beweis) drei wichtige Aussagen über selbstadjungierte Matrizen im folgenden Lemma zusammen:

Lemma

Sei A ∈ Rn×n eine selbstadjungierte Matrix. Dann gilt: 1. Alle Eigenwerte von A sind reell:

(A) ⊂ R, wobei (A) das Spektrum von A, d.h. die Menge aller Eigenwerte bezeichnet. 2. A ist genau dann positiv semi-definit, wenn alle Eigenwerte nichtnegativ sind: A ≥ 0 ⇐⇒  ≥ 0 für alle  ∈ (A). 3. A ist genau dann positiv definit, wenn alle Eigenwerte positiv sind: A>0

⇐⇒

>0

für alle  ∈ (A).

Mit den eingeführten Definitionen und diesem Lemma lassen sich die folgenden Schlussfolgerungen ziehen: Es gilt einerseits A ≥ ˛ I ⇐⇒ A − ˛ I ≥ 0 ⇐⇒ (Ay, y) − ˛ (y, y) ≥ 0 für alle y ∈ Rn (Ay, y) ≥ ˛ für alle y ∈ Rn mit y = 0 ⇐⇒ (y, y) (Ay, y) ≥˛ ⇐⇒ inf n 0=y∈R (y, y) und andererseits A ≥ ˛ I ⇐⇒ A − ˛ I ≥ 0 ⇐⇒  − ˛ ≥ 0 für alle  ∈ (A) ⇐⇒ min (A) ≥ ˛ für beliebige ˛ ∈ R. Dabei bezeichnet min (A) den kleinsten Eigenwert von A. Also sind die beiden Aussagen inf

0=y∈Rn

(Ay, y) ≥˛ (y, y)

und min (A) ≥ ˛

für beliebige ˛ ∈ R äquivalent, im Speziellen auch für ˛ = inf 0=y∈Rn (Ay, y)/(y, y) und ˛ = min (A), woraus man sofort die Identität min (A) = inf

0=y∈Rn

(Ay, y) (y, y)

5.1 Kondition des Problems

59

erhält. Völlig analog zeigt man: max (A) = sup

0=y∈Rn

(Ay, y) . (y, y)

Dabei bezeichnet max (A) den größten Eigenwert von A. Sei 0 = y ∈ Rn . Der Quotient (Ay, y)/(y, y) heißt Rayleigh-Quotient.

Definition

Eine einfache Anwendung dieser Beziehungen betrifft die Norm einer allgemeinen Matrix A und die Konditionszahl einer selbstadjungierten und positiv definiten Matrix A: Sei (y, z) ein Skalarprodukt auf Rn mit Norm y = dazugehörige Matrixnorm einer Matrix A ∈ Rn×n : A =



 (y, y). Dann gilt für die

max (A∗ A).

Ist A zusätzlich selbstadjungiert und positiv definit, dann gilt: A = max (A),

A−1  =

1 min (A)

und (A) =

max (A) . min (A)

Beweis. Es gilt Ay = sup A = sup 0=y∈Rn y 0=y∈Rn # =

sup 0=y∈Rn

#

# (Ay, Ay) = sup (y, y) 0=y∈Rn

(A∗ Ay, y) (y, y)

(A∗ Ay, y)  = max (A∗ A), (y, y)

da A∗ A selbstadjungiert und positiv semi-definit ist. Ist A selbstadjungiert und positiv definit, so folgt daraus sofort: A =

 max (A2 ) = max (A)

und A−1  = max (A−1 ) =

1 . min (A)

Also erhält man für die Konditionszahl: (A) = A A−1  =

max (A) . min (A)



Die vorhin abgeleiteten Darstellungen des kleinsten und größten Eigenwertes einer selbstadjungierten Matrix führen sofort zu folgenden Aussagen:

Lemma

60 Lemma

5 Lineare Gleichungssysteme Sei A ∈ Rn×n eine selbstadjungierte Matrix. Dann gilt: min (A) · (y, y) ≤ (Ay, y) ≤ max (A) · (y, y)

für alle y ∈ Rn .

Falls für ˛, ˛ ∈ R die Abschätzungen ˛ · (y, y) ≤ (Ay, y) ≤ ˛ · (y, y) für alle y ∈ Rn gelten, dann folgt: ˛ ≤ min (A)

und

max (A) ≤ ˛.

Dieses Lemma ist eine wichtige Grundlage der nun folgenden Abschätzung der Konditionszahl der Steifigkeitsmatrix. Den zweiten Teil dieses Lemmas werden wir verwenden, um Abschätzungen der Eigenwerte der Steifigkeitsmatrix Kh durch Abschätzungen des Rayleigh-Quotienten von Kh zu erhalten. Die Abschätzung des Rayleigh-Quotienten der Steifigkeitsmatrix werden wir auf Abschätzungen des Rayleigh-Quotienten der Element-Steifigkeitsmatrizen zurückführen, für die der erste Teil des Lemmas hilfreich sein wird.

 5.2 Konditionszahl der Steifigkeitsmatrix Wir haben bereits festgestellt, dass die Steifigkeitsmatrix typischerweise eine große und dünnbesetzte Matrix ist. Bei geeigneter Nummerierung ist sie außerdem eine Bandmatrix mit sehr kleiner Bandbreite. Aus der Identität a(wh , vh ) = (Kh w h , vh )2

für alle w h , vh ∈ Rnh

lassen sich weitere Eigenschaften der Matrix Kh aus den entsprechenden Eigenschaften der Bilinearform a ableiten, zum Beispiel: • Ist die Bilinearform a symmetrisch, so ist die Matrix Kh symmetrisch. • Ist die Bilinearform a elliptisch, so ist die Matrix Kh positiv definit. Für unser konkretes Modellproblem erfüllt die Bilinearform diese beiden Eigenschaften, also ist in diesem Fall die Matrix Kh symmetrisch und positiv definit. Um Aussagen über die Größenordnung der Konditionszahl von Kh zu bekommen, wird der Rayleigh-Quotient (Kh vh , vh )2 /(vh , vh )2 nach oben und nach unten abgeschätzt. Wir beginnen mit der (einfacheren) Abschätzung nach oben und verwenden dazu die Darstellung der Steifigkeitsmatrix mit Hilfe der Element-Steifigkeitsmatrizen: (Kh vh , vh )2

=

Kh(1) v12 +

    nh   v v Kh(k) k−1 , k−1 . vk vk  k=2

2

5.2 Konditionszahl der Steifigkeitsmatrix Die einzelnen Terme lassen sich leicht berechnen bzw. mit Hilfe des ersten Teils des obigen Lemmas nach oben abschätzen: Kh(1) v12 =

1 2 v h1 1

und für k ≥ 2      v v Kh(k) k−1 , k−1 vk vk 2

     v v Kˆ k−1 , k−1 vk vk 2

=

1 hk

≤

1 ˆ max (K) hk

=

    vk−1 v , k−1 vk vk 

2

2 2 vk−1 + vk2 hk

ˆ = 2. Also erhält man wegen max (K)

(Kh vh , vh )2

≤

nh

1 2  2 2 v1 + vk−1 + vk2 h1 hk k=2

≤

nh  4 4 vk2 = (v , v ) . mink hk mink hk h h 2 k=1

Das heißt: max (Kh ) =

sup

0=v h ∈Rnh

4 (Kh v h , v h )2 ≤ . (v h , vh )2 mink hk

ˆ = Eine untere Schranke lässt sich auf diesem Weg nicht ableiten,da leider gilt: min (K) 0. Stattdessen beginnen wir mit der Friedrichs-Ungleichung: a(vh , vh ) = |vh |2H 1 (0,1) ≥

1 1 vh 2L2 (0,1) = 2 (vh , vh )L2 (0,1) . CF2 CF

Völlig analog zur Steifigkeitsmatrix als Matrixdarstellung der Bilinearform a auf V0h lässt sich auch für das L2 -Skalarprodukt, das ebenfalls eine Bilinearform ist, eine Matrixdarstellung auf V0h ableiten: (wh , vh )L2(0,1) = (Mh wh , vh )2 mit

 Mh = (Mij )i,j=1,...,nh ,

1

Mij = ('j , 'i )L2 (0,1) = 0

'j (x)'i (x) dx.

61

62

5 Lineare Gleichungssysteme Wir nennen die Matrix Mh die Massenmatrix. Diese Matrix lässt sich aus ElementMassenmatrizen aufbauen: (Mh w h , vh )2



=

T∈Th

wh (x)vh (x) dx =

T

Mh(1) w1 v1

=

nh  nh 

 'j (x)'i (x) dx

vi wj

k=1 i,j=1

Tk

    nh   vk−1 (k) wk−1 Mh , + wk vk 2

(5.1)

k=2

mit

 Mh(1) =

und für k ≥ 2

⎛  ⎜ ⎜ Mh(k) = ⎜ ⎝

'1 (x)'1 (x) dx T1

 'k−1 (x) dx

'k−1 (x)'k (x) dx

2

Tk

Tk

 'k (x)'k−1 (x) dx

'k (x)2 dx

Tk

⎞ ⎟ ⎟ ⎟. ⎠

Tk

Durch Transformation auf das Referenzelement Tˆ = (0, 1) erhält man die Darstellung:  h1 (1) Mh = 'ˆ1 ( )2 |F1 ( )| d = 3 ˆ T und analog für k ≥ 2 ⎛  ⎜ ⎜ Mh(k) = ⎜ ⎝

Tˆ

Tˆ

mit

'ˆ1 ( )'ˆ0( )|Fk ( )|

⎛  ⎜ ˆ =⎜ M ⎜ ⎝ Tˆ



'ˆ0 ( )2|Fk ( )| d

Tˆ

'ˆ0 ( )'ˆ1( )|Fk ( )| d

 d

Tˆ

'ˆ1 ( )2 |Fk ( )| d

 Tˆ

'ˆ0 ( )2 d

Tˆ

'ˆ0 ( )'ˆ1 ( ) d

 'ˆ1 ( )'ˆ0 ( ) d

Tˆ

'ˆ1 ( )2 dx

⎞ ⎟ ⎟ ˆ ⎟ = hk M ⎠

⎞  ⎟ 1  2 1 ⎟ . ⎟= ⎠ 6 1 2

Die einzelnen Terme in (5.1) lassen sich leicht berechnen bzw. mit Hilfe des ersten Teils des letzten Lemmas nach unten abschätzen: h1 Mh(1) v12 = v12 3

5.2 Konditionszahl der Steifigkeitsmatrix und für k ≥ 2      vk−1 (k) vk−1 Mh , vk vk 



    vk−1 vk−1 ˆ hk M , vk vk 2     vk−1 v ˆ hk min (M) , k−1 vk vk 

= 2

≥

2

hk 2 v + vk2 6 k−1

= ˆ = 1/6. Also erhält man wegen min (M) (Mh v h , vh )2

nh

hk 2 h1 2  v1 + vk−1 + vk2 3 6

≥

mink hk 6

≥

k=2 nh 

vk2 =

k=1

mink hk (v h , vh )2 . 6

Zusammenfassend folgt daher für die Abschätzung nach unten: (Kh vh , vh )2

1 1 (vh , vh )L2(0,1) = 2 (Mh v h , vh )2 CF2 CF

=

a(vh , vh ) ≥

≥

mink hk (v h , vh )2 . 6CF2

Daraus folgt: min (Kh ) =

inf

0=vh ∈Rnh

mink hk (Kh v h , vh )2 ≥ . (v h , vh )2 6CF2

Also erhält man folgende Abschätzung für die Konditionszahl der Steifigkeitsmatrix (bei Verwendung der euklidischen Norm als Vektornorm in Rnh ): (Kh ) =

1 max (Kh ) ≤ 24CF2 . min (Kh ) mink h2k

Für den Spezialfall einer äquidistanten Zerlegung folgt: (Kh ) ≤ 24CF2

1 , h2

wir schreiben dafür kurz mit Hilfe des Landau-Symbols O: (Kh ) = O(

1 ) h2

für h → 0.

Zur Notation: g(z) = O(h(z)) f u¨ r z → z0 bedeutet: Es gibt eine Konstante C > 0 mit g(z) ≤ C h(z) f u¨ r alle z, die hinreichend nahe bei z0 liegen. Wenn aus dem Zusammenhang klar ist, welcher Grenzübergang z → z0 gemeint ist, schreiben wir auch kürzer: g(z) = O(g(z)).

63

64

5 Lineare Gleichungssysteme Der Exponent 2 in 1/h2 entspricht der Ordnung 2 der betrachteten Differentialgleichung. Die Abschätzung lässt sich bezüglich dieses Exponenten im Allgemeinen nicht verbessern, siehe Übungsaufgabe 18. Als kurze Zusammenfassung der Problemanalyse ergibt sich also, dass die Systemmatrix unseres linearen Gleichungssystems für den interessanten Fall feiner Zerlegungen groß, dünnbesetzt und schlecht konditioniert ist.

Übungsaufgaben 17. Die Auswirkungen von Störungen in A und b auf die Lösung x des linearen Gleichungssystems Ax = b wurden durch Linearisierung gewonnen und sind daher nur von erster Ordnung genau. Zeigen Sie für A−1 A < 1 die exakte Darstellung x = A¯ −1 b − A¯ −1 A x und die genauen Abschätzungen x ≤ und

  A−1  b + A x 1 − A−1 A

  (A) b A x ≤ + . x 1 − A−1 A b A

18. Sei Th eine äquidistante Zerlegung des Intervalls (0, 1) und bezeichne V0h den Raum der stetigen und bezüglich der Zerlegung stückweise linearen Funktionen (CourantElement), die im Punkt x = 0 verschwinden. Schätzen Sie die Konditionszahl der Steifigkeitsmatrix Kh des Modellproblems nach unten ab. Hinweis: Verwenden Sie den Rayleigh-Quotienten für den speziellen Vektor v h = (1, 0, . . . , 0)T , um eine untere Schranke für max (Kh ) zu bestimmen. Verwenden Sie den Rayleigh-Quotienten für den speziellen Vektor vh = (h, 2h, 3h, . . . , 1)T , um eine obere Schranke für min(Kh ) zu bestimmen. 19. Sei Th eine äquidistante Zerlegung des Intervalls (0, 1) und bezeichne Vh den Raum der stetigen und bezüglich der Zerlegung stückweise linearen Funktionen (CourantElement). Schätzen Sie die Konditionszahl (bezüglich der euklidischen Norm als Vektornorm) der dazugehörigen Massenmatrix Mh nach oben ab. 20. Sei Th eine äquidistante Zerlegung des Intervalls (0, 1) und bezeichne Vh den Raum der stetigen und bezüglich der Zerlegung stückweise linearen Funktionen (CourantElement). Das H 1 -Skalarprodukt lässt sich auf Vh durch eine Matrix Bh darstellen: (wh , vh )H 1 (0,1) = (Bh , w h , vh )2

für alle vh , wh ∈ Vh .

Schätzen Sie min(Bh ) nach unten und max (Bh ) nach oben ab. 21. Angenommen, die Voraussetzungen des Satzes von Lax-Milgram gelten für ein Variationsproblem a(u, v) = f , v für alle v ∈ V in V = H 1(0, 1) bezüglich der H 1 -Norm. Zusätzlich sei a symmetrisch. Sei Th eine äquidistante Zerlegung des Intervalls (0, 1) und bezeichne Vh den Raum der stetigen und bezüglich der Zerlegung stückweise linearen Funktionen (Courant-Element). Schätzen Sie die Konditionszahl der zur Bilinearform a gehörigen Steifigkeitsmatrix Kh nach oben ab. Hinweis: Schätzen Sie den Ausdruck a(v h , v h ) nach oben und unten mit Hilfe des Ausdrucks (v h , vh )H 1 (0,1) ab und verwenden Sie dann die letzte Übungsaufgabe.

6

Das Gaußsche Eliminationsverfahren

Das wohl bekannteste Verfahren zur Berechnung der Lösung eines linearen Gleichungssystems Ax = b oder ausführlicher a11 x1

+

a12 x2

+ ··· +

a1n xn

=

b1

a21 x1 .. .

+

a22 x2 .. .

+ ··· +

a2n xn .. .

=

b2 .. .

an1 x1

+ an2 x2

+ ··· +

ann xn

= bn

ist das Gaußsche1 Eliminationsverfahren.

 6.1 Der Algorithmus Im ersten Schritt des Gaußschen Eliminationsverfahrens wird die Variable x1 aus der 2. bis zur n-ten Gleichung eliminiert, indem ein jeweils geeignetes Vielfaches der 1. Gleichung von den restlichen Gleichungen abgezogen wird. Man überzeugt sich leicht, dass die Variable x1 aus der neuen i-ten Zeile verschwindet, wenn man das ai1 /a11-fache der 1. Zeile subtrahiert. Das setzt natürlich voraus, dass das Element a11 nicht 0 ist. Dieses Element heißt das Pivotelement des 1. Schrittes. Dann ist der Faktor li1 = ai1 /a11 auch wirklich wohldefiniert. Es entsteht ein neues Gleichungssystem (mit unveränderter Lösung) a11 x1

1

+

a12 x2

+

··· +

a1n xn

=

b1

a(1) 22 x2 .. .

+

··· +

a(1) 2n xn .. .

=

b(1) 2 .. .

a(1) n2 x2

+

··· +

a(1) nn xn

=

b(1) n

Carl Friedrich Gauß (1777–1855), deutscher Mathematiker, Astronom und Physiker

66

6 Das Gaußsche Eliminationsverfahren mit li1

=

ai1 , a11

a(1) ij

=

aij − li1 a1j ,

i, j = 2, . . . , n

bi − li1 b1 ,

i = 2, . . . , n.

i = 2, . . . , n,

und b(1) i

=

Benennt man (überflüssigerweise, aber als gute Vorbereitung für später) die unveränderten Koeffizienten a1j und die rechte Seite b1 der ersten Zeile in u1j und c1 um, so erhält man für das neue System die Darstellung u11 x1

+

u12 x2

+

··· +

u1n xn

=

c1

a(1) 22 x2 .. .

+

··· +

a(1) 2n xn .. .

=

b(1) 2 .. .

a(1) n2 x2

+

··· +

a(1) nn xn

=

b(1) n

mit u1j

=

li1

=

a(1) ij

=

a1j , j = 1, 2, . . . , n, ai1 , i = 2, . . . , n, u11

(6.1)

aij − li1 u1j ,

i, j = 2, . . . , n

b1 , bi − li1 c1 ,

i = 2, . . . , n.

und c1 b(1) i

= =

Im zweiten Schritt des Gaußschen Eliminationsverfahrens wird die Variable x2 aus der 3. bis zur n-ten Gleichung analog eliminiert: Es entsteht das neue Gleichungssystem u11 x1

+

u12 x2

+

· · ·· · ·· · ·· · ·· · · +

u1n xn

=

c1

u22 x2

+

· · ·· · ·· · ·· · ·· · · +

u2n xn

=

c2

a(2) 33 x3 .. .

+

···

+ a(2) 3n xn .. .

=

b(2) 3 .. .

a(2) n3 x3

+

···

+ a(2) nn xn

=

b(2) n

6.1 Der Algorithmus mit u2j

=

a(1) 2j ,

li2

=

ai2 , u22

(2)

=

aij − li2 u2j ,

j = 2, 3, . . . , n,

(1)

aij

i = 3, . . . , n,

(1)

(6.2)

i, j = 3, . . . , n

und c2

=

b(1) 2 ,

b(2) i

=

b(1) i − li2 c2 ,

i = 3, . . . , n.

Diesmal wurden die nach dem ersten Schritt unveränderten Koeffizienten a(1) 2j und die rechte Seite b(1) 2 der 2. Zeile in u2j und c2 umbenannt und die Faktoren li2 eingeführt, mit deren Hilfe eine neue i-te Zeile durch Subtraktion des entsprechenden Vielfachen der 2. Zeile entsteht. Das Pivotelement des zweiten Schrittes ist u22 = a(1) 22 , das nicht gleich 0 sein darf. Setzt man das Verfahren entsprechend fort, so erhält man schließlich nach insgesamt n − 1 Schritten ein Gleichungssystem der Form u11 x1

+

u12 x2

+

··· +

u1n xn

=

c1

u22 x2

+ ··· + .. .

u2n xn .. .

=

c2 .. .

unn xn

= cn

Dieses Gleichungssystem lässt sich leicht durch Rückwärtseinsetzen (engl.: backward substitution) von unten nach oben auflösen: Aus der letzten Gleichung erhält man die letzte Komponente der Lösung xn = cn/unn, die man dann bei den anderen Gleichungen als bekannt voraussetzen kann. Es bleibt ein reduziertes System u11 x1

+ u12 x2

+

··· +

u1,n−1 xn−1

=

c1(1)

u22 x2

+ .. .

··· +

u2,n−1 xn−1 .. .

=

c2(1) .. .

un−1,n−1 xn−1

=

(1) cn−1

mit ci(1) = ci − ui,n xn ,

i = 1, . . . , n − 1.

67

68

6 Das Gaußsche Eliminationsverfahren Mit diesem System verfährt man auf analoge Art: Man bestimmt die (n − 1)-te Komponente der Lösung (1) xn−1 = cn−1 /un−1,n−1 und berechnet neue rechte Seiten ci(2) = ci(1) − ui,n−1 xn−1 ,

i = 1, . . . , n − 2

des reduzierten Systems. Nach insgesamt n Schritten hat man dann alle Komponenten von x berechnet. Das Gaußsche Eliminationsverfahren ist genau dann durchführbar, wenn keines der Pivotelemente verschwindet: ukk = a(k−1) = 0, kk

k = 1, 2, . . . , n

mit a(0) 11 = a11 .

Anzahl der Operationen Die Berechnung von lik und a(k) ij im k-ten Schritt erfordert n − k Divisionen und je $ 2 (n − k) Multiplikationen und Subtraktionen. Das ergibt insgesamt n−1 k=1 n − k + 2 (n − k)2 = 2n3/3 − n2 /2 − n/6 arithmetische Grundoperationen. erfordert je n − k Multiplikationen Die Berechnung von b(k) i im k-ten Schritt $n−1 und Subtraktionen. Das ergibt insgesamt k=1 2(n − k) = n2 − n arithmetische Grundoperationen. Die Berechnung von xn−k+1 und ci(k) erfordert eine$ Division und je n − k Multiplikationen und Subtraktionen. Das ergibt insgesamt nk=1 1 + 2(n − k) = n2 arithmetische Grundoperationen. Für große Zahlen n benötigt man also etwa 2n3/3 arithmetische Grundoperationen, der Aufwand steigt etwa proportional zu n3 für ein Gleichungssystem mit n Unbekannten. Verdoppelt man die Anzahl der Unbekannten, so verachtfacht sich etwa die Anzahl der Operationen. Dazu ein einfaches Rechenbeispiel (siehe die Diskussion über die Anzahl der Unbekannten in der Einleitung): Wir gehen von der (realistischen) Annahme aus, dass ein Rechner in der Größenordnung von 100 − 1000 Millionen arithmetische Grundoperationen in einer Sekunde durchführen kann. In diesem Fall spricht man von einer Rechenleistung von 100 − 1000 MFLOPS (M wie Mega = 1 000 000, FLOPS wie floating point operations per second, eine floating point operation (deutsch: Gleitkommaoperation) ist eine am Rechner implementierte arithmetische Grundoperation). Dann benötigt das Gaußsche Eliminationsverfahren für ein Gleichungssystem mit n = 100 etwa 0,0007 − 0,007 Sekunden, also nur einen Bruchteil einer Sekunde. Besitzt hingegen das Gleichungssystem n = 10 000 Unbekannte, also um den Faktor 100 mehr, so müssen wir mit einer 1003-mal längeren Rechenzeit rechnen, also etwa mit 0,2 − 2 Stunden. Die Rechenzeit liegt dann im Stundenbereich. Eine nochmalige Verhundertfachung der Unbekannten, also n = 1 000 000, würde dann zu Rechenzeiten von etwa 20 − 200 Jahren führen!

6.1 Der Algorithmus

Speicherbedarf Für die Daten A und b des linearen Gleichungssystems benötigt man n2 +n Speichereinheiten für reelle Zahlen. Wenn diese Daten überschrieben werden dürfen, lassen sich alle Informationen, die nach k − 1 Schritten des Eliminationsprozesses für die Fortführung des Algorithmus benötigt werden, in der Form ⎛ ⎜ u11 ⎜ ⎜ ⎜ ⎜ l21 ⎜ ⎜ ⎜ . ⎜ . ⎜ . ⎜ ⎜ ⎜ . ⎜ .. ⎜ ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎜ ⎝ ln1

··· ..

.

..

.

···

···

···

u1n .. .

···

uk−1,k−1

···

lk,k−1

a(k−1) kk

.. .

.. .

ln,k−1

a(k−1) nk

· · · uk−1,n ···

a(k−1) kn .. .

···

a(k−1) nn

⎞

⎛

⎞

⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟, ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎠

⎜ c1 ⎜ ⎜ .. ⎜ ⎜ . ⎜ ⎜ ⎜ ⎜ ⎜ ck−1 ⎜ ⎜ ⎜ ⎜ b(k−1) ⎜ k ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎜ ⎝ b(k−1) n

⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟, ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎠

abspeichern. Man überschreibt also sukzessive die Einträge von Matrix und rechter Seite und nutzt den durch die Elimination freiwerdenden Platz,um auch die Faktoren lik abzuspeichern. Das Rückwärtseinsetzen lässt sich analog organisieren. Insgesamt genügt also der ursprünglich benötigte Speicherplatz für die Durchführung des Algorithmus. Der benötigte Speicherplatz steigt also etwa proportional zu n2 für ein Gleichungssystem mit n Unbekannten. Verdoppelt man die Anzahl der Unbekannten, vervierfacht sich etwa der Speicherbedarf. Dazu wieder ein einfaches Rechenbeispiel: Gehen wir von der (realistischen) Annahme aus, dass eine reelle Zahl 8 Bytes an Speicher benötigt, so erfordert die Durchführung des Gaußschen Eliminationsverfahrens im allgemeinen Fall für ein Gleichungssystem von n = 100 Unbekannten etwa 0,08 MBytes an Speicher. Für n = 10 000 steigt der Speicherbedarf um den Faktor 1002, also auf 800 MBytes, für n = 1 000 000 nochmals um den Faktor 1002 auf 8 000 GBytes.

Dreieckszerlegungen Die Formeln (6.1) des ersten Schrittes sind offensichtlich äquivalent zu a1j

=

1 · u1j ,

j = 1, . . . , n,

ai1

=

li1 · u11 ,

aij

=

li1 · u1j + 1 · a(1) ij ,

i = 2, . . . , n, i, j = 2, . . . , n.

69

70

6 Das Gaußsche Eliminationsverfahren Das bedeutet in Matrixschreibweise: ⎜ ⎜ ⎜ ⎜ ⎜ A=⎜ ⎜ ⎜ ⎜ ⎜ ⎝

⎞

⎞⎛

⎛

0 · · · 0 ⎟ ⎜ u11 ⎟⎜ ⎟⎜ ⎟⎜ 0 1 ⎟⎜ ⎟⎜ ⎟⎜ . .. ⎟ ⎜ .. . ⎟⎜ ⎟⎜ ⎠⎝ 0 1

1 l21 .. . ln1

u12 a(1) 22 .. . (1)

an2

· · · u1n ⎟ ⎟ ⎟ (1) ⎟ · · · a2n ⎟ ⎟. .. ⎟ ⎟ . ⎟ ⎟ ⎠ (1) · · · ann

Die Formeln (6.2) des zweiten Schrittes sind offensichtlich äquivalent zu a(1) 2j

=

1 · u2j ,

a(1) i2

=

li2 · u22 ,

a(1) ij

=

li2 · u2j + 1 · a(2) ij ,

j = 2, . . . , n, i = 3, . . . , n, i, j = 3, . . . , n.

Also ⎞

⎛ (1) ⎜ a22 ⎜ ⎜ . ⎜ .. ⎜ ⎜ ⎝ a(1) n2

⎞⎛

⎛

⎜ ⎜ · · · a(1) ⎜ 2n ⎟ ⎟ ⎜ ⎜ .. ⎟ ⎜ . ⎟ ⎟=⎜ ⎟ ⎜ ⎠ ⎜ ⎜ · · · a(1) ⎝ nn

1 l32 .. . ln2

⎞

0 · · · 0 ⎟ ⎜ u22 ⎟⎜ ⎟⎜ ⎟⎜ 1 ⎟⎜ 0 ⎟⎜ ⎟⎜ . .. ⎟ ⎜ .. . ⎟⎜ ⎟⎜ ⎠⎝ 1 0

u23 a(2) 33 .. . a(2) n3

···

u2n ⎟ ⎟ ⎟ (2) ⎟ · · · a3n ⎟ ⎟. .. ⎟ . ⎟ ⎟ ⎟ ⎠ (2) · · · ann

Gemeinsam mit der obigen Darstellung im 1. Schritt folgt dann leicht: ⎛ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ A=⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝

⎞

⎞⎛ 1

0

l21

1

.. .

l32

.. .

.. .

ln1

ln2

· · · · · · 0 ⎟ ⎜ u11 ⎟⎜ ⎟⎜ ⎜ 0 ··· 0 ⎟ ⎟⎜ 0 ⎟⎜ ⎟⎜ . ⎟ ⎜ .. 1 ⎟⎜ ⎟⎜ ⎟⎜ . .. ⎟⎜ . . ⎟⎜ . ⎟⎜ ⎠⎝ 1 0

...

···

u22

···

0

a(2) 33

.. .

.. .

0

an3

(2)

···

u1n ⎟ ⎟ ⎟ · · · u2n ⎟ ⎟ ⎟ ⎟ (2) ⎟ . · · · a3n ⎟ ⎟ .. ⎟ ⎟ . ⎟ ⎟ ⎠ (2) · · · ann

Setzt man diese Überlegungen entsprechend fort, so erhält man schließlich nach n − 1 Schritten die Darstellung A = LU

6.1 Der Algorithmus mit

⎛ ⎜1 ⎜ ⎜ ⎜l21 ⎜ L=⎜ ⎜ . ⎜ . ⎜ . ⎜ ⎝ ln1

0

···

1

..

..

..

.

. .

· · · ln,n−1

⎞ 0⎟ ⎟ .. ⎟ .⎟ ⎟ ⎟ ⎟ ⎟ 0⎟ ⎟ ⎠ 1

⎛ ⎜u11 ⎜ ⎜ ⎜ 0 ⎜ U =⎜ ⎜ . ⎜ . ⎜ . ⎜ ⎝ 0

und

⎞ · · · u1n ⎟ ⎟ ⎟ · · · u2n ⎟ ⎟ ⎟. .. ⎟ .. ⎟ . . ⎟ ⎟ ⎠ 0 unn

··· u22 ..

71

.

···

Die Matrix L nennt man eine linke untere Dreiecksmatrix, die Matrix U eine rechte obere Dreiecksmatrix. Die Darstellung einer Matrix A in der Form A = LU mit einer linken unteren Dreiecksmatrix L und einer rechten oberen Dreiecksmatrix U heißt eine Dreieckszerlegung der Matrix A. Die gleichen Überlegungen werden nun für die Einträge der rechten Seite des Gleichungssystems durchgeführt: Die Formeln für die rechte Seite im ersten Schritt sind äquivalent zu b1

=

1 · c1 ,

bi

=

li1 · c1 + 1 · bi ,

Also

(1)

⎛ ⎜ 1 ⎜ ⎜ ⎜ l21 b=⎜ ⎜ . ⎜ .. ⎜ ⎝ ln1

i = 2, . . . , n.

⎞⎛ 0 · · · 0 ⎟ ⎜ c1 ⎟⎜ ⎟ ⎜ (1) 1 ⎟ ⎜ b2 ⎟⎜ ⎟⎜ . .. ⎟ ⎜ .. . ⎟⎜ ⎠⎝ 1 b(1) n

⎞ ⎟ ⎟ ⎟ ⎟ ⎟. ⎟ ⎟ ⎟ ⎠

Die Formeln für die rechte Seite im zweiten Schritt sind äquivalent zu b(1) 2

=

1 · c2 ,

b(1) i

=

li2 · c2 + 1 · b(2) i ,

Also ⎛

⎞

⎛

⎜ (1) ⎜ ⎜ b2 ⎟ ⎜ ⎟ ⎜ ⎜ ⎜ . ⎟ ⎜ ⎜ .. ⎟ = ⎜ ⎟ ⎜ ⎜ ⎟ ⎜ ⎜ ⎠ ⎜ ⎝ ⎜ b(1) ⎝ n

i = 3, . . . , n. ⎞⎛

1 l32 .. . ln2

0 · · · 0 ⎟ ⎜ c2 ⎟⎜ ⎟ ⎜ (2) ⎟⎜ b 1 ⎟⎜ 3 ⎟⎜ ⎟⎜ . .. ⎟⎜ . . ⎟⎜ . ⎟⎜ ⎠⎝ b(2) 1 n

⎞ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟. ⎟ ⎟ ⎟ ⎟ ⎠

Definition

72

6 Das Gaußsche Eliminationsverfahren Gemeinsam mit der obigen Darstellung im 1. Schritt folgt dann leicht: ⎞⎛

⎛ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ b=⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝

1

0

l21 .. . .. .

1 l32 .. .

ln1

ln2

··· ··· 0 ⎟⎜ ⎟⎜ ⎟⎜ 0 ··· 0 ⎟⎜ ⎟⎜ ⎟⎜ ⎟⎜ 1 ⎟⎜ ⎟⎜ ⎟⎜ .. ⎟⎜ . ⎟⎜ ⎠⎝ 1

⎞ c1 ⎟ ⎟ ⎟ c2 ⎟ ⎟ ⎟ (2) ⎟ . b3 ⎟ ⎟ .. ⎟ . ⎟ ⎟ ⎠ b(2) n

Setzt man diese Überlegungen entsprechend fort, so erhält man schließlich nach n − 1 Schritten die Darstellung b = L c, oder umgekehrt angeschrieben, Lc = b mit c = (c1 , c2, . . . , cn )T . Schließlich ist im letzten Teil des Gaußschen Eliminationsverfahrens das gestaffelte System Ux = c durch Rückwärtseinsetzen zu lösen. Diese Diskussion führt zur folgenden Neuinterpretation des Gaußschen Eliminationsverfahrens: Zunächst wird eine Dreieckszerlegung A = LU durchgeführt. Daraus lässt sich dann leicht die Lösung des linearen Gleichungssystems Ax = b bestimmen. Denn mit der Bezeichnung c = Ux ist die Auflösung des Gleichungssystems Ax = L Ux = b gleichbedeutend mit der sukzessiven Auflösung der beiden Gleichungssysteme Lc = b

und Ux = c.

Gleichungssysteme mit Dreiecksmatrizen nennt man gestaffelte Systeme. Das erste gestaffelte System löst man leicht von oben nach unten auf (Vorwärtseinsetzen), das zweite gestaffelte System von unten nach oben (Rückwärtseinsetzen). Nach den Überlegungen zum Aufwand des Gaußschen Eliminationsverfahrens benötigt man zur Dreieckszerlegung O(n3 ) (für n → ∞) arithmetische Grundoperationen, zur Auflösung der beiden gestaffelten Systeme je O(n2 ) arithmetische Grundoperationen.

Dreieckszerlegungen für Bandmatrizen Eine Bandmatrix ist eine Matrix, bei der bis auf ein Band von Diagonalen rund um die Hauptdiagonale alle Matrixelemente gleich 0 sind. Genauer gesagt unterscheidet man zwischen oberer und unterer Bandbreite:

6.1 Der Algorithmus Eine Matrix A = (aij ) ∈ Rn×n besitzt eine untere Bandbreite p bzw. eine obere Bandbreite q, falls aij = 0 für alle i, j mit i > j + p bzw. mit j > i + q.

Eine Bandmatrix hat also folgende Gestalt: ⎞ 0 ⎟ ⎟ .. ⎟ .. . . ⎟ ⎟ ⎟ ⎟ .. . 0 ⎟ ⎟ ⎟. ⎟ .. . an−q,n ⎟ ⎟ ⎟ .. ⎟ .. . . ⎟ ⎟ ⎠ · · · ann

⎛ ⎜ a11 ⎜ ⎜ .. ⎜ . ⎜ ⎜ ⎜ ⎜ap+1,1 ⎜ A=⎜ ⎜ ⎜ 0 ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎝ 0

· · · a1,q+1

0

···

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

···

0

an,n−p

Wie man leicht sieht, überträgt sich beim Gaußschen Eliminationsverfahren diese Gestalt auf die Dreiecksmatrizen. L besitzt die gleiche untere Bandbreite wie A, U besitzt die gleiche obere Bandbreite wie A: ⎛ ⎜ l11 ⎜ ⎜ .. ⎜ . ⎜ ⎜ ⎜ ⎜lp+1,1 ⎜ L=⎜ ⎜ ⎜ 0 ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎝ 0 und

⎛ ⎜u11 ⎜ ⎜ ⎜ 0 ⎜ ⎜ ⎜ .. ⎜ . ⎜ U =⎜ ⎜ .. ⎜ . ⎜ ⎜ ⎜ .. ⎜ . ⎜ ⎝ 0

0

···

···

···

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

···

0

· · · lnn

ln,n−p

· · · u1,q+1

0

···

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

..

.

···

0

···

···

⎞ 0⎟ ⎟ .. ⎟ .⎟ ⎟ ⎟ .. ⎟ .⎟ ⎟ ⎟ .. ⎟ .⎟ ⎟ ⎟ ⎟ 0⎟ ⎟ ⎠

⎞ 0 ⎟ ⎟ .. ⎟ . ⎟ ⎟ ⎟ ⎟ 0 ⎟ ⎟ ⎟. ⎟ un−q,n ⎟ ⎟ ⎟ .. ⎟ . ⎟ ⎟ ⎠ unn

73 Definition

74

6 Das Gaußsche Eliminationsverfahren Dadurch lässt sich Aufwand sparen: Nur jene Elemente von L und U , die innerhalb des Bandes liegen, müssen tatsächlich berechnet werden. Zur Durchführung des Gaußchen Eliminationsverfahrens für Matrizen mit unterer Bandbreite p und oberer Bandbreite q benötigt man nicht mehr als (p + 2pq) (n − 1) Operationen für die Dreieckszerlegung, nicht mehr als 2 p (n − 1) Operationen für die Berechnung von c und nicht mehr als n + 2q (n − 1) Operationen für die Berechnung von x, siehe Übungsaufgabe 28. Das bedeutet deutlich weniger Operationen, wenn p, q wesentlich kleiner als n sind. Der Speicherbedarf zur Durchführung des Gaußchen Eliminationsverfahrens beträgt nicht mehr als (p + q + 2) n Speicherplätze. Elemente außerhalb des Bandes von insgesamt p + q + 1 Diagonalen rund um die Hauptdiagonale sind gleich 0 und bleiben auch während des Gaußschen Eliminationsverfahrens gleich 0. Dies gilt nicht für eventuell vorhandene Nulleinträge der Matrix A innerhalb des Bandes. Solche Nulleinträge bleiben im Allgemeinen während des Verfahrens nicht erhalten (man spricht von fill in).

Dreieckszerlegungen für symmetrische und positiv definite Matrizen Für symmetrische und positiv definite Matrizen A lässt sich eine Dreieckszerlegung A = LU mit U = LT durchführen: A = LLT . Diese Dreieckszerlegung heißt Cholesky-Zerlegung. Im Gegensatz zum Gaußschen Eliminationsverfahren sind die Diagonalelemente von L nicht gleich 1, sondern ergeben sich im Laufe der Rechnung. Der Aufwand zur Berechnung der Cholesky-Zerlegung entspricht dem Aufwand des Gaußschen Eliminationsverfahrens, allerdings müssen alle Operationen aufgrund der Symmetrie nur für Indizes i, j mit i ≥ j durchgeführt werden. Man benötigt damit nur etwa die Hälfte der Operationen für das Gaußsche Eliminationsverfahren, also etwa n3 /3 arithmetische Grundoperationen, siehe die Übungsaufgaben 26, 27.

Gleichungssysteme mit mehreren rechten Seiten Zur Lösung mehrerer Gleichungssysteme der Form Axl = bl ,

l = 1, . . . , r

mit gleicher Matrix aber verschiedenen rechten Seiten,benötigt man nur einmal eine Dreieckszerlegung. Nur die gestaffelten Systeme müssen mehrmals gelöst werden. Damit entsteht ein Aufwand von etwa 2n3 /3 + 2rn2 Operationen. Beispiel

Berechnung der Inversen einer Matrix. Bezeichnet man die Spaltenvektoren der Inversen A−1 mit xl , so entspricht die Berechnung der Inversen der Lösung der Systeme Axl = el , l = 1, . . . , n.

6.2 Numerische Stabilität des Algorithmus Dabei bezeichnet el jenen Vektor, dessen l-te Komponente gleich 1 ist, während alle anderen Komponenten gleich 0 sind. Nach den obigen Aufwandsüberlegungen kostet diese Berechnung der Inversen insgesamt etwa 2n3/3 + 2nn2 = 8n3/3 Operationen. Eine etwas genauere Zählung ergibt tatsächlich nur etwa 2n3 Operationen. Man könnte die Lösung eines linearen Gleichungssystems Ax = b auch nach der Formel x = A−1 b über die Berechnung der Inversen durchführen. Die obige Analyse zeigt allerdings, dass dazu wesentlich mehr Operationen benötigt werden als beim Gaußschen Eliminationsverfahren.

 6.2 Numerische Stabilität des Algorithmus Das Gaußsche Eliminationsverfahren lässt sich leicht auf einem Computer implementieren. Mit Hilfe eines Computerprogramms werden die vorhin beschriebenen notwendigen Rechenschritte in der entsprechenden Reihenfolge ausgeführt und liefern für gegebene Daten A und b in O(n3 ) arithmetischen Grundoperationen die Lösung x bei einem Speicherbedarf von O(n2 ) Einheiten für reelle Zahlen. Werden die Daten A und b des Problems exakt eingegeben und werden die arithmetischen Grundoperationen exakt durchgeführt, so erhalten wir die exakte Lösung x des linearen Gleichungssystems (unter der Annahme, dass kein Pivotelement verschwindet) nach endlich vielen Operationen. Ein derartiges Verfahren nennen wir ein direktes Verfahren zur Lösung linearer Gleichungssysteme. Es entsteht kein Verfahrensfehler.

Rundungsfehler Nicht alle reellen Zahlen sind auf einem Rechner exakt darstellbar. Die am Rechner exakt darstellbaren (endlich vielen) Zahlen nennen wir Maschinenzahlen. Wir müssen davon ausgehen, dass die arithmetischen Grundoperationen für Maschinenzahlen nicht immer exakt ausgeführt werden können, da das Ergebnis ja jedenfalls eine Maschinenzahl sein muss. Wir müssen also zwischen einer reellen Zahl x und ihrer näherungsweisen Darstellung xrd als Maschinenzahl unterscheiden und ebenso zwischen den exakten arithmetischen Grundoperationen +, −, ∗, / für reelle Zahlen und den tatsächlich verfügbaren näherungsweisen Operationen +rd , −rd , ∗rd , /rd für Maschinenzahlen. Die dadurch verursachten Fehler nennen wir Rundungsfehler. Wir setzen voraus, dass der relative Fehler, der bei der Darstellung einer reellen Zahl am Rechner oder bei der Ausführung der arithmetischen Grundoperationen entsteht, eine (bekannte) Größe eps, die Maschinengenauigkeit, nicht überschreitet: |xrd − x| ≤ eps |x|

und

|x ◦rd y − x ◦ y| ≤ eps |x ◦ y|

für

◦ ∈ {+, −, ∗, /}.

75

76 Beispiel

6 Das Gaußsche Eliminationsverfahren Für die Realisation reeller Zahlen mit Hilfe des Datentyps double in der Programmiersprache C erhält man typischerweise für die Maschinengenauigkeit eps = 2−53 ≈ 10−16 . Wir können also von einem sehr kleinen einzelnen Rundungsfehler ausgehen. Viele solche sehr kleinen Rundungsfehler entstehen bei der Ausführung des Gaußschen Eliminationsverfahrens sowohl bei der Dateneingabe als auch bei den O(n3 ) arithmetischen Grundoperationen. Es bleibt zu untersuchen, wie sich diese Fehler auf das Endergebnis x auswirken. Zunächst untersuchen wir die Auswirkungen der Rundungsfehler bei der Dateneingabe und kümmern uns nicht um die weiteren Rundungsfehler, die durch die arithmetischen Grundoperationen zusätzlich entstehen. Wir nehmen also an, dass die exakten Daten A und b tatsächlich am Rechner durch Approximationen Ard und brd dargestellt sind, deren relativer Fehler komponentenweise die Maschinengenauigkeit eps nicht überschreitet, also: |Ard − A| ≤ eps |A|

und |brd − b| ≤ eps |b|.

Zur Notation: |M| (|v|) bezeichnet die Matrix (den Vektor) der Beträge der Einträge der Matrix M (des Vektors v). Für den durch die Rundung der Daten verursachten Fehler xrd(dat) in der Lösung x gilt dann wegen

xrd(dat) = A−1 rd brd − b − (Ard − A) x die Abschätzung |xrd(dat) | ≤ ≤





−1 |A−1 rd | |brd − b| + |Ard − A| |x| ≤ eps |Ard | |b| + |A| |x| 2eps |A−1 rd | |A| |x|.

(6.3)

Dieser Rundungsfehler im Ergebnis x hängt nur vom Problem x = ' (A, b) nicht aber vom Verfahren, wie x berechnet wird, ab. Er wird unvermeidbarer Fehler genannt. Bemerkung. Aus (6.3) erhält man für den relativen Fehler, der durch die Rundung der Daten verursacht wird, die Abschätzung: xrd(dat)  ≤ 2 eps |A−1 rd | |A|, x wenn die verwendete Vektornorm die folgende Eigenschaft besitzt: |y| = y für alle y ∈ Rn . (Dies trifft beispielsweise für die euklidische Norm zu.) −1 Die Matrix A−1 rd unterscheidet sich in der Praxis kaum von der Matrix A . Wir erkennen also, dass durch die notwendige komponentenweise Betrachtung nicht die früher eingeführte Zahl (A) = AA−1, sondern die Zahl |A−1 | |A| für die

6.2 Numerische Stabilität des Algorithmus Verstärkung des Eingabefehlers verantwortlich ist, für die eine einfache obere Schranke verfügbar ist: |A−1 | |A| ≤ |A−1 | |A|. Bei Anwendung auf das diskretisierte Modellproblem ergeben sich daraus aber keine wesentlichen Unterschiede zu früher: Die Abschätzung für |Kh|2 verläuft völlig analog zur früheren Abschätzung für Kh 2 und führt auf die selbe obere Schranke. Es lässt sich für unser Modellproblem zeigen, dass alle Einträge von Kh−1 nichtnegativ sind, also |Kh−1 | = Kh−1 . Damit erhalten wir auch für |Kh−1 |2 die selbe Abschätzung wie für Kh−1 2 . Insgesamt gilt also bei Verwendung der euklidischen Norm als Vektornorm auch für diese Konditionszahl: 

|Kh−1 | |Kh |2

1 =O h2

 .

Fazit: Die relative Auswirkung der ungenauen Dateneingabe ist unerheblich. So würde man für eine Diskretisierungsfeinheit von h = 1/100 eine Konditionszahl in der Größenordnung 10 000 erwarten. Das kostet etwa 4 der 16 Dezimalstellen beim Datentyp double, ein verkraftbarer Genauigkeitsverlust. Dieser Fehler ist sicherlich wesentlich kleiner als der zu erwartende Diskretisierungsfehler. Implementiert man das Gaußsche Eliminationsverfahren auf einem Rechner, so legt man dadurch die genaue Reihenfolge der Rechenoperationen fest, also: Man entscheidet, in welcher Reihenfolge die Variablen eliminiert werden, welche Zeilen jeweils zur Elimination verwendet werden, und in welcher Reihenfolge die arithmetischen Operationen zur Berechnung der modifizierten Koeffizienten der Matrix, der rechten Seite und schließlich der gesuchten Lösung durchgeführt werden. Für allgemeine mathematische Probleme der Form x = ' (d) bedeutet das, dass wir uns für eine bestimmte Aufspaltung der Gesamtoperation ' in einfache am Computer direkt verfügbare Operationen 's (kurz elementare Operationen, das sind hier arithmetische Grundoperationen) zu entscheiden haben: ' = '1 ◦ '2 ◦ · · · ◦ 'r . Eine solche Zerlegung ist natürlich nicht eindeutig. Eine spezielle Zerlegung nennen wir einen Algorithmus. Bei jeder einzelnen dieser elementaren Operationen kann ein relativer Fehler von maximal eps auftreten, der seinen Beitrag zum Gesamtrundungsfehler leistet. Um beurteilen zu können, inwieweit der spezielle Algorithmus Schuld am Rundungsfehler hat,ist nicht so sehr der absolute Beitrag des Algorithmus zum Gesamtrundungsfehler maßgeblich, sondern sein Beitrag relativ zum oben betrachteten unvermeidbaren Fehler. Um das herauszufinden, kann man zum Beispiel eine so genannte Rückwärtsanalyse durchführen.

77

78

6 Das Gaußsche Eliminationsverfahren

Rückwärtsanalyse Bei einer Rückwärtsanalyse eines Algorithmus zur Lösung eines Problems der Form x = ' (d) geht es im Allgemeinen darum, die Auswirkung des durch den Algorithmus verursachten Rundungsfehlers durch einen künstlichen Datenfehler zu beschreiben. Für das Gaußsche Eliminationsverfahren zur Lösung des linearen Gleichungssystems Ax = b versucht man also, die tatsächlich berechnete und durch Rundungsfehler verfälschte ¯ b¯ darzustellen. Das Näherung x¯ als exaktes Ergebnis künstlich gestörter Daten A, Ergebnis dieser Analyse ist im folgenden Satz (ohne Beweis) zusammengefasst: Satz

Satz von Sautter. Die mit Hilfe des Gaußschen Eliminationsverfahrens berechnete Näherung x¯ des linearen Gleichungssystems Ax = b für exakt darstellbare Daten A und b ist exakte Lösung eines Gleichungssystems ¯x = b A¯

mit

|A¯ − A| ≤

2n · eps ¯ |L¯ | |U|, 1 − n · eps

falls n · eps ≤ 1/2. L¯ und U¯ bezeichnen die tatsächlich berechneten Dreiecksmatrizen. Das bedeutet, dass der durch den Algorithmus verursachte Rundungsfehler beim Gaußschen Eliminationsverfahren der Auswirkung eines künstlichen Datenfehlers A¯ − A entspricht. Somit erhält man für diesen Anteil xrd(alg) = x¯ − x des Rundungsfehlers: xrd(alg) = −A¯ −1 (A¯ − A) x, also |xrd(alg) | ≤ |A¯ −1 | |A¯ − A| |x| ≤

2n · eps ¯ −1 ¯ |x|. |A | |L¯ | |U| 1 − n · eps

(6.4)

Zur Beurteilung des Rundungsfehlerverhaltens eines Algorithmus ist der durch den Algorithmus verursachte Rundungsfehler mit dem unvermeidbaren Fehler (durch Rundung der Daten) zu vergleichen. Dominiert der durch den Algorithmus verursachte Rundungsfehler den unvermeidbaren Rundungsfehler nicht,so sprechen wir von einem numerisch stabilen Algorithmus, andernfalls von einem numerisch instabilen Algorithmus. Vergleicht man die abgeleiteten oberen Schranken (6.3) und (6.4) (es genügt, die Schranken für die Datenfehler zu vergleichen, man kann natürlich auch die resultierenden Fehler in x vergleichen), so erkennt man, dass das Gaußsche Eliminationsverfahren (für nicht zu große n) dann numerisch stabil ist, wenn die Komponenten ¯ im Vergleich zu den Komponenten von |A| nicht zu groß sind. Einfluss von |L¯ | |U| ¯ kann durch die Wahl der Reihenfolge des auf die Größe der Einträge von |L¯ | und |U| Eliminationsprozesses genommen werden:

6.2 Numerische Stabilität des Algorithmus

Pivotsuche Normalerweise wird im k-ten Schritt des Gaußschen Eliminationsverfahrens die k-te Zeile zur Elimination der Variablen xk aus den restlichen Gleichungen verwendet. und den restlichen Komponenten der k-ten Spalte Aus dem Pivotelement ukk = a(k−1) kk werden die Komponenten von L gebildet.Je kleiner das Pivotelement ist,desto größer werden die Komponenten von L. Man kann leicht Einfluss auf die Größe eines Pivot-Elements nehmen,indem man vor dem nächsten Eliminationsschritt zuerst die k-te Zeile mit der l-ten Zeile und die k-te Spalte mit der m-ten Spalte für ein Indexpaar (l, m) mit l, m ∈ {k, . . . , n} vertauscht.Dann wird das Element a(k−1) zum neuen Pivotelement.Die Vertauschung lm zweier Zeilen ändert nicht die Lösung eines Gleichungssystems. Die Vertauschung zweier Spalten entspricht nur einer Umbenennung der Unbekannten. Man unterscheidet vor allem zwei Strategien zur Wahl des Pivotelements: 1. Totalpivotsuche: Es wird das betragsgrößte Element unter allen möglichen , i, j = k, . . . , n, der Restmatrix als nächstes Pivotelement Elementen a(k−1) ij verwendet. Bezeichnet man die Elemente nach der Zeilen- und Spaltenvertauschung mit a˜ (k−1) , so bedeutet diese Wahl des Pivotelements: ij (k−1) |˜a(k−1) |. kk | = max |aij i,j=k,...,n

2. Spaltenpivotsuche: Es wird das betragsgrößte Element unter allen möglichen Elementen a(k−1) , i = k, . . . , n, der k-ten Spalte der Restmatrix als nächstes ik Pivotelement verwendet. Also (k−1) |. |˜a(k−1) kk | = max |aik i=k,...,n

In beiden Fällen gilt dann |lik | =

|˜a(k−1) | ik |˜a(k−1) kk |

≤ 1.

Man hat also das Wachstum der Elemente von L durch Total- oder Spaltenpivotsuche unter Kontrolle. Nicht so einfach ist die Auswirkung der Pivotsuche auf das Wachstum der Elemente von U . Für den k-ten Eliminationsschritt gilt wegen |lik | ≤ 1 jedenfalls die Abschätzung |˜a(k) a(k−1) − lik a˜ (k−1) | ≤ |˜a(k−1) | + |˜a(k−1) |, ij | = |˜ ij ij kj kj also

max |˜a(k) a(k−1) |. ij | ≤ 2 max |˜ ij

Es kommt also maximal zu einer Verdoppelung der Einträge pro Eliminationsschritt. Somit gilt zumindest folgende Abschätzung: max |uij | ≤ 2n−1 max |aij |.

(6.5)

79

80

6 Das Gaußsche Eliminationsverfahren Bei Verwendung der Totalpivotsuche vermutet man ein in n höchstens lineares Wachstum. Alle praktischen Rechnungen bestätigten diese Vermutung. Daher gilt das Gaußsche Eliminationsverfahren mit Totalpivotsuche als numerisch stabil. Bei Verwendung der Spaltenpivotsuche lässt sich durch konkrete Beispiele zeigen, dass die pessimistische Abschätzung (6.5) im allgemeinen Fall nicht verbessert werden kann. Das Gaußsche Eliminationsverfahren mit Spaltenpivotsuche ist also nicht immer numerisch stabil. Für reguläre Matrizen ist das Gaußsche Eliminationsverfahren für beide Varianten der Pivotsuche stets durchführbar, d.h., man erhält stets ein von Null verschiedenes Pivotelement. Die Durchführung des Verfahrens ohne Pivotsuche ist für reguläre Matrizen nicht in allen Fällen gesichert. In der Praxis begnügt man sich aus Aufwandsgründen meistens mit Spaltenpivotsuche. Es ist allerdings empfehlenswert, vor Anwendung der Spaltenpivotsuche das Problem zu skalieren. Für symmetrische und positiv definite Matrizen lässt sich zeigen, dass die Dreickszerlegung auch ohne Pivotsuche stets durchführbar (siehe Übungsaufgabe 24) und numerisch stabil ist.

Anwendung auf die diskretisierten Gleichungen Die Diskretisierung unseres Modellproblems mit einer Finite-Elemente-Methode führte auf ein Gleichungssystem Kh uh = f

h

mit einer symmetrischen und positiv definiten Tridiagonalmatrix, also einer Bandmatrix mit Bandbreite p = q = 1. Die Durchführung des Gaußchen Eliminationsverfahrens ohne Pivotsuche ist numerisch stabil. Wir benötigen 8nh − 7 elementare Operationen und nicht mehr als 4nh Speichereinheiten für reelle Zahlen. Rechenaufwand und Speicherbedarf steigen also nur linear mit der Anzahl der Unbekannten. Unser Algorithmus ist für unsere Problemstellung optimal. Für spezielle eindimensionale Randwertprobleme ist es also gelungen, eine gute Näherungslösung effizient zu berechnen. Das Ziel der weiteren Betrachtungen ist es, ein ähnlich gutes Resultat auch für mehrdimensionale Randwertprobleme zu erreichen.

Ergänzende Hinweise Wir haben uns in diesem Kapitel nur sehr knapp mit direkten Methoden für lineare Gleichungssysteme beschäftigt. Wesentlich umfassender geschieht das z.B. in [12]. Die Ausnutzung der Bandstruktur ist bei Weitem nicht der einzige Weg, von der Dünnbesetztheit einer Matrix bei einem direkten Verfahren zu profitieren, siehe z.B. [7].

6.2 Numerische Stabilität des Algorithmus

Übungsaufgaben 22. Sei A ∈ Rn×n eine Matrix, für die das Gaußsche Eliminationsverfahren durchführbar ist, also A = LU mit einer linken unteren Dreiecksmatrix L, deren Diagonalelemente 1 sind und einer rechten oberen Dreiecksmatrix U , deren Diagonalelemente mit uii , i = 1, . . . , n bezeichnet werden. Sei Ak jene k × k Matrix, die durch Streichung der letzten n − k Zeilen und Spalten aus der Matrix A entsteht. Zeigen Sie: det Ak = u11 · u22 · . . . · ukk

für alle k = 1, . . . , n.

(Die Zahlen det Ak nennt man Hauptminoren der Matrix A.) Hinweis: Partitionieren Sie die Matrizen A, L und U in Blöcke mit k bzw. n − k Zeilen und Spalten und beachten Sie die Rechenregeln für die Determinante. 23. Es gelten die Bezeichnungen aus Übungsaufgabe 22. Zeigen Sie: Das Gaußsche Eliminationsverfahren (ohne Pivotsuche) ist genau dann durchführbar und liefert reguläre Matrizen L und U , wenn det Ak = 0

für alle k = 1, . . . , n.

24. Sei A ∈ Rn×n eine symmetrische und positiv definite Matrix. Zeigen Sie: Das Gaußsche Eliminationsverfahren (ohne Pivotsuche) ist stets durchführbar mit ukk > 0 für alle k = 1, . . . , n. Hinweis: Zeigen Sie det Ak > 0. 25. Seien L1 , L2 linke untere Dreiecksmatrizen, deren Diagonalelemente 1 sind, und U1 , U2 reguläre rechte obere Dreiecksmatrizen mit L1 U1 = L2 U2 Zeigen Sie: L1 = L2 und U1 = U2. −1 Hinweis: Aus der obigen Gleichheit folgt L−1 2 L1 = U2 U1 . Beachten Sie, dass die Inverse einer Dreiecksmatrix eine Dreiecksmatrix des gleichen Typs ist. 26. Sei A ∈ Rn×n eine symmetrische und positiv definite Matrix. Zeigen Sie für die durch das Gaußsche Eliminationsverfahren erzeugten Dreiecksmatrizen L und U : U = DLT , wobei D die Diagonalmatrix mit den Diagonalelementen u11 , . . . , unn , kurz D = diag(u11 , . . . , unn), bezeichnet. Also gilt: A = LDLT . Hinweis: A = AT = LU = U T LT . 27. Formulieren Sie das Gaußsche Eliminationsverfahren für symmetrische und positiv definite Matrizen A so um, dass für die Dreieckszerlegung im Vergleich zum ursprünglichen Gaußschen Eliminationsverfahren nur etwa die Hälfte der Operationen benötigt werden. Hinweis: Nutzen Sie U = DLT . 28. Bestätigen Sie, dass das Gaußche Eliminationsverfahren (ohne Pivotsuche) für Bandmatrizen A ∈ Rn×n mit unterer Bandbreite p und oberer Bandbreite q nicht mehr als (p + 2pq) (n − 1) elementare Operationen zur Berechnung von L und U , nicht mehr als 2 p (n−1) elementare Operationen zur Berechnung von c und nicht mehr als n+2q (n−1) elementare Operationen zur Berechnung von x benötigt.

81

7

Erweiterung auf lineare mehrdimensionale Randwertprobleme

Anstelle einer gewöhnlichen Differentialgleichung auf dem Intervall (0, 1) betrachten wir nun eine partielle Differentialgleichung auf einer offenen Menge § ⊂ Rd mit der Raumdimension d ∈ {1, 2, 3}. Anstelle der Randbedingungen in den Randpunkten 0 und 1 des Intervalls (0, 1) werden nun Randbedingungen auf zwei disjunkten Teilmengen D und N , die den ganzen Rand  = ∂§ = D ∪ N umfassen, formuliert: Gesucht ist eine Funktion u auf § = § ∪  , welche die Differentialgleichung    d d  ∂u ∂u ∂ (x) + bi (x) (x) + c(x)u(x) = f (x) für alle x ∈ § aij (x) − ∂xi ∂xj ∂xi i,j=1

i=1

und die Randbedingungen

d  i,j=1

aij (x)ni (x)

u(x) =

gD (x)

für alle x ∈ D ,

∂u (x) = ∂xj

gN (x)

für alle x ∈ N

für vorgegebene Daten aij , bi , c, f , gD und gN erfüllt. Die Randbedingungen in den Punkten x ∈ D heißen Dirichlet-Randbedingungen (oder auch Randbedingungen der 1. Art), die Menge D nennen wir den Dirichlet-Rand. Die Randbedingungen in den Punkten x ∈ N enthalten die Komponenten ni (x) des Vektors n(x) = (ni (x))i=1,...,d , der jenen Einheitsvektor im Punkt x ∈  bezeichnet, der normal zum Rand ∂§ liegt und bezüglich § nach außen zeigt. Im eindimensionalen Fall § = (0, 1) erhalten wir im Punkt x = 1 mit dieser Bezeichnung n(x) = 1, die in Kapitel 2 betrachtete Randbedingung stimmt mit der hier formulierten Bedingung überein. Wie im eindimensionalen Fall nennen wir diese Randbedingungen Neumann-Randbedingungen (oder auch Randbedingungen der 2. Art), das$ Randstück N den Neumann-Rand. In einem Punkt x ∈ N wird also die Größe di,j=1 aij (x)ni (x)∂u/∂xj (x), die so genannte Konormalableitung von u, vorgegeben. Durch Verwendung der in der Einleitung eingeführten Bezeichnungen (grad für den Gradienten, div für die Divergenz und · für das euklidische Produkt in Rd ) lässt

84

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme sich das Randwertproblem kompakter schreiben: − div(A(x) grad u(x)) + b(x) · grad u(x) + c(x)u(x) = f (x) u(x) = gD (x) A(x) grad u(x) · n(x) = gN (x)

für alle x ∈ §, für alle x ∈ D , für alle x ∈ N

mit der Koeffizientenmatrix A(x) = (aij (x))i,j=1,...,d und dem Koeffizientenvektor b(x) = (bi (x))i=1,...,d . Man beachte wieder die Divergenzform der Differentialgleichung. Wie im eindimensionalen Fall greifen wir aus dieser Klasse von Randwertproblemen ein einfacheres Modellproblem heraus: Beispiel

Das d-dimensionale Modellproblem. Für die Setzung A(x) = I, b(x) = 0, c(x) = 0 erhalten wir als Spezialfall: −u(x) = f (x) u(x) = gD (x) ∂u (x) = gN (x) ∂n

für alle x ∈ §, für alle x ∈ D , für alle x ∈ N ,

wobei  den so genannten Laplace-Operator bezeichnet: u =

d  ∂ 2u i=1

∂xi2

.

Die obige Differentialgleichung heißt Poisson-Gleichung,für f = 0 auch LaplaceGleichung. Die Konormalableitung wird in diesem Fall zur Richtungsableitung ∂u/∂n von u in Richtung n. Wir betrachten dieses Problem auf § = (0, 1)d mit Dirichlet-Rand D = {x ∈ ∂§: (x1 = 0)∨(x2 = 0)∨· · ·∨(xd = 0)} und NeumannRand N =  \ D . Im Speziellen erhalten wir für d = 1 das früher betrachtete eindimensionale Modellproblem auf dem Einheitsintervall (mit g0 = gD und g1 = gN ), für d = 2 ein Problem auf dem Einheitsquadrat (D besteht aus der unteren und der linken Kante des Quadrats), für d = 3 ein Problem auf dem Einheitswürfel.

Variationsformulierung Eine Variationsformulierung des Randwertproblems erhält man völlig analog zum eindimensionalen Fall: Multiplikation mit einer Testfunktion, Integration über das Gebiet, partielle Integration, Vereinfachung des Randterms, der bei der partiellen Integration entsteht, mit Hilfe der Randbedingungen. Wir verzichten hier auf die Details und beschränken uns, die Formel der partiellen Integration im mehrdimensionalen Fall anzugeben:  §

∂w (x) v(x) dx = ∂xi



 

w(x) v(x) ni (x) ds −

w(x) §

∂v (x) dx ∂xi

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme und verweisen auf die Übungsaufgaben 29, 30. Am Ende entsteht (wie im eindimensionalen Fall) ein Variationsproblem: Gesucht ist u ∈ Vg mit a(u, v) = f , v

für alle v ∈ V0,

diesmal mit folgenden Setzungen: V0 = {v ∈ V : v = 0 auf D },

V = H 1 (§),

Vg = {v ∈ V : v = gD auf D }

und  a(w, v)

=

f , v

=

§

A(x) grad w(x) · grad v(x)

+ b(x) · grad w(x) v(x) + c(x) w(x) v(x) dx,   f (x) v(x) dx + gN (x) v(x) ds §

N

für w, v ∈ V . Der Sobolew-Raum H 1 (§) wird analog zum eindimensionalen Fall eingeführt: H 1 (§) = {v ∈ L2 (§): grad v ∈ L2 (§)d }, wobei der schwache (oder verallgemeinerte) Gradient durch die Bedingung 

 §

grad v(x) ' (x) dx = −

§

v(x) grad ' (x) dx

für alle ' ∈ C0∞ (§)

definiert ist. Skalarprodukt und Norm in den linearen Räumen L2 (§) und H 1 (§) sind folgendermaßen gegeben:  (v, w)L2 (§) =

§

vL2 (§) =

v(x)w(x) dx,



 (v, v)L2 (0,1) =

1/2 §

|v(x)|2 dx

und  (v, w)H 1 (§) = vH 1 (§) =



 v(x)w(x) dx + §

(v, v)H 1 (§) =

§



grad v(x) · grad w(x) dx,

|v(x)| dx +

1/2



2

§

§

grad v(x) · grad v(x) dx

.

Der Spuroperator Die Präzisierung der Randbedingungen u = gD bzw. v = 0 auf D (und damit die korrekte Definition von Vg und V0 ) erfordert (wieder) die Einführung eines Spuroperators, der zunächst für Funktionen aus C 1 (§) wohldefiniert ist: D : C 1(§) −→ C(D ),

D v = v|D ,

85

86

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme dessen Linearität und Beschränktheit sich zeigen lässt: vL2(D ) ≤ C vH 1 (§)

für alle v ∈ C 1 (§),

und der daher auf ganz H 1 (§) fortgesetzt werden kann, da C 1 (§) dicht in H 1 (§) liegt: D : H 1 (§) −→ L2 (D ). WARNUNG: Ein erster signifikanter Unterschied zum eindimensionalen Fall betrifft die Homogenisierung des Problems. Wir benötigen dazu eine Funktion g ∈ V = H 1 (§) mit D g = gD , um folgern zu dürfen, dass Vg = g + V 0 . Während im eindimensionalen Fall die Konstruktion einer solchen Funktion g trivial war, ist im mehrdimensionalen Fall die Existenz von g für Funktionen gD aus L2 (D ) im Allgemeinen nicht gegeben, also D (H 1 (§))  L2 (D ). Eine genaue Beschreibung der Menge D (H 1 (§)) sprengt den Rahmen dieser Einführung. Nur soviel: Diese Menge wird mit H 1/2 (D ) bezeichnet, und das aus gutem Grund, da sie tatsächlich in einem präzisierbaren Sinn “genau in der Mitte” zwischen L2 (D ) und einem Sobolew-Raum H 1 (D ) von schwach differenzierbaren Funktionen auf D liegt.Wir ignorieren hier dieses Problem und postulieren im Weiteren einfach die Existenz von g für unsere gegebenen Dirichlet-Daten gD . Beispiel

Die Variationsformulierung für das d-dimensionale Modellproblem lautet: Gesucht ist u ∈ Vg = {v ∈ V = H 1 (§): v = gD auf D }, sodass  §





grad u(x) · grad v(x) dx = f (x) v(x) dx + gN (x) v(x) ds 

 § N  = a(u, v) = f , v

für alle v ∈ V0 = {v ∈ V = H 1 (§): v = 0 auf D }.

Bemerkung. Genau genommen erfordert die korrekte Definition aller bisherigen Größen geeignete Annahmen über die Menge § und ihren Rand, wie z.B.: § sei eine beschränkte offene Menge mit Lipschitz-stetigem Rand. Wir werden uns in diesem einführenden Teil über mehrdimensionale Differentialgleichungsprobleme mit dieser Problematik nicht näher beschäftigen.

Elliptizität Die Analyse des Variationsproblems geschieht wie im eindimensionalen Fall mit Hilfe des Satzes von Lax-Milgram. Mit Ausnahme der Elliptizität lassen sich die

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme

87

Voraussetzungen (mit Hilfe der Cauchy-Ungleichung) leicht nachweisen. Ein wichtiges Hilfsmittel zum Nachweis der Elliptizität ist wie im eindimensionalen Fall die Friedrichs-Ungleichung vL2(§) ≤ CF |v|H 1 (§)

für alle v ∈ V0

(mit der H 1 -Halbnorm |v|H 1 (§) =  grad vL2(§)d ), die für Teilmengen D ⊂  mit positivem Maß gezeigt werden kann. Damit folgt z.B. direkt die Elliptizität des d-dimensionalen Modellproblems.

Finite-Elemente-Methoden Wir beschränken uns in der Diskussion hauptsächlich auf zweidimensionale Gebiete § ⊂ R2 mit einem polygonalen Rand. Ein derartiges Gebiet lässt sich in einzelne Dreiecke zerlegen und zwar derart, dass der Durchschnitt zweier (abgeschlossener) Dreiecke entweder leer, ein gemeinsamer Eckpunkt oder eine gemeinsame Kante ist. Wir bezeichnen die Menge dieser Dreiecke mit Th und nennen sie eine (zulässige) Zerlegung von §. Zur (groben) Beschreibung der Feinheit der Zerlegung Th führt man h als die Länge der längsten Seite aller Dreiecke aus Th ein. In Abbildung 7.1 ist eine Zerlegung des Einheitsquadrats § = (0, 1)2 in Dreiecke dargestellt (gleichmäßige Dreieckszerlegung).

D

13

14

15

16

9

10

11

12

5

6

7

8

1

2

3

4

Knoten auf D Knoten in § \ D

Abbildung 7.1. Eine einfache Dreieckszerlegung

Nach der Galerkin-Methode ist ein endlich-dimensionaler Teilraum Vh von V = H 1 (§) zu wählen. Wie im eindimensionalen Fall bieten sich die stetigen und bezüglich Th stückweise linearen Funktionen an (Courant-Element): Vh = {v ∈ C(§): v|T ∈ P1 für alle T ∈ Th }. Funktionen in Vh sind eindeutig durch ihre Werte in den Eckpunkten der Dreiecke bestimmt. (Eine affin lineare Funktion in R2 hat 3 Freiheitsgrade und ist daher durch die Vorgabe ihrer Werte in den 3 Eckpunkten eines Dreiecks eindeutig bestimmt. Die so festgelegten affin linearen Funktionen zweier benachbarter Dreiecke stimmen auf der gemeinsamen Kante überein, woraus die Stetigkeit folgt.)

Beispiel

88

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme Wir nehmen der Einfachheit halber an, dass der Dirichlet-Rand D als Vereinigung von Kanten der Dreiecke der Zerlegung Th darstellbar ist und dass gD auf D stetig und bezüglich der Unterteilung in Kanten der Zerlegung stückweise linear ist. Dann sind die folgenden Mengen nichtleer: V0h = V0 ∩ Vh

und Vgh = Vg ∩ Vh .

Mit dieser Wahl ist die Diskretisierung, d.h. die Definition der Näherungslösung uh , abgeschlossen: Gesucht ist uh ∈ Vgh mit a(uh , vh ) = f , vh

für alle vh ∈ V0h .

Um diese Näherung tatsächlich zu berechnen, brauchen wir (wieder) eine Basis für Vh . Die Konstruktion erfolgt nach dem gleichen Muster wie im eindimensionalen Fall: Für jeden Eckpunkt (Knoten) xi eines Dreiecks der Zerlegung Th lässt sich eine Basisfunktion 'i ∈ Vh einführen, die im Knoten xi den Wert 1, in allen anderen Knoten den Wert 0 besitzt. Man sieht sofort, dass die so definierte Funktion 'i nur auf jenen Dreiecken nicht verschwindet,die den Knoten xi als Eckpunkt besitzen.Die Basisfunktionen besitzen also wieder lokale Träger.Nach dem Aussehen des Graphen von 'i nennt man diese Funktionen auch Pyramiden-Funktionen. Sie bilden eine Basis von Vh , die so genannte Knotenbasis. Wir bezeichnen die Knoten der Zerlegung, die nicht auf D liegen, mit xi , i = 1, . . . , nh . Jene Pyramiden-Funktionen, die diesen Knoten zugeordnet sind, bilden eine Basis von V0h . Sei gh ∈ Vh jene stetige und stückweise lineare Funktion, die auf den Knoten xi , die auf D liegen, die Werte gD (xi ) besitzt und in allen anderen Knoten verschwindet. Dann gilt wie im eindimensionalen Fall Vgh = gh + V0h . Mit dem Ansatz uh = gh +

nh 

uj 'j

j=1

für die Näherungslösung entsteht völlig analog zum eindimensionalen Fall ein lineares Gleichungssystem der Form Kh uh = f h

mit der entsprechenden Steifigkeitsmatrix Kh und dem entsprechenden Lastvektor f . h

Auch im mehrdimensionalen Fall lassen sich Element-Steifigkeitsmatrizen einführen, mit deren Hilfe die Steifigkeitsmatrix dargestellt werden kann. Die einzelnen Dreiecke der Zerlegung lassen sich durch affin lineare Transformationen aus einem Referenzelement Tˆ (hier ein Dreieck) gewinnen, die Integrale lassen sich mit Hilfe der Substitutionsregel auf das Referenzelement zurückführen, siehe auch die Übungsaufgaben 31, 32, 33. Zur Abschätzung des Diskretisierungsfehlers benutzt man wieder den Satz von C´ea. Die Abschätzung des Approximationsfehlers erfolgt mit Hilfe des Interpolationsfehlers, dessen Abschätzung allerdings technisch aufwendiger ist als im

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme

89

eindimensionalen Fall. Unter geeigneten Voraussetzungen an die Zerlegung Th erhält man Abschätzungen der gleichen Art wie im eindimensionalen Fall. Die Matrix Kh erbt die Eigenschaften der Bilinearform a. Sie ist groß, da V0h im Allgemeinen viele Freiheitsgrade haben wird, dünnbesetzt, da die Basisfunktionen lokale Träger besitzen,und sie besitzt bei geeigneter Nummerierung eine Bandstruktur, allerdings mit größerer Bandbreite. Dazu ein einfaches Beispiel: Wir verwenden zur Diskretisierung des zweidimensionalen Modellproblems das Courant-Element auf der Dreieckszerlegung von § = (0, 1)2 von Seite 87. Nummeriert man die Knoten dieser Dreieckszerlegung von links nach rechts und von unten nach oben, so entsteht folgende Steifigkeitsmatrix: ⎛ ⎜ 4 −1 ⎜ ⎜ ⎜ −1 4 −1 ⎜ ⎜ ⎜ ⎜ ⎜ −1 4 −1 ⎜ ⎜ ⎜ ⎜ −1 2 ⎜ ⎜ ⎜ ⎜ −1 ⎜ ⎜ ⎜ ⎜ −1 ⎜ ⎜ ⎜ ⎜ −1 ⎜ ⎜ ⎜ ⎜ − 12 ⎜ Kh = ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝

⎞ −1 −1 −1 − 12 4

−1

−1

−1

4

−1

−1

4

−1

−1

2

−1

−1 −1

−1 − 12 4

−1

−1

4

−1

−1

4

−1

−1

2

−1 − 12

−1 −1

−1 −1 −1 − 12

−1 − 12 2

− 12

− 12

2

− 12

− 12

2

− 12

− 12

1

⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟. ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎠

Die Matrix ist offensichtlich sehr dünnbesetzt, nur insgesamt 5 Diagonalen sind besetzt, die (untere und obere) Bandbreite ph = qh ergibt sich aus dem Unterschied der Indizes übereinander liegender Knoten. Sei s die Länge der kürzeren Seite eines Dreiecks der Zerlegung. Dann gibt es offensichtlich 1/s 2 Knoten, die nicht auf D liegen. Indizes übereinander liegender Knoten unterscheiden √ sich um 1/s. Die Feinheit der Dreieckszerlegung ist h = 2 s. Also nh = 1/s2, ph = qh = 1/s und somit nh = O(h−2 ), ph = O(h−1 ) und qh = O(h−1 ). Im

Beispiel

90

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme

Unterschied zum eindimensionalen Fall ist die Bandbreite also wesentlich größer. Eine analoge Diskussion lässt sich für das dreidimensionale Modellproblem führen: Ähnlich zum zweidimensionalen Fall zerlegen wir den Einheitswürfel zunächst in kleinere Würfel, die ihrerseits in jeweils 6 Tetraeder zerlegt werden. Wir erhalten auf diese Art eine (gleichmäßige) Tetraeder-Zerlegung und verwenden für Vh analog zum zweidimensionalen Fall stetige und stückweise lineare Funktionen. Bei entsprechender Nummerierung erhält man Bandbreiten ph = O(h−2 ) und qh = O(h−2 ) bei nh = O(h−3 ) Unbekannten. Wir haben also folgende Zusammenhänge zwischen der Anzahl der Unbekannten, den Bandbreiten und der Feinheit der Zerlegung: nh = O(h−d ),

ph = O(h−(d−1) )

und

qh = O(h−(d−1) )

(7.1)

für das d-dimensionale Modellproblem (auch für den Fall d = 1).

Zusammenhänge der Form (7.1) gelten für eine große Klasse von FiniteElemente-Methoden für d-dimensionale Randwertprobleme bei Verwendung von Zerlegungen in Elemente von einigermaßen gleicher Gestalt und Größe. Unter den Bedingungen (7.1) lassen sich der Aufwand und der Speicherbedarf des Gaußschen Eliminationsverfahrens zur Lösung des linearen Gleichungssystems Kh uh = f

h

unter Berücksichtigung der Bandstruktur folgendermaßen abschätzen: Nach den Überlegungen im Kapitel 6 benötigt man etwa (3d−2)/d

2 ph qh nh = O(h−(d−1) · h−(d−1) · h−d ) = O(h−(3d−2) ) = O(nh

)

elementare Operationen und (2d−1)/d

(ph + qh + 2) nh = O(h−(d−1) · h−d ) = O(h−(2d−1) ) = O(nh

)

Speicherplätze für reelle Zahlen, siehe Tabelle 7.1 für d ∈ {1, 2, 3}. Die Anzahl der Operationen und der Speicherbedarf sind also deutlich geringer gegenüber dem allgemeinen Fall (O(n3h ) Operationen, O(n2h ) Speicherplätze).

d=1

d=2

d =3

Anzahl der elem. Operationen

O(nh )

O(nh )

Speicherbedarf

O(nh )

O(n2h ) 3/2 O(nh )

7/3 5/3

O(nh )

Tabelle 7.1. Komplexität des Gaußschen Eliminationsverfahrens

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme Für eindimensionale Probleme steigen die Anzahl der Operationen und der Speicherplätze nur noch proportional zur Anzahl der Unbekannten. Ein Verfahren mit dieser Eigenschaft nennen wir von optimaler Komplexität, oder kurz optimal. Eindimensionale Probleme mit etwa 100 Unbekannten lassen sich mit verschwindender Rechenzeit lösen. Für mehrdimensionale Probleme ist das Gaußsche Eliminationsverfahren unter Berücksichtigung der Bandstruktur nicht mehr optimal. Allerdings, für zweidimensionale (Modell-)Probleme mit 1002 = 10 000 Unbekannten und einer Bandbreite von 100 benötigt man etwa 2 · 108 elementare Operationen, das führt auf akzeptable Rechenzeiten im Sekundenbereich bei einer Rechenleistung von 100 – 1000 MFLOPS (im Vergleich zu Rechenzeiten im Stundenbereich ohne Berücksichtigung der Bandstruktur, siehe die Diskussion auf Seite 68). Für dreidimensionale (Modell-)Probleme mit 1003 = 1 000 000 Unbekannten und einer Bandbreite von 1002 = 10 000 benötigt man etwa 2 · 1014 elementare Operationen, das sind Rechenzeiten von einigen Tagen bis einigen Wochen bei einer Rechenleistung von 100 – 1000 MFLOPS mit einem Speicherbedarf von etwa 160 GBytes. Im Folgenden werden wir daher als Alternative zum Gaußschen Eliminationsverfahren (als dem wichtigsten direkten Verfahren) andere, nämlich so genannte iterativeVerfahren diskutieren und deren Effizienz zur Lösung von linearen Gleichungssystemen mit großen dünnbesetzten Matrizen untersuchen. Ziel ist es jedenfalls, (im obigen Sinn) optimale Verfahren zu konstruieren. Bandstrukturen der Matrix Kh spielen bei diesen Überlegungen keine Rolle, wohl aber zwei andere wichtige Merkmale, die zumindest für die Modellprobleme zutreffen: Erstens, die Matrix Kh ist dünnbesetzt mit nnz(Kh ) = O(nh ). Zur Notation: nnz(M) bezeichnet die Anzahl der Nichtnulleinträge der Matrix M. Für das eindimensionale Modellproblem entstehen maximal 3, für das zweidimensionale Modellproblem maximal 5, für das dreidimensionale Modellproblem maximal 7 Nichtnulleinträge pro Zeile. Und zweitens, die Matrix Kh ist schlecht konditioniert mit (Kh ) = O(h−2 ). Diese Aussage wurde für das eindimensionale Modellproblem auf äquidistanten Zerlegungen bezüglich der euklidischen Norm gezeigt, siehe Abschnitt 5.2. Der Beweis lässt sich relativ leicht auf eine große Klasse von Finite-Elemente-Methoden für d-dimensionale Randwertprobleme bei Verwendung von Zerlegungen in Elemente von einigermaßen gleicher Gestalt und Größe übertragen.Im Speziellen gilt die obige Aussage für das d-dimensionale Modellproblem auf den betrachteten Dreiecks- und Tetraeder-Zerlegungen. Man beachte, dass der Exponent von h nicht von der Raumdimension d abhängt. Die Zahl 2 entspricht vielmehr der Ordnung der betrachteten Differentialgleichung.

91

92

7 Erweiterung auf lineare mehrdimensionale Randwertprobleme

Ergänzende Hinweise Eine ausführlichere Einführung in Finite-Elemente-Methoden (auch mit anderen Zerlegungen und/oder anderen Ansatzfunktionen) findet man z.B. in [3,5,17].

Übungsaufgaben 29. Zeigen Sie mit Hilfe der Formel für die partielle Integration in Rd die so genannte erste Greensche Identität für u, v ∈ C 2 (§):    ∂u (x) v(x) ds − grad u(x) · grad v(x) dx. u(x) v(x) x = §  ∂n § 30. Verwenden Sie die erste Greensche Identität, um die Variationsformulierung des Randwertproblems −u(x) = f (x) u(x) = gD (x) ∂u (x) = gN (x) ∂n

für alle x ∈ §, für alle x ∈ D , für alle x ∈ N

herzuleiten. 31. Sei Th eine zulässige Zerlegung von § ⊂ R2 in Dreiecke. Wie im eindimensionalen Fall erfordert die Berechnung der Einträge der Steifigkeitsmatrix die Berechnung von Integralen über §,die man als Summe von Integralen über den einzelnen Dreiecken T ∈ Th schreiben kann. Wie im eindimensionalen Fall möchte man ein Integral über einem Dreieck T ∈ Th auf ein Integral über einem Referenzelement Tˆ zurückführen. Dazu ˆ = T. Das Referenzelement Tˆ braucht man nun eine Abbildung FT : R2 −→ R2 mit FT (T) sei das Dreieck mit den Eckpunkten 0 = (0, 0), 1 = (1, 0) und 2 = (0, 1). Bestimmen Sie eine affin lineare Abbildung FT , also eine Abbildung der Form FT ( ) = bT + BT ,

∈ R2

mit bT ∈ R2 und BT ∈ R2×2 , die das obige Referenzelement Tˆ auf ein Dreieck T mit den Eckpunkten x0 , x1 und x2 abbildet. Hinweis: Bestimmen Sie bT und BT so, dass die Bedingungen FT ( i ) = xi für i = 0, 1, 2 erfüllt sind. ˆ für die 32. Seien 'ˆ0 , 'ˆ1 und 'ˆ2 jene affin linearen Funktionen auf dem Referenzelement T, gilt 'ˆi ( j ) = ıij für alle i, j ∈ {0, 1, 2}. Stellen Sie diese Basisfunktionen explizit (durch eine Formel in den Variablen = ( (1) , (2 ) ∈ R2 ) auf. 33. Berechnen Sie die 3 × 3 Steifigkeitsmatrix Kˆ = (a('ˆ (j) , 'ˆ (i) ))i,j=1,2,3 auf dem vorhin eingeführten Referenzelement Tˆ für die Bilinearform  a(w, v) = grad w( ) · grad v( ) d . Tˆ

8

Iterative Verfahren für lineare Gleichungssysteme

Wir betrachten zunächst wieder allgemeine lineare Gleichungssysteme Ax = b und beginnen die Diskussion mit dem wohl einfachsten Iterationsverfahren:

 8.1 Das Richardson-Verfahren Die Konstruktion des Verfahrens erfolgt nach den gleichen Prinzipien, die beim Beweis des Satzes von Lax-Milgram bereits diskutiert wurden: Wir wandeln das lineare Gleichungssystem in eine Fixpunktgleichung um. Dazu subtrahieren wir den Term Ax von beiden Seiten der Gleichung, multiplizieren dann mit einem reellen Parameter  = 0 und addieren auf beiden Seiten x ∈ Rn : x = x +  (b − Ax). Wir erhalten also eine Fixpunktgleichung x = G (x) mit G (y) = M y + g

und

M = I −  A,

g =  b,

deren Lösung wir durch eine Fixpunktiteration xk+1 = G (xk ) = M xk + g = xk +  (b − Axk ) annähern. Dieses Iterationsverfahren heißt Richardson1 -Verfahren. Die Durchführung des Verfahrens ist sehr einfach: 1. Berechne das Residuum rk = b − Axk der aktuellen Näherung xk . 2. Berechne die neue Näherung xk+1 = xk +  rk . 1 Lewis Fry Richardson

(1881–1953), britischer Mathematiker und Naturwissenschaftler

(8.1)

94

8 Iterative Verfahren für lineare Gleichungssysteme

Konvergenzanalyse Die Konvergenzeigenschaften des Richardson-Verfahrens lassen sich direkt aus dem Satz von Lax-Milgram folgern. Wir wählen eine Norm y in Rn , in der wir die Konvergenzuntersuchungen durchführen wollen, wobei wir voraussetzen,  dass diese Norm durch ein Skalarprodukt (y, z) auf Rn erzeugt wird: y = (y, y). Dieses Skalarprodukt macht den Raum Rn zu einem Hilbert-Raum. Man sieht sofort, dass sich das lineare Gleichungssystem als Variationsproblem in Rn schreiben lässt: Gesucht ist x ∈ Rn , sodass a(x, y) = f , y

für alle y ∈ Rn

mit a(z, y) = (Az, y)

und

f , y = (b, y)

für y, z ∈ R . Das Richardson-Verfahren stimmt genau mit dem im Beweis des Satzes von Lax-Milgram konstruierten Iterationsverfahren überein. Das sieht man am schnellsten, wenn man die Gleichung (3.7) auf Seite 27 für den Zuwachs wk betrachtet, die nun folgende Form annimmt: n

(wk , y) = f , y − a(xk , y) = (b − Axk , y) = (rk , y)

für alle y ∈ Rn .

Daher wk = rk . Also gelten als Spezialfall des Satzes von Lax-Milgram und seiner Folgerungen folgende Konvergenzaussagen: Satz

Seien (y, z) ein Skalarprodukt in Rn , b ∈ Rn und A ∈ Rn×n eine reguläre Matrix mit den folgenden Eigenschaften: 1. Es gibt eine Konstante 1 > 0 mit (Ay, y) ≥ 1 y2

für alle y ∈ Rn .

2. Es gibt eine Konstante 2 > 0 mit (Az, y) ≤ 2 zy

für alle z, y ∈ Rn .

Dann konvergiert das Richardson-Verfahren (8.1) für  ∈ (0, 21/22) und beliebige Startwerte x0 ∈ Rn q-linear. Für die Parameterwahl  = 1/22 gilt:  xk+1 − x ≤ q xk − x

mit

q=

1−

1 2

und

=

2 . 1

Wir betrachten nun die Voraussetzungen dieses Satzes näher: Es gilt (Ay, y) =

1 1 1 1 (Ay, y) + (Ay, y) = (Ay, y) + (A∗ y, y) = (As y, y), 2 2 2 2

8.1 Das Richardson-Verfahren wobei A∗ die zu A bezüglich des verwendeten Skalarprodukts (y, z) adjungierte Matrix bezeichnet und As durch 1 As = (A + A∗ ) 2 gegeben ist. Man sieht sofort, dass As selbstadjungiert ist. Mit dieser Notation lässt sich die erste Bedingung des vorigen Satzes auch in der Form (As y, y) ≥ 1 (y, y)

für alle y ∈ Rn

schreiben und ist damit äquivalent zur Bedingung As ≥ 1 I,

min (As ) ≥ 1 .

also

Auch die zweite Bedingung lässt sich leicht umformulieren. Sie ist natürlich äquivalent zu sup

sup

0=z∈Rn 0=y∈Rn

(Az, y) ≤ 2 . zy

Wegen der Cauchy-Ungleichung und der Definition der Norm der Matrix A gilt sup 0=y∈Rn

(Az, y) = Az y

und

sup 0=z∈Rn

Az = A, z

also ist die zweite Bedingung äquivalent zu A ≤ 2 . Im selbstadjungierten und positiv definiten Fall A∗ = A > 0 lassen sich die Bedingungen an A noch einfacher darstellen: Die erste Bedingung ist dann wegen As = A äquivalent mit min (A) ≥ 1 ,

also

1 I ≤ A.

Aus der zweiten Bedingung entsteht wegen A = max (A) die äquivalente Bedingung max (A) ≤ 2 , also A ≤ 2 I. Insgesamt lassen sich beide Bedingungen in der Form 1 I ≤ A ≤ 2 I, bzw. 1 · (y, y) ≤ (Ay, y) ≤ 2 · (y, y)

für alle y ∈ Rn

schreiben. Man erhält im selbstadjungierten und positiv definiten Fall eine genauere Abschätzung der Konvergenzrate:

95

96 Satz

8 Iterative Verfahren für lineare Gleichungssysteme Seien (y, z) ein Skalarprodukt in Rn , b ∈ Rn und A ∈ Rn×n eine selbstadjungierte und positiv definite Matrix (bezüglich des Skalarprodukts (y, z)) mit der folgenden Eigenschaft: Es gibt Konstanten 1, 2 > 0 mit 1 · (y, y) ≤ (Ay, y) ≤ 2 · (y, y)

für alle y ∈ Rn .

Dann konvergiert das Richardson-Verfahren (8.1) für  ∈ (0, 2/2) und beliebige Startwerte x0 ∈ Rn q-linear. Für die Parameterwahl  = 2/(1 + 2) gilt: xk+1 − x ≤ q xk − x

mit

q=

 −1  +1

und

=

2 . 1

Beweis. Siehe die Diskussion des Satzes von Lax-Milgram im symmetrischen Fall. Die Voraussetzungen des letzten Satzes sind für 1 = min (A) und 2 = max (A) erfüllt. Dann stimmt  mit der früher eingeführten Konditionszahl (A) der Matrix A überein, und wir erhalten die folgende Schranke für die Konvergenzrate: q=

(A) − 1 . (A) + 1

Anzahl der Iterationen Eine unmittelbare Folgerung der q-linearen Konvergenz ist die Abschätzung: xk − x ≤ qk x0 − x. Wir dürfen natürlich nicht erwarten, dass die exakte Lösung x ∈ Rn in endlich vielen Schritten erreicht wird. Vielmehr wird man sich damit zufrieden geben müssen, die Iteration nach einer ausreichenden Anzahl von Schritten zu stoppen. Praktisch wird das durch Formulierung eines Abbruchkriteriumsrealisiert. Zum Beispiel: Man iteriert so lange, bis der Fehler der letzten Näherung xK den Anfangsfehler um einen vorgegebenen (kleinen) Faktor " unterschreitet: xK − x ≤ " x0 − x. In dieser Form scheint das Abbruchkriterium nur von theoretischem Wert zu sein, die Überprüfung scheint die Kenntnis der exakten Lösung zu erfordern, was natürlich Unsinn wäre. Wir hinterfragen dieses Problem später und stellen uns zunächst nur die Frage nach der erforderlichen Anzahl K von Iterationen, um das Abbruchkriterium zu erfüllen. Aus der obigen Fehlerabschätzung folgt sofort, dass das Abbruchkriterium nach spätestens K Iterationsschritten erfüllt ist, falls gilt: qK ≤ ", d.h. es genügen K≥

ln " ln q

8.1 Das Richardson-Verfahren

97

Iterationsschritte. Die Wahl von " hängt von der konkreten Problemstellung ab. Ist etwa das Gleichungssystem durch Diskretisierung eines Randwertproblems entstanden, so wurde bereits ein Diskretisierungsfehler gemacht, an dessen Größenordnung man sich bei der Wahl von " orientieren sollte. Keinen Sinn macht jedenfalls eine Wahl von " kleiner als die Maschinengenauigkeit eps. Entscheidender als die Abhängigkeit von " ist der Einfluss der Konvergenzrate q auf die Anzahl K der benötigten Iterationen. Je kleiner q ist, desto kleiner ist natürlich auch K. q=

Wegen − ln(1 − t) ≥ t für t ∈ [0, 1) gilt im allgemeinen Fall, für den die Schranke  1 − 1/ 2 nachgewiesen wurde: ln " − ln " −2 ln "  = ≤ (−2 ln ")  2 . = ln q − ln 1 − 1/ 2 − ln(1 − 1/ 2 )

Also genügen

  K = O 2

Iterationen, um das Abbruchkriterium zu erreichen. Im selbstadjungierten und positiv definiten Fall, für den die (bessere) Schranke q = ( − 1)/( + 1) = 1 − 2/( + 1) nachgewiesen wurde, erhält man analog: − ln " 1 ln " = ≤ (− ln ") ( + 1). ln q − ln(1 − 2/( + 1)) 2 Also genügen in diesem Fall K = O () Iterationen, um das Abbruchkriterium zu erreichen. Um daraus auf den Gesamtaufwand schließen zu können, muss noch der Aufwand eines einzelnen Iterationsschrittes diskutiert werden. Der erste Teilschritt (Berechnung des Residuums) steigt für dünnbesetzte Matrizen A mit nnz(A) = O(n) proportional zu n, der Aufwand für den zweiten Teilschritt steigt ebenfalls nur proportional zu n.Also reichen O(K · n) elementare Operationen zur Durchführung des Richardson-Verfahrens.

Für das diskretisierte d-dimensionale Modellproblem gilt: nnz(Kh ) = O(nh ), (Kh ) = O(h−2 ), nh = O(h−d ). 2/d

Bei optimaler Parameterwahl genügen also K = O(h−2 ) = O(nh ) Iterationen. 2/d (d+2)/d Das führt auf insgesamt O(nh · nh ) = O(nh ) elementare Operationen. In Tabelle 8.1 wird dieser Aufwand des Richardson-Verfahrens für d ∈ {1, 2, 3} mit dem Aufwand des Gaußschen Eliminationsverfahrens (für Bandmatrizen) verglichen:

Beispiel

98

8 Iterative Verfahren für lineare Gleichungssysteme

d=1

d=2

d=3

Gaußsches Verfahren

O(nh )

O(n2h )

O(nh )

Richardson-Verfahren

O(n3h )

O(n2h )

O(nh )

7/3 5/3

Tabelle 8.1. Aufwand des Richardson-Verfahrens Für zweidimensionale Probleme benötigt man also mit dem Richardson-Verfahren die gleiche Größenordnung O(n2h ) von elementaren Operationen wie mit dem Gaußschen Eliminationsverfahren, für dreidimensionale Probleme erhält 5/3 man bereits eine deutliche Reduktion von O(n7/3 h ) auf O(nh ) Operationen. Zusätzlich ist zu bedenken, dass das Richardson-Verfahren im Gegensatz zum Gaußschen Eliminationsverfahren (fill in bei Bandmatrizen) nur Speicherplatz für die Nichtnulleinträge der Matrix benötigt.

Die Wahl der Norm und das Abbruchkriterium Es bleibt zu klären, welches Skalarprodukt und damit welche Norm gewählt werden sollte. Diese Wahl hat (über die Konstanten 1 und 2 in den Voraussetzungen) Auswirkungen auf die Schranke q der Konvergenzrate und auf das Abbruchkriterium. Wählt man zum Beispiel das euklidische Skalarprodukt (y, z) = (y, z)2 , so lauten die Voraussetzungen in der ursprünglichen Form (Ay, y)2 ≥ 1 y22

für alle y ∈ Rn

(8.2)

und (Az, y)2 ≤ 2 z2 y2

für alle z, y ∈ Rn .

(8.3)

Das dazugehörige Abbruchkriterium xK − x2 ≤ " x0 − x2 ist allerdings ohne Kenntnis der exakten Lösung x nicht überprüfbar und daher in der Praxis unbrauchbar. Eine Alternative ist das Skalarprodukt, das durch die symmetrische und positiv definite Matrix AT A erzeugt wird: (y, z) = (y, z)AT A = (AT Ay, z)2 = (Ay, Az)2 mit der dazugehörigen Norm yAT A =

 (Ay, Ay)2 = Ay2 .

8.2 Das Gradientenverfahren Ersetzt man in (8.2) und (8.3) die Größen y ∈ Rn und z ∈ Rn durch Ay ∈ Rn und Az ∈ Rn , so entstehen die äquivalenten Bedingungen im neuen Skalarprodukt mit den selben Konstanten 1 und 2 : (AAy, Ay)2 ≥ 1 Ay22     = (Ay, y)AT A = y2AT A und

für alle y ∈ Rn

(AAz, Ay) ≤ 2 Az2 Ay2  2 

 = zAT A yAT A = (Az, y)AT A

für alle z, y ∈ Rn .

Damit erhält man die gleichen Schranken für die Konvergenzrate auch in der neuen Norm. Diesmal lässt sich allerdings der Fehler xk − x auch ohne Kenntnis von x sehr leicht berechnen: xk − xAT A = A(xk − x)2 = Axk − b2 =  − rk 2 = rk 2 und damit das Abbruchkriterium wirklich überprüfen. Diese Norm nennt man die Residuumsnorm. Im Falle einer symmetrischen und positiv definiten Matrix A lässt sich ein weiteres interessantes Skalarprodukt einführen, das Energie-Skalarprodukt: (y, z)A = (Ay, z)2 mit der dazugehörigen Energienorm: yA =



(y, y)A . Wegen

(Ay, z)A = (A2 y, z)2 = (A2 z, y)2 = (Az, y)A und

(Ay, y)A = (Ay, Ay)2 > 0

für alle y, z ∈ Rn

für alle y ∈ Rn , y = 0

ist A also nicht nur selbstadjungiert und positiv definit bezüglich des euklidischen Skalarprodukts, sondern auch bezüglich des Energie-Skalarprodukts.Für beide Skalarprodukte sind daher die Voraussetzungen an A äquivalent zu 1 ≤ min (A)

und

max (A) ≤ 2 ,

stimmen also mit den selben Konstanten 1 und 2 überein und implizieren somit die gleiche Konvergenzrate q. Diese Aussage ist für die Konvergenzanalyse des im Folgenden diskutierten Gradientenverfahrens von Bedeutung.

 8.2 Das Gradientenverfahren Wir nehmen im Weiteren an, dass A ∈ Rn×n eine selbstadjungierte und positiv definite Matrix bezüglich eines Skalarproduktes (y, z) auf Rn ist. Dann wissen wir

99

100

8 Iterative Verfahren für lineare Gleichungssysteme bereits aus früheren Überlegungen (siehe Seite 30), dass das Minimierungsproblem J(x) = minn J(y) y∈R

mit

1 J(y) = (Ay, y) − (b, y) 2

zum Variationsproblem (Ax, y) = (b, y)

für alle y ∈ Rn ,

also zum linearen Gleichungsproblem Ax = b äquivalent ist. Ein sehr allgemeiner Ansatz eines Verfahrens zur Bestimmung von x (als Lösung des Minimierungsproblems) ist ein Iterationsverfahren der Form xk+1 = xk + ˛k pk . In jedem Iterationsschritt sind zwei Entscheidungen zu treffen: 1. In welcher Richtung pk sucht man, ausgehend von einer vorhandenen Näherung xk , die nächste Näherung? Die Richtung pk heißt Suchrichtung. 2. Wie weit geht man in diese Richtung? Die Zahl ˛k ∈ R heißt Schrittweite. Ein Verfahren dieser Art nennt man ein Liniensuchverfahren. Die zweite Frage hat eine sehr natürliche Antwort: Angenommen, pk ist bereits fixiert und damit die eindimensionale lineare Mannigfaltigkeit xk + span(pk ) = {xk + ˛ pk : ˛ ∈ R} (eine Gerade in Rn ), auf der nach der nächsten Näherung xk+1 gesucht wird. Wir wählen nahe liegender Weise xk+1 auf dieser Geraden so, dass das Funktional J minimal wird: J(xk+1 ) =

min

y∈xk +span(pk )

J(y).

Dieses eindimensionale Minimierungsproblem für eine quadratische Funktion ist sehr einfach für beliebige Suchrichtungen zu lösen: Die äquivalente Variationsgleichung lautet: (Axk+1 , pk ) = (b, pk ), also (rk+1 , pk ) = 0 mit dem Residuum rk+1 = b − Axk+1 = b − A(xk + ˛k pk ) = rk − ˛k Apk . Damit erhalten wir folgende Bedingungsgleichung für die Schrittweite: 0 = (rk+1 , pk ) = (rk , pk ) − ˛k (Apk , pk )

(8.4)

8.2 Das Gradientenverfahren und somit ˛k =

(rk , pk ) . (Apk , pk )

Als Suchrichtung p in einem Punkt y ∈ Rn bietet sich jene Richtung an, entlang der das Funktional J lokal am steilsten abfällt. Wir müssen also herausfinden, in welcher Richtung der Wert J(y + t p) für kleine positive Zahlen t am schnellsten kleiner wird. Nun gilt J(y + t p)

=

1 (A(y + t p), y + t p) − (b, y + t p) 2

=

1 t2 (Ay, y) − (b, y) + t(Ay − b, p) + (Ap, p) 2 2

= J(y) + t (Ay − b, p)

für t → 0.

Für Vektoren p der gleichen Länge Ay − b ist der Ausdruck (Ay − b, p) am größten, wenn p = Ay − b (Cauchy-Ungleichung). Also nimmt J in Richtung p = Ay − b lokal am stärksten zu und in Richtung p = b − Ay, d.h. in Richtung des Residuums, lokal am stärksten ab. Daher bietet sich diese Richtung als (lokal optimale) Suchrichtung an: p k = rk . Für jedes differenzierbare Funktional J gilt laut Definition der Ableitung J  (y): |J(y + t p) − J(y) − t J  (y) p| ≤ " |t| p für beliebig kleine Werte " > 0, solange |t| hinreichend klein ist. Also gilt: .

J(y + t p) = J(y) + t J  (y) p = J(y) + t (grad J(y), p)2

für t → 0

mit dem Gradienten grad J(y) = J  (y)T . Nach den gleichen Überlegungen wie vorhin ist offensichtlich der Gradient von J im Punkt y die Richtung des steilsten Anstiegs, der negative Gradient die Richtung des steilsten Abstiegs. Im Falle des obigen speziellen Funktionals muss daher gelten: − grad J(y) = b − Ay, was sich leicht auch direkt bestätigen lässt. Diese (allgemeine) Darstellung der Suchrichtung als (negativer) Gradient gibt dem Iterationsverfahren seinen Namen: Es heißt Gradientenverfahren, das zusammengefasst folgendermaßen dargestellt werden kann: Mit der Anfangssetzung r0 = b − Ax0 berechne für k = 0, 1, 2, . . .: pk

=

rk ,

xk+1

=

x k + ˛ k pk

rk+1

=

rk − ˛k Apk .

mit

˛k =

(rk , pk ) , (Apk , pk )

101

102

8 Iterative Verfahren für lineare Gleichungssysteme Ein einzelner Iterationsschritt kostet neben vier einfachen Vektoroperationen vor allem die Berechnung eines Matrix-Vektorproduktes Apk . Man beachte, dass die zweite und dritte Zeile der obigen Darstellung auch bei jeder anderen Wahl einer Suchrichtung unverändert bleiben würde, solange man die Schrittweite so wählt, dass J in dieser Richtung den kleinsten Wert annimmt. Nur die erste Zeile ist charakteristisch für das Gradientenverfahren. Wir könnten in diesem Fall natürlich auf die Einführung des Symbols pk verzichten, die erste Zeile streichen und in der zweiten und dritten Zeile pk sofort durch rk ersetzen. Vergleicht man das Gradientenverfahren mit dem Richardson-Verfahren, so erkennt man sofort, dass beide Verfahren die nächste Näherung in Richtung des Residuums suchen. Sie unterscheiden sich nur in der Wahl der Schrittweite. Beim Richardson-Verfahren haben wir bisher nur konstante Schrittweiten  in Erwägung gezogen. Man könnte das Gradientenverfahren auch als ein Richardson-Verfahren mit variabler Schrittweite interpretieren. Man beachte, dass wegen (8.4) zwei aufeinander folgende Suchrichtungen im Gradientenverfahren zueinander orthogonal sind.

Konvergenzanalyse Für die Konvergenzanalyse des Gradientenverfahrens ist folgender Zusammenhang zwischen Energienorm und Energiefunktional entscheidend: y − x2A = 2(J(y) − J(x))

für alle y ∈ Rn ,

wobei x ∈ Rn als exakte Lösung die Gleichung Ax = b erfüllt. Beweis.

2(J(y) − J(x))

=

(Ay, y) − 2(b, y) − (Ax, x) + 2(b, x)

=

(Ay, y) − 2(Ax, y) − (Ax, x) + 2(Ax, x)

=

(Ay, y) − 2(Ax, y) + (Ax, x)

=

(A(y − x), y − x) = y − x2A.



Ausgehend von einer Näherung xk vergleichen wir nun einen Schritt des Gradientenverfahrens, der uns zur nächsten Näherung xk+1 führt, mit einem (hypothetischen) Schritt des Richardson-Verfahrens, der eine Näherung x˜ k+1 auf der selben Geraden xk + span(rk ) ergeben würde. Aus der Analyse des Richardson-Verfahrens kennen wir die Abschätzung x˜ k+1 − xA ≤ q xk − xA

mit

q=

 −1  +1

bei optimaler Parameterwahl für . Andererseits folgt für das Gradientenverfahren J(xk+1 ) ≤ J(˜xk+1 )

8.3 Das Verfahren der konjugierten Gradienten

103

wegen der Wahl der Schrittweite ˛k . Damit gilt xk+1 − x2A

= 2(J(xk+1 ) − J(x)) ≤ 2(J(˜xk+1 ) − J(x)) = x˜ k+1 − x2A ≤ q2 xk − x2A.

Das Gradientenverfahren konvergiert also mindestens so schnell wie das Richardson-Verfahren (im Allgemeinen aber auch nicht schneller). Im Gegensatz zum Richardson-Verfahren benötigt man zur Schrittweitenwahl keine Information über den minimalen und maximalen Eigenwert von A, sicherlich ein großer Vorteil. Anders als beim Richardson-Verfahren gilt diese Konvergenzaussage allerdings nur bezüglich der Energienorm. Nach den früheren Überlegungen zum Richardson-Verfahren erwarten wir für das dreidimensionale Modellproblem bei Verwendung des Gradientenverfah2/3 rens O(nh ) Iterationen, also für nh = 1003 = 1 000 000 in der Größenordnung von 1002 = 10 000 Iterationen. Tatsächlich zeigen Testrechnungen, dass man etwa 14 500 Iterationen benötigt, um das Anfangsresiduum eines (zufällig gewählten) Startwertes um den Faktor 10−6 zu reduzieren. Ein einzelner Iterationsschritt erfordert etwa 22 nh elementare Operationen (nnz(Kh ) ≈ 7nh , das Matrix-Vektor-Produkt kostet daher etwa 14nh Operationen, jede der vier einfachen Vektoroperationen kostet etwa 2nh Operationen.) Bei einer Rechnerleistung von 100 – 1000 MFLOPS benötigt man dann etwa 5 – 50 Minuten. Der Speicherbedarf liegt bei nur etwa 70 MBytes.

 8.3 Das Verfahren der konjugierten Gradienten Wir geben uns mit den durch das Gradientenverfahren erreichbaren Rechenzeiten für dreidimensionale Probleme noch nicht zufrieden und versuchen nun ein schnelleres Verfahren zur Lösung eines linearen Gleichungssystems Ax = b zu konstruieren.

Krylow-Unterräume Für die Residuen der Näherungen, die durch das Gradientenverfahren erzeugt werden, gilt offensichtlich: rk = rk−1 − ˛k−1 Ark−1 = (I − ˛k−1 A)rk−1 und daher: rk = (I − ˛k−1 A)(I − ˛k−2 A) · · · (I − ˛0 A) r0 . 

 k Linearfaktoren in A

Beispiel

104

8 Iterative Verfahren für lineare Gleichungssysteme Das Residuum rk lässt sich also als Linearkombination der Vektoren r0 , Ar0, . . . , Ak r0 darstellen. Ersetzt man die Schrittweiten ˛l durch , so folgt die selbe Aussage auch für das Richardson-Verfahren.

Definition

Seien M ∈ Rn×n und v ∈ Rn . Die Menge span(v, Mv, . . . , M l−1 v) aller Linearkombinationen der Vektoren v, Mv, . . . , M l−1 v heißt ein Krylow-Unterraum und wird mit Kl (M, v) bezeichnet. Mit dieser Bezeichnung gilt also sowohl für das Richardson-Verfahren als auch das Gradientenverfahren rk ∈ Kk+1 (A, r0), woraus leicht folgt: xk ∈ x0 + Kk (A, r0). Beweis. Induktion bezüglich k. Die Behauptung ist trivial für k = 0. Angenommen, xk ∈ x0 + Kk (A, r0). Aus xk+1 ∈ xk + span(rk ) und rk ∈ Kk+1 (A, r0) folgt xk+1 ∈ x0 + Kk (A, r0) + Kk+1 (A, r0) = x0 + Kk+1(A, r0 ), da Kk (A, r0) ⊂ Kk+1 (A, r0).

Das CG-Verfahren Wir setzen in diesem Abschnitt voraus, dass A selbstadjungiert und positiv definit bezüglich eines Skalarproduktes (y, z) in Rn ist. Das Verfahren der konjugierten Gradienten (kurz CG-Verfahren, engl.: conjugate gradient method) wurde von M. Hestenes2 und E. Stiefel3 im Jahre 1952 publiziert, siehe [16]. Es ist ein Liniensuchverfahren, das sich vom Gradientenverfahren durch die Wahl der Suchrichtung unterscheidet. Im Startpunkt x0 wird wie beim Gradientenverfahren die Suchrichtung p0 = r0 gewählt. Angenommen, wir kennen für k ≥ 1 eine Näherung xk , die entlang einer Suchrichtung pk−1 aus einer früheren Näherung entstanden ist. Dann gilt bei optimaler Schrittweitenwahl, siehe (8.4) auf Seite 100: (rk , pk−1) = 0.

(8.5)

Für eine Richtung pk , die uns im nächsten Schritt direkt zur exakten Lösung x führen würde, gilt x = x k + ˛ k pk , woraus nach Multiplikation mit A folgt: b = Axk + ˛k Apk ,

also

rk = ˛k Apk .

Setzt man in (8.5) ein, so erhält man (Apk , pk−1) = (pk , pk−1 )A = 0. 2 Magnus

Rudolph Hestenes (1906–1991), amerikanischer Mathematiker

3 Eduard Stiefel (1909–1978), Schweizer Mathematiker

(8.6)

8.3 Das Verfahren der konjugierten Gradienten Zwei Richtungen p und q, welche die Bedingung (p, q)A = 0 erfüllen, heißen konjugiert oder auch A-orthogonal.

105 Definition

Diese Überlegungen unterstreichen, dass es von Vorteil sein könnte, konjugierte Suchrichtungen zu wählen. Eine zu einer gegebenen Richtung pk−1 konjugierte Richtung pk lässt sich zum Beispiel durch den Ansatz pk = rk + ˇk−1 pk−1 mit einem freien Parameter ˇk−1 leicht berechnen. (Dem Gradientenverfahren entspricht die Wahl ˇk−1 = 0.) Setzt man diesen Ansatz in (8.6) ein, so erhält man: 0 = (Apk , pk−1 ) = (Ark , pk−1 ) + ˇk−1 (Apk−1 , pk−1) und somit ˇk−1 = −

(rk , Apk−1) (Ark , pk−1 ) =− . (Apk−1 , pk−1) (Apk−1 , pk−1 )

Für den Fall n = 2 gibt es (bis auf Vielfache) nur eine solche Richtung, die uns daher bereits von der Näherung x1 direkt zur exakten Lösung führen muss. Das gilt nicht mehr für n ≥ 3. Zusammengefasst erhalten wir also folgende Darstellung des CG-Verfahrens: Mit der Anfangssetzung r0 = b − Ax0 berechne für k = 0, 1, 2, . . .: ⎧ ⎪ ⎨ r0 pk

=

(rk , Apk−1) (Apk−1 , pk−1 )

⎪ ⎩ rk + ˇk−1 pk−1

mit

ˇk−1 = −

˛k =

(rk , pk ) , (Apk , pk )

xk+1

=

xk + ˛ k p k

rk+1

=

rk − ˛k Apk .

mit

für

k = 0,

für

k ≥ 1,

Es gilt: Falls rk−1 = 0, dann gilt: 1. pk−1 = 0. 2. Kk (A, r0 ) = span(r0 , r1, . . . , rk−1 ) = span(p0 , p1, . . . , pk−1). 3. (rk , pj ) = 0 für alle j = 0, 1, . . . , k − 1. 4. (Apk , pj ) = 0 für alle j = 0, 1, . . . , k − 1.

Beweis. Induktion bezüglich k. Für k = 1 sind die Aussagen trivial oder folgen aus (8.5) und (8.6). Angenommen, die Aussagen gelten für ein k ∈ N. Sei rk = 0. Dann

Lemma

106

8 Iterative Verfahren für lineare Gleichungssysteme gilt rk = rk−1 − ˛k−1 Apk−1 ∈ Kk (A, r0) + A(Kk (A, r0)) ⊂ Kk+1(A, r0 ). Wegen (rk , pj ) = 0 für alle j = 0, 1, . . . , k − 1 folgt: rk ⊥ Kk (A, r0 ). Also Kk (A, r0)  span(r0, r1, . . . , rk ) ⊂ Kk+1 (A, r0). Die Dimension von Kk+1(A, r0 ) kann höchstens um 1 größer als die Dimension von Kk (A, r0) sein. Daher muss gelten: span(r0 , r1, . . . , rk ) = Kk+1(A, r0 ). Wegen rk = pk − ˇk−1pk−1 gilt span(p0 , p1, . . . , pk )

=

span(p0, p1 , . . . , pk−1 , rk )

=

span(r0, r1, . . . , rk−1, rk ) = Kk+1 (A, r0).

Daher kann pk aus den gleichen Dimensionsgründen wie oben nicht verschwinden: pk = 0. Damit folgen die Behauptungen 1 und 2 für k + 1. Wegen (8.5) gilt (rk+1, pj ) = 0 für j = k. Für j = 0, 1, . . . , k − 1 folgt (rk+1 , pj ) = (rk − ˛k Apk , pj ) = (rk , pj ) − ˛k (Apk , pj ) = 0. Also: rk+1 ⊥ span(p0, p1 , . . . , pk ) = Kk+1 (A, r0). Damit folgt die Behauptung 3 für k + 1. Wegen (8.6) gilt (Apk+1, pj ) = 0 für j = k. Für j = 0, 1, . . . , k − 1 folgt (Apk+1, pj ) = (pk+1 , Apj ) = (rk+1, Apj ) + ˇk (pk , Apj ) = 0. (Apj ∈ A(Kk (A, r0)) ⊂ Kk+1 (A, r0 ), also (rk+1 , Apj ) = 0.) Damit folgt Behauptung 4 für k + 1. Aus diesem Lemma erhält man sofort die folgende wichtige Eigenschaft: Satz

Für die Näherungen des CG-Verfahrens gilt: xk ∈ x0 + Kk (A, r0)

und

J(xk ) =

min

y∈x0 +Kk (A,r0 )

J(y).

Beweis. Wegen xk+1 = xk + ˛k pk ∈ xk + Kk (A, r0 ) folgt durch Induktion sofort der erste Teil. Die Behauptung 3 des letzten Lemmas zeigt, dass xk Lösung des Variationsproblems (Axk , y) = (f , y)

für alle y ∈ span(p0 , p1, . . . , pk−1) = Kk (A, r0)

8.3 Das Verfahren der konjugierten Gradienten und damit auch Lösung des dazu äquivalenten Minimierungsproblems ist: J(xk ) =

min

y∈x0 +Kk (A,r0 )

J(y).



Das CG-Verfahren sucht also, genauso wie das Richardson-Verfahren oder das Gradientenverfahren, eine Näherung xk in der Menge x0 + Kk (A, r0), allerdings, im Unterschied zum Richardson-Verfahren oder Gradientenverfahren, jene Näherung, die das Energiefunktional minimiert.

Konvergenzanalyse für das CG-Verfahren Nach unseren bisherigen Erkenntnissen wissen wir also, dass entweder rk−1 = 0, also xk−1 bereits eine Lösung des linearen Gleichungssystems ist oder aber die Dimension des Krylow-Raumes im k-ten Iterationsschritt um eins zunimmt. Da der zweite Fall maximal n-mal eintreten kann, muss das CG-Verfahren bei rundungsfehlerfreier Durchführung nach spätestens n Iterationen bei der exakten Lösung abbrechen. Für eine dünnbesetzte Matrix A mit nnz(A) = O(n) kostet ein Iterationsschritt O(n) elementare Operationen. Also lässt sich die (bis auf Rundungsfehler exakte) Lösung in O(n2 ) Operationen berechnen (ohne fill in).In diesem Sinne kann das CGVerfahren auch als direktes Verfahren betrachtet werden. Wesentlich interessanter ist das CG-Verfahren allerdings als Iterationsverfahren. Wir werden im Folgenden zeigen, dass eine hinreichend genaue Näherung bereits nach wesentlich weniger als n Iterationsschritten erreicht werden kann. Aus dem bereits bekannten Zusammenhang zwischen Energiefunktional und Energienorm in der Form J(y) − J(x) =

1 y − x2A 2

folgt sofort aus der Optimalität bezüglich des Energiefunktionals auch die Optimalität des CG-Verfahrens bezüglich des Abstandes zur exakten Lösung, gemessen in der Energienorm: xk − xA

=

min

y∈x0 +Kk (A,r0 )

y − xA.

Ein Element y ∈ x0 + Kk (A, r0 ) ist in der Form y = x0 + c1r0 + c2 Ar0 + · · · + ck Ak−1 r0 darstellbar. Also folgt mit r0 = b − Ax0 = A(x − x0): y−x

= x0 + c1r0 + c2Ar0 + · · · + ck Ak−1 r0 − x = (x0 − x) + c1 A(x − x0) + c2 A2 (x − x0) + · · · + ck Ak (x − x0 ) = [I − c1 A1 − c2A2 − · · · − ck Ak ](x0 − x). 

 = p(A)

107

108

8 Iterative Verfahren für lineare Gleichungssysteme Jedem Element y ∈ x0 + Kk (A, r0) entspricht also genau ein Polynom p vom Grad deg p ≤ k mit p(0) = 1. Also xk − xA

=

min

p Polynom deg p≤k, p(0)=1

p(A)(x0 − x)A.

Da A selbstadjungiert und positiv definit auch bezüglich des Energie-Skalarproduktes ist, gibt es ein vollständiges System {ei : i = 1, 2, . . . , n} von paarweise A-orthonormalen Eigenvektoren mit den dazugehörigen Eigenwerten 0 < 1 ≤ 2 ≤ · · · ≤ n . Also gibt es folgende Darstellung des Startfehlers: n n   ˛i ei und x0 − x2A = (x0 − x, x0 − x)A = ˛i2 , x0 − x = i=1

i=1

woraus folgt: p(A)(x0 − x) =

n 

˛i p(i ) ei

i=1

und p(A)(x0 − x)2A

=

(p(A)(x0 − x), p(A)(x0 − x))A = 

≤

max p(i )2

i=1,...,n

 n

n  i=1

 ˛i2 =

i=1

˛i2 p(i )2

max |p(i )|

i=1,...,n

2 x0 − x2A.

Damit erhalten wir als Zwischenergebnis folgende Abschätzung für den Fehler in der Energienorm: ⎡ xk − xA

≤

⎣

⎤ min

max |p(i )|⎦ x0 − xA,

p Polynom i=1,...,k deg p≤n, p(0)=1

die Grundlage des Beweises der folgenden Konvergenzaussage ist: Satz

Für die Näherungen des CG-Verfahrens gilt: xk − xA ≤

2qk x0 − xA ≤ 2qk x0 − xA 1 + q2k

mit

√ (A) − 1 q= √ . (A) + 1

Beweis. Es gilt natürlich für jedes spezielle Polynom p¯ () vom Grad deg p ≤ k mit p¯ (0) = 1 die Abschätzung xk − xA ≤ max |p¯ (i )| x0 − xA ≤ max |p¯ ()| x0 − xA. i=1,...,n

∈[1 ,n ]

8.3 Das Verfahren der konjugierten Gradienten Im Speziellen gilt die Abschätzung für das folgende Polynom: p¯ () =

Tk ((n + 1 − 2)/(n − 1 )) , Tk ((n + 1 )/(n − 1 ))

wobei Tk das k-te Tschebyscheff-Polynom ist, das sich zum Beispiel folgendermaßen darstellen lässt: ⎧ ⎪ ⎪ ⎨ cos(k arccos t) Tk (t) =

für |t| ≤ 1,

  ⎪ √ √ ⎪ ⎩ 1 (t + t 2 − 1)k + (t + t 2 − 1)−k 2

für |t| > 1.

Aus dieser Darstellung folgt leicht: max t∈[−1,1] |Tk (t)| = 1 und daher gilt: max |(p¯ ()| =

∈[1 ,n ]

1 , Tk ((n + 1 )/(n − 1 ))

weil  ∈ [1 , n ] äquivalent zu t = (n + 1 − 2)/(n − 1 ) ∈ [−1, 1] ist. Aus der obigen Darstellung von Tschebyscheff-Polynomen für t = (n + 1 )/ (n − 1 ) = ( + 1)/( − 1) > 1 mit  = n /1 = (A) folgt: Tk ((n + 1 )/(n − 1 )) = Tk (t) =

qk + q−k 2

mit q=t+

√

 +1 t2 − 1 = +  −1

#



Also max |(p¯ ()| =

∈[1 ,k ]

 +1  −1

2

√ √  +1+2   +1 . −1= =√ −1  −1

2 2qk = ≤ 2qk . qk + q−k 1 + q2k



Bemerkung. Aus der Approximationstheorie ist zusätzlich bekannt, dass das im obigen Beweis verwendete Polynom p¯ auf den kleinstmöglichen Wert für die obere Schranke max ∈[1 ,n ] |p()| führt. Der Konvergenzsatz des CG-Verfahrens liefert keine Aussage über die Reduktion des Fehlers aufeinander folgender Näherungen,wohl aber eine Abschätzung des Fehlers nach k Iterationen in Abhängigkeit des Anfangsfehlers (r-lineare Konvergenz). Daraus erhält man sehr leicht eine Abschätzung für die Anzahl von Iterationen, die man benötigt,um den Anfangsfehler um einen vorgegebenen Faktor " zu reduzieren: Um xK − xA ≤ " x0 − xA zu garantieren, genügt es, die Ungleichung 2qK ≤ " zu erfüllen, also reichen K≥

ln("/2) ln q

109

110

8 Iterative Verfahren für lineare Gleichungssysteme √ √ √ Iterationen. Wegen q = (  − 1)/(  + 1) = 1 − 2/(  + 1) und √ ln("/2) 1 − ln("/2) ≤ (− ln("/2)) (  + 1) = √ ln q 2 − ln(1 − 2/(  + 1)) genügen K=O

√  

Iterationen, um das Abbruchkriterium zu erreichen. Für dünnbesetzte Matrizen A √ mit nnz(A) = O(n) reichen O(  · n) elementare Operationen zur Durchführung des CG-Verfahrens. Die Werte ˛k und ˇk−1 , die im CG-Verfahren benötigt werden, lassen sich auch auf andere Art darstellen: Wegen (rk , pk ) = (rk , rk + ˇk−1 pk−1 ) = (rk , rk ) folgt für ˛k : ˛k =

(rk , rk ) (rk , pk ) = . (Apk , pk ) (Apk , pk )

Da rk ⊥ Kk (A, r0) = span(r0, r1, . . . , rk−1), folgt (rk , rk−1) = 0 und ˛k−1 (rk , Apk−1 ) = −(rk , rk − rk−1 ) = −(rk , rk ). Damit erhalten wir für ˇk−1: ˇk−1 = −

(rk , rk ) (rk , rk ) (rk , Apk−1) = = . (Apk−1 , pk−1 ) ˛k−1 (Apk−1 , pk−1) (rk−1 , rk−1)

Das CG-Verfahren hat dann die folgende Form: Mit der Anfangssetzung r0 = b − Ax0 berechne für k = 0, 1, 2, . . .:

pk

Beispiel

=

⎧ ⎪ ⎨ r0 ⎪ ⎩ rk + ˇk−1 pk−1

mit ˛k =

xk+1

=

xk + ˛ k pk

rk+1

=

rk − ˛k Apk .

mit

ˇk−1 =

(rk , rk ) (rk−1, rk−1 )

für

k = 0,

für

k ≥ 1,

(rk , rk ) , (Apk , pk )

Für das diskretisierte d-dimensionale Modellproblem gilt: nnz(Kh ) = O(nh ),

(Kh ) = O(h−2 ),

nh = O(h−d ). 1/d

Für das CG-Verfahren genügen also K = O(h−1 ) = O(nh ) Iterationen. Das 1/d (d+1)/d führt auf insgesamt O(nh · nh ) = O(nh ) elementare Operationen. In Tabelle 8.2 wird dieser Aufwand des CG-Verfahrens für d ∈ {1, 2, 3} dem Aufwand

8.3 Das Verfahren der konjugierten Gradienten des Gradientenverfahrens, der etwa gleich dem Aufwand des RichardsonVerfahrens ist, und dem Aufwand des Gaußschen Eliminationsverfahrens (für Bandmatrizen) gegenübergestellt. d =1

d=2

d=3

Gaußsches Verfahren

O(nh )

O(n2h )

O(nh )

Gradientenverfahren

O(n3h )

O(n2h )

O(nh )

CG-Verfahren

O(n2h )

O(nh )

3/2

O(nh )

7/3 5/3 4/3

Tabelle 8.2. Aufwand des CG-Verfahrens Für mehrdimensionale Probleme ist das CG-Verfahren also deutlich effizienter als das Gaußsche Eliminationsverfahren bzw. das Gradientenverfahren. Für das dreidimensionale Modellproblem erwarten wir bei Verwendung des 1/3 CG-Verfahrens O(nh ) Iterationen,also für nh = 1003 = 1 000 000 in der Größenordnung von 100 Iterationen. Tatsächlich zeigen Testrechnungen, dass man etwa 140 Iterationen benötigt, um das Anfangsresiduum eines (zufällig gewählten) Startwertes um den Faktor 10−6 zu reduzieren. Ein einzelner Iterationsschritt erfordert nicht wesentlich mehr elementare Operationen als beim Gradientenverfahren. Wir dürfen also mit einer Verbesserung der Rechenzeit um etwa den Faktor 100 rechnen. Bei einer Rechnerleistung von 100 – 1000 MFLOPS benötigt man dann etwa 3 – 30 Sekunden. Bemerkung. Die schnelle Konvergenz des CG-Verfahrens beruht auf der Optimalität der Näherungen bezüglich des Energiefunktionals. Das Energiefunktional macht allerdings nur für selbstadjungierte und positiv definite Matrizen Sinn. Eines der bekanntesten Verfahren von ähnlicher Bauart wie das CG-Verfahren, die für allgemeine lineare Gleichungssysteme entwickelt wurden, ist das GMRESVerfahren (engl.: generalized minimal residual method), bei dem Näherungen xk ∈ x0 + Kk (A, r0)

mit

b − Axk 2 =

min

y∈x0 +Kk (A,r0 )

b − Ay2

konstruiert werden. Dieses Verfahren ist wesentlich komplexer und erfordert im Unterschied zum CG-Verfahren mit wachsendem k zunehmend mehr Rechenaufwand und Speicher. CG-Verfahren und GMRES-Verfahren sind zwei der wichtigsten Vertreter der so genannten Krylow-Unterraum-Methoden. Sie suchen in (verschobenen) KrylowRäumen nach (im Sinne eines Auswahlkriteriums) „optimalen“ Näherungen. Die Kunst dabei ist nicht die Formulierung eines Auswahlkriteriums, sondern die tatsächliche möglichst effiziente Berechnung der Näherungen. An sich wird die Bestimmung einer in gewisser Weise optimalen Näherung in immer größeren (verschobenen) Unterräumen zunehmend aufwendiger. Das CG-Verfahren zeigt allerdings, dass das nicht zutreffen muss: Obwohl die Optimierungsaufgabe immer mehr Freiheitsgrade zulässt, steigt der Aufwand nicht und ist nur geringfügig größer als beim Gradientenverfahren.

111

112

8 Iterative Verfahren für lineare Gleichungssysteme

 8.4 Präkonditionierung Wir fassen die bisherigen Erkenntnisse über Verfahren zur Lösung linearer Gleichungssysteme anhand des diskretisierten d-dimensionalen Modellproblems kurz zusammen. Im eindimensionalen Fall ist das annähernd 200 Jahre alte Gaußsche Eliminationsverfahren ein optimales Verfahren, im zweidimensionalen Fall liefert es immerhin erträgliche Rechenzeiten, wenn die Bandstruktur berücksichtigt wird. Das modernste Verfahren, das wir bisher diskutierten, das mehr als 50 Jahre alte CGVerfahren schafft auch den dreidimensionalen Fall in erträglichen Rechenzeiten. Was bleibt also noch zu tun? Zunächst ist festzustellen, dass wir für mehrdimensionale Probleme bisher noch kein Verfahren von optimaler Komplexität gefunden haben, was sich bei sehr fein diskretisierten Problemen in einem überproportionalen Anstieg der Rechenzeit bemerkbar machen wird. Außerdem profitierten wir von einigen speziellen Eigenschaften der betrachteten Modellprobleme: Abgesehen davon, dass wir nur lineare Modellprobleme diskutierten, deren Diskretisierung auf lineare Gleichungssysteme mit symmetrischen und positiv definiten Matrizen führten, war bisher vor allem die Anzahl der Nichtnulleinträge stets sehr klein. Bei allgemeineren Finite-ElementeMethoden für allgemeinere Randwertprobleme auf komplizierten Gebieten § ⊂ R3 kann es leicht zu einer wesentlichen Vergrößerung der Anzahl der Nichtnulleinträge kommen, was die Rechenzeiten deutlich ansteigen lässt. Um unter solchen Bedingungen die Rechenzeiten wieder auf ein erträgliches Maß zu reduzieren, müssen wir versuchen, die Anzahl der Iterationen zu verkleinern.Wir haben festgestellt, dass die Konvergenzraten vor allem vom Verhältnis  = 2/1 abhängen, im selbstadjungierten und positiv definiten Fall also von der Konditionszahl (A) der Matrix A. Je größer (A) ist, desto langsamer sind die bisher betrachteten Verfahren. Wir müssen allerdings mit großen Konditionszahlen rechnen, wie die Diskussion der Modellprobleme ergab. Wir modifizieren nun das Vorgehen, um Einfluss auf die Konditionszahl und damit auf die Konvergenzgeschwindigkeit zu nehmen: Das ursprüngliche Gleichungssystem Ax = b wird mit der Inversen einer noch zu fixierenden regulären Matrix C multipliziert: C−1 Ax = C −1 b. Auf dieses modifizierte Gleichungssystem wird nun das Richardson-Verfahren angewendet: xk+1 = xk +  (C −1 b − C −1 Axk ) = xk +  C −1 (b − Axk ) = G (xk )

(8.7)

mit G (y) = M y + g

und

M = I −  C −1 A,

g =  C −1 b.

Bezogen auf die ursprüngliche Form des linearen Gleichungssystems Ax = b wird dieses Verfahren ein präkonditioniertes Richardson-Verfahren genannt. Die Konvergenzanalyse bleibt unverändert, da es sich nach wie vor um ein Richardson-Verfahren (angewendet auf das modifizierte Gleichungssystem) handelt,alle Voraussetzungen und Behauptungen beziehen sich allerdings auf die Matrix

8.4 Präkonditionierung C −1 A anstelle von A. So lautet die variationelle Form nun: Gesucht ist x ∈ Rn , sodass a(x, y) = f , y

für alle y ∈ Rn

mit a(z, y) = (C −1 Az, y)

f , y = (C −1 b, y)

und

für z, y ∈ Rn .

Die relevanten Bedingungen haben nun die Form: 1. Es gibt eine Konstante 1 > 0 mit (C −1 Ay, y) ≥ 1 y2

für alle y ∈ Rn .

2. Es gibt eine Konstante 2 > 0 mit (C −1 Az, y) ≤ 2 zy

für alle z, y ∈ Rn .

Unverändert bleibt die Abhängigkeit der oberen Schranke q der Konvergenzrate von den Konstanten 1 und 2 im allgemeinen Fall:  q=

1−

1 2

=

mit

2 . 1

Der symmetrische und positiv definite Fall Von speziellem Interesse ist die Situation, dass sowohl A als auch C symmetrische und positiv definite Matrizen sind. Dann ist zwar die Matrix C−1 A im Allgemeinen nicht notwendigerweise symmetrisch. Sehr wohl bleibt aber diese Matrix C −1 A selbstadjungiert und positiv definit bezüglich des Skalarprodukts (y, z) = (y, z)C = (Cy, z)2 , wie man sich leicht überzeugen kann: Es gilt (C −1 Ay, z)C

und

= =

(CC −1 Ay, z)2 = (Ay, z)2 (Az, y)2 = (CC −1 Az, y)2 = (C −1 Az, y)C

(C −1 Ay, y)C = (Ay, y)2 > 0

für alle y, z ∈ Rn

für alle y ∈ Rn , y = 0.

In diesem Fall folgt dann die genauere Schranke q=

 −1  +1

mit

=

2 1

unter der Bedingung 1 · (y, y)C ≤ (C −1 Ay, y)C ≤ 2 · (y, y)C

für alle y ∈ Rn ,

die für 1 = min (C −1 A) und 2 = max (C −1 A) erfüllt ist. Die Schranke q hängt dann von  = (C −1 A) ab. Die obige Bedingung lässt sich offensichtlich auch

113

114

8 Iterative Verfahren für lineare Gleichungssysteme folgendermaßen schreiben: 1 · (Cy, y)2 ≤ (Ay, y)2 ≤ 2 · (Cy, y)2

für alle y ∈ Rn .

Zur Wahl von C Im symmetrischen und positiv definiten Fall erwarten wir uns von einer geeigneten Wahl von C, dass sich dadurch die Konditionszahl von C −1 A im Vergleich zur Konditionszahl von A, und damit die Anzahl der notwendigen Iterationen, verkleinert. Die Matrix C nennt man Präkonditionierungsmatrix (auch kurz: Präkonditionierer, engl.: preconditioner). Zusätzlich ist natürlich auch der Aufwand des Verfahrens zu berücksichtigen. Die Durchführung eines Iterationsschrittes eines präkonditionierten RichardsonVerfahrens lässt sich in 3 Teilschritte aufteilen: 1. Berechne das Residuum rk = b − Axk der aktuellen Näherung xk . 2. Berechne die Korrektur wk als Lösung der linearen Gleichung Cwk = rk . 3. Berechne die neue Näherung xk+1 = xk +  wk . Wie bereits diskutiert ist der erste Teilschritt für Matrizen A mit nnz(A) = O(n) und der dritte Teilschritt in O(n) elementaren Operationen durchführbar. Entscheidend ist daher vor allem die Beurteilung des Aufwands des zweiten Schrittes. Dazu zunächst zwei extreme Fälle für die Wahl von C: 1. C = I: Wir erhalten das ursprüngliche Richardson-Verfahren, der zweite Schritt ist trivial (wk = rk ), die Konvergenzrate ist unverändert. 2. C = A: Im ersten Schritt ist das Gleichungssystem Aw0 = r0 zu lösen. Wir erhalten daraus sofort für  = 1 die exakte Lösung: x1 = x0 + w0 = x0 + A−1 r0 = x0 + A−1 (b − Ax0) = A−1 b = x. Das Gleichungssystem Aw0 = r0 unterscheidet sich vom ursprünglichen Gleichungssystem nur in der rechten Seite und benötigt daher den gleichen Aufwand zur Berechnung der Lösung. Wir haben also auch in diesem Fall nichts erreicht. Die Kunst der richtigen Wahl von C ist es, einen guten Kompromiss zwischen diesen beiden Extremfällen zu erreichen: Der zweite Teilschritt soll mit relativ wenig Aufwand realisierbar sein UND die Konvergenzrate soll stark verbessert werden. In der weiteren Diskussion beschränken wir uns auf lineare Gleichungssysteme, die durch Diskretisierung eines Variationsproblems entstanden sind: Wir nehmen an, das lineare Gleichungssystem ist von der Form Kh uh = f

h

und es entspricht genau jenem (endlich-dimensionalen) Variationsproblem in Vh a(uh , vh ) = f , vh

für alle vh ∈ Vh ,

8.4 Präkonditionierung das durch Diskretisierung (Vh ⊂ V ) des Variationsproblems in V a(u, v) = f , v

für alle v ∈ V

entstanden ist. Die Bedingungen des Satzes von Lax-Milgram mit Konstanten 1 und 2 seien für das Variationsproblem in V erfüllt.

Ein erster Versuch Die Voraussetzungen des Satzes von Lax-Milgram sind natürlich auch für das endlich-dimensionale Variationsproblem erfüllt und wir haben durch den Beweis des Satzes von Lax-Milgram in Vh bereits ein Iterationsverfahren zur Berechnung der Lösung uh ∈ Vh kennen gelernt: (k) , vh ) = (u(k) (u(k+1) h h , vh ) +  [f , vh − a(uh , vh )]

für alle vh ∈ Vh .

Dabei ist (w, v) das Skalarprodukt in V , das sich (wie jede andere Bilinearform) auf Vh durch eine Matrix, wir bezeichnen sie mit Bh , darstellen lässt: (wh , vh ) = (Bh w h , vh )2

für alle v h , wh ∈ Rnh .

Wegen der entsprechenden Eigenschaften des Skalarprodukts muss die Matrix Bh symmetrisch und positiv definit sein. Sie erlaubt die Definition eines neuen Skalarprodukts auf Rnh und der dazugehörigen Norm (Bh -Norm): (w h , vh )Bh = (Bh wh , v h )2

und

vh Bh =



(vh , vh )Bh .

Zusammen mit der Matrixdarstellung der Bilinearform a a(wh , vh ) = (Kh w h , vh )2

für alle vh , wh ∈ Rnh

und der Vektordarstellung des linearen Funktionals f f , vh = (f , vh )2

für alle vh ∈ Rnh

h

erhalten wir die folgende Übersetzung der obigen Iterationsvorschrift in MatrixVektor-Notation: (k) , vh )2 = (Bh u(k) (Bh u(k+1) h h , v h )2 +  (f − Kh uh , v h )2 h

d.h.:

für alle v h ∈ Rnh ,

(k) Bh u(k+1) = Bh u(k) h h +  (f − Kh uh ) h

und somit

(k+1)

uh

(k)

(k)

= uh +  B−1 h rh

mit

(k)

(k)

r h = f − Kh uh . h

Es entsteht also ein präkonditioniertes Richardson-Verfahren mit der Präkonditionierungsmatrix Bh .

115

116

8 Iterative Verfahren für lineare Gleichungssysteme Aus dem Beweis des Satzes von Lax-Milgram und der anschließenden Diskussion folgt sofort die q-lineare Konvergenz der Folge (u(k) h )k∈N0 gegen die exakte Lösung uh ∈ Vh in der Norm von V . Übersetzt in Matrix-Vektor-Notation erhält man die nh Konvergenz der Folge (u(k) h )k∈N0 gegen die exakte Lösung uh ∈ R in der Bh -Norm und es gilt:  u(k+1) h

− uh Bh ≤

q u(k) h

− uh B h

mit

q=

1−

1 2

und

=

2 1

bei optimaler Parameterwahl  = 1 /22. Die Konvergenzrate und damit die Iterationszahl K sind offensichtlich unabhängig von der Wahl von Vh , also bei einer Finite-Elemente-Methode unabhängig von der Feinheit h der Zerlegung und damit unabhängig von der Anzahl nh der Unbekannten. Kritisch ist allerdings die Beurteilung des Aufwands des zweiten Teilschrittes, die Lösung des linearen Gleichungssystems. Wir haben bereits bei der Diskussion des Iterationsverfahrens im Anschluss an den Satz von Lax-Milgram festgestellt, dass die Durchführung eines Schrittes für das betrachtete Modellproblem etwa gleich aufwendig ist wie die Lösung des ursprünglichen Problems, siehe Seite 27. Das Gleiche gilt auch im diskretisierten Fall: Das lineare Gleichungssystem Bh w h = r (k) h ist etwa gleich schwer zu lösen wie das ursprüngliche Gleichungssystem Kh uh = f . Diese h Wahl der Präkonditionierungsmatrix hat uns also noch nicht zum Ziel geführt: Die Anzahl der Iterationen lässt sich zwar unabhängig von der Feinheit h beschränken, die Durchführung eines einzelnen Iterationsschrittes ist aber zu aufwendig. Wir versuchen es noch einmal: Ein Schritt eines präkonditionierten RichardsonVerfahrens mit Schrittweite  = 1 und Präkonditionierer Ch = Kh würde uns von einer Näherung u(k) h in einem Schritt zur exakten Lösung führen, erfordert aber die Berechnung der Korrektur w (k) h aus dem Gleichungssystem (Residuumsgleichung oder Defektgleichung) (k) Kh w (k) − Kh u(k) h = f h h

und ist damit genau so aufwendig wie das Ausgangsproblem. Die Residuumsgleichung als Variationsproblem lautet: Gesucht ist die Korrektur wh ∈ Vh , sodass a(wh , vh ) = f , vh − a(u(k) h , vh )

für alle vh ∈ Vh .

Wesentlich weniger aufwendig ist es allerdings, eine Näherungslösung dieses Variationsproblems auf einem oder mehreren Unterräumen (mit niedriger Dimension) zu berechnen:

Unterraum-Korrektur-Methoden Im Englischen heißen diese Methoden: subspace correction methods. Sei Wh ⊂ Vh ein (niedrig-dimensionaler) Unterraum.Wir betrachten das folgende Variationsproblem: Gesucht ist wh ∈ Wh , sodass a(wh , vh ) = f , vh − a(u(k) h , vh )

für alle vh ∈ Wh .

8.4 Präkonditionierung

117

Wir schränken also die (durch Diskretisierung erhaltenen) endlich-vielen Freiheitsgrade noch weiter ein. Die obige Residuumsgleichung wird auch UnterraumKorrektur-Gleichung (engl.: subspace correction equation) genannt. Typischerweise werden Korrekturen nicht nur bezüglich eines einzelnen Unterraums berechnet, sondern bezüglich mehrerer (niedrig-dimensionaler) Unterräume Vh,s ⊂ Vh , s = 1, . . . , p, für die wir fordern, dass Vh =

p 

Vh,s

s=1

mit

p 

) Vh,s =

s=1

p 

* vh,s : vh,s ∈ Vh,s , s = 1, . . . , p ,

s=1

um sozusagen alle Bereiche von Vh auszuleuchten. Diese Darstellung nennt man eine Raumaufspaltung (engl.: space decomposition). Sei {'i : i = 1, 2, . . . , nh} eine Basis von Vh. Für die Wahl der eindimensionalen Unterräume Vh,i = span('i ) erhält man natürlich eine Raumaufspaltung Vh =

nh 

Vh,i .

i=1

Die Unterraum-Korrektur-Gleichungen lauten dann: a(wh,i , vh,i ) = f , vh,i − a(u(k) h , vh,i )

für alle vh,i ∈ Vh,i .

Die Korrekturen haben die Form wh,i = wi 'i mit wi ∈ R, die Testfunktionen die Form vh,i = vi 'i mit vi ∈ R. Man erhält damit für jedes i = 1, . . . , nh eine Gleichung in einer Unbekannten wi : a('i , 'i ) wi = f , 'i − a(u(k) h , 'i ). Es bieten sich (zumindest) die beiden folgenden Möglichkeiten an, wie man aus den Korrekturen eine neue Näherungslösung konstruieren kann:

Additive Schwarz-Methoden Man berechnet zunächst die Korrekturen wh,s ∈ Vh,s für alle Unterräume, immer ausgehend von der alten Näherungslösung u(k) h , summiert diese Korrekturen und addiert die so berechnete Gesamtkorrektur, gewichtet mit einem Parameter  > 0, zur alten Näherung: p  (k+1) (k) uh = uh +  wh,s . s=1 4

Solche Methoden werden additive Schwarz -Methoden genannt.

4 Hermann Amandus

Schwarz (1843–1921), deutscher Mathematiker

Beispiel

118 Beispiel

8 Iterative Verfahren für lineare Gleichungssysteme Für die Wahl der Unterräume Vh,i = span('i ) erhält man als nächste Näherung: (k+1) uh

=

(k) uh

nh 

+

wi 'i

i=1

mit

a('i , 'i ) wi = f , 'i − a(u(k) h , 'i )

für alle i = 1, 2, . . . , nh .

Das heißt: Der Vektor der Korrekturen wh = (wi )i=1,...,nh erfüllt die Gleichungen für alle i = 1, 2, . . . , nh

Kii wi = ri

mit dem entsprechenden Diagonalelement Kii der Steifigkeitsmatrix Kh und der (k) i-ten Komponente ri des Residuumsvektors r (k) h = (ri )i=1,...,nh = f h − Kh uh . In Matrix-Vektor-Notation: = u(k) u(k+1) h h +  wh

mit

Dh wh = r (k) h

und

Dh = diag Kh .

Zur Notation: diag M = diag(M11 , M22 , . . . , Mnn) für M ∈ Rn×n . entspricht offensichtlich genau einem Schritt eiDie Berechnung von u(k+1) h nes präkonditionierten Richardson-Verfahrens mit der Präkonditionierungsmatrix Ch = Dh = diag Kh . Das auf diese Weise präkonditionierte RichardsonVerfahren wird (gedämpftes) Jacobi5-Verfahren genannt.

Multiplikative Schwarz-Methoden Bei diesen Methoden wird eine berechnete Korrektur sofort zur bisherigen Näherungslösung addiert und diese verbesserte Näherung als Startwert für die Berechnung der Korrektur im nächsten Unterraum betrachtet: Wir starten mit der Setzung (k,0) (k) uh = uh und berechnen der Reihe nach für s = 1, 2, . . . , p uh(k,s) = uh(k,s−1) + wh,s mit wh,s ∈ Vh,s , sodass (k,s−1)

a(wh,s , vh ) = f , vh − a(uh

, vh )

für alle vh ∈ Vh,s .

Nach Abarbeitung aller Unterräume erhält man schließlich die nächste Näherung (k,p)

un+1 = uh h

5 Carl Gustav

.

Jacob Jacobi (1804–1851), deutscher Mathematiker

8.4 Präkonditionierung Für die Wahl der Unterräume Vh,i = span('i ) erhält man = u(k,i−1) + wi 'i u(k,i) h h

Beispiel

für alle i = 1, 2, . . . , nh

mit der eindimensionalen Residuumsgleichung (k,i−1)

a('i , 'i ) wi = f , 'i − a(uh

, 'i )

für alle i = 1, 2, . . . , nh .

Also erhält man insgesamt u(k+1) = u(k) h h +

nh 

wi 'i

i=1

mit a('i , 'i ) wi

=

f , 'i − a(u(k,i−1) , 'i ) = f , 'i − a(u(k) h h +

i−1 

wj 'j , 'i )

j=1

=

(k)

f , 'i − a(uh , 'i ) −

i−1 

a('j , 'i ) wj .

j=1

Das heißt: Der Vektor der Korrekturen wh = (wi )i=1,...,nh erfüllt die Gleichungen Kii wi

=

ri −

i−1 

Kij wj ,

für alle i = 1, 2, . . . , nh ,

j=1

oder anders ausgedrückt: i 

Kij wj = ri

für alle i = 1, 2, . . . , nh .

j=1

In Matrix-Vektor-Notation erhält man also = u(k) u(k+1) h h + wh und

Lh w h = r (k) h

mit

⎛ ⎜ K11 ⎜ ⎜ ⎜ K21 Lh = ⎜ ⎜ . ⎜ .. ⎜ ⎝ Knh ,1 (k+1)

⎞ 0 K22 .. . ···

··· .. . ..

.

119

0 .. .

⎟ ⎟ ⎟ ⎟ ⎟. ⎟ 0 ⎟ ⎟ ⎠

· · · Knh ,nh

entspricht also einem präkonditionierten RichDiese Berechnung von uh ardson-Verfahren mit  = 1 und dem Präkonditionierer Ch = Lh , jener

120

8 Iterative Verfahren für lineare Gleichungssysteme

Dreiecksmatrix, die sich aus den Einträgen von Kh auf und unterhalb der Hauptdiagonale zusammensetzt. Dieses Verfahren wird Gauß-Seidel6 -Verfahren genannt. Offensichtlich spielt im Unterschied zum Jacobi-Verfahren die Reihenfolge der Unterräume für die Fixierung der nächsten Näherung eine Rolle.

Auch im Falle einer symmetrischen und positiv definiten Matrix Kh ist beim Gauß-Seidel-Verfahren die Präkonditionierungsmatrix Ch eine linke untere Dreiecksmatrix und damit im Allgemeinen nicht einmal symmetrisch. Dieses Defizit (k,p) lässt sich beheben, indem man, beginnend mit uh , in einer zweiten Welle alle Unterräume nochmals abarbeitet, diesmal allerdings in umgekehrter Reihenfolge. Die symmetrische Variante der multiplikativen Schwarz-Methode lässt sich allgemein folgendermaßen beschreiben: Zunächst berechnet man (wie vorher) (k,s)

uh

(k,s−1)

= uh

+ wh,s

mit u(k,0) = u(k) h h und wh,s ∈ Vh,s , sodass a(wh,s , vh ) = f , vh − a(uh(k,s−1) , vh )

für alle vh ∈ Vh,s

für s = 1, 2, . . . , p. Anschließend berechnet man uh(k,s) = uh(k,s−1) + wh,s mit wh,s ∈ Vh,2p−s+1 , sodass a(wh,s , vh ) = f , vh − a(uh(k,s−1) , vh )

für alle vh ∈ Vh,2p−s+1

für s = p + 1, 2, . . . , 2p und setzt als nächste Näherung (k,2p)

= uh u(k+1) h

.

Auch dieses Verfahren lässt sich als präkonditioniertes Richardson-Verfahren interpretieren, siehe Übungsaufgabe 39. Für das diskretisierte d-dimensionale Modellproblem lässt sich zeigen, dass es Konstanten C1 , C2 > 0 gibt mit: C1 · h2 ·(Dh vh , vh )2 ≤ (Kh v h , vh )2 ≤ C2 ·(Dh vh , vh )2     = 1 = 2

für alle vh ∈ Rnh .

Damit erhalten wir für die Konditionszahl (Dh−1 Kh ) die obere Schranke 2/1 = O(h−2 ), was keine (wesentliche) Verbesserung gegenüber dem Richardson-Verfahren ohne Präkonditionierung (Ch = I) bedeutet. Das gleiche Resultat gilt auch für das Gauß-Seidel-Verfahren und seine symmetrische Variante. 6 Philipp Ludwig Ritter

von Seidel (1821–1896), deutscher Mathematiker

8.4 Präkonditionierung Bemerkung. Das Jacobi- und das Gauß-Seidel-Verfahren (und seine symmetrische Variante) lassen sich natürlich leicht auch für beliebige lineare Gleichungssysteme (ohne den variationellen Hintergrund) Ax = b formulieren. Das Jacobi-Verfahren ist das präkonditionierte Richardson-Verfahren mit C = diag A, das Gauß-Seidel-Verfahren ist jenes präkonditionierte RichardsonVerfahren, dessen Präkonditierungsmatrix jene linke untere Dreiecksmatrix L ist, deren Einträge auf und unterhalb der Diagonale mit den Einträgen der Matrix A übereinstimmen.

Hierarchische Raumaufspaltungen Wir haben bisher den grundsätzlichen Aufbau einer Unterraum-Korrektur-Methode bzw. einer Schwarz-Methode kennen gelernt, die ersten einfachen Beispiele (JacobiVerfahren und Gauß-Seidel-Verfahren) brachten aber noch keine signifikante Verbesserung der Konditionszahl. Die Anfänge der Unterraum-Korrektur-Methoden reichen bis ins 19.Jahrhundert zurück,ein Durchbruch wurde aber erst in den letzten Jahren bzw. Jahrzehnten erreicht. Die Entwicklung und Analyse solcher Methoden ist nach wie vor Gegenstand der aktuellen Forschung. Der Schlüssel zum Erfolg ist die Verwendung von so genannten hierarchischen Raumaufspaltungen. Der Einfachheit halber beschränken wir uns auf ein (typisches) Beispiel einer hierarchischen Raumaufspaltung für das eindimensionale Modellproblem.Wir starten mit einer Anfangszerlegung T1 des Intervalls (0, 1) mit Feinheit h1 = 1 und konstruieren daraus eine Folge (Hierarchie) von Zerlegungen Tl , l = 1, 2, . . . , L mit Feinheit hl = hl−1 /2: Die Intervalle von Tl entstehen aus den Intervallen von Tl−1 durch Halbierung in zwei gleich große Teile. Die dazugehörigen Räume der stetigen und auf Tl stückweise linearen Funktionen werden mit Vl bezeichnet. Sie bilden eine Folge (Hierarchie) von größer werdenden Teilräumen von VL : V1 ⊂ · · · ⊂ VL−1 ⊂ VL . Die Basisfunktionen der Knotenbasis in Vl werden mit 'l,i für i = 1, 2, . . . , nl und l = 1, 2, . . . , L bezeichnet. Das eigentliche Ziel ist es, das Variationsproblem am feinsten Gitter, also in VL zu lösen: Gesucht ist uL ∈ VL mit a(uL , vL ) = f , vL

für alle vL ∈ VL .

(8.8)

Wir konstruieren eine Raumaufspaltung von VL in zwei Etappen. Zunächst betrachten wir die (hierarchische) Raumaufspaltung VL =

L  l=1

Vl .

121

122

8 Iterative Verfahren für lineare Gleichungssysteme Im Unterschied zur Raumaufspaltung im Beispiel auf Seite 117 ist das natürlich keinesfalls eine Darstellung von VL als eine direkte Summe von Unterräumen. Dann verwenden wir für jeden der Räume Vl die selbe Aufspaltung in eindimensionale Unterräume wie im Beispiel auf Seite 117: Vl =

nl 

Vl,i

Vl,i = span('l,i ).

mit

i=1

Insgesamt erhalten wir also eine Raumaufspaltung in n1 + n2 + · · · + nL eindimensionale Unterräume: L  nl  Vl,i . (8.9) VL = l=1 i=1

Die dazugehörige additive Schwarz-Methode Die additive Schwarz-Methode bezüglich der oben eingeführten Raumaufspaltung heißt MDS-Methode (engl.: multilevel diagonal scaling method, siehe zum Beispiel: X. Zhang: Multilevel additive Schwarz methods, Numer. Math. 63, 1992). Die Durchführung eines Schrittes dieser Methode, also die Berechnung der Gesamtkorrektur L  nl  wl,i 'l,i , wL = l=1 i=1

erfordert die Lösung von n1 + n2 + · · · + nL eindimensionalen Problemen: a('l,i , 'l,i ) wl,i = f , 'l,i − a(u(k) L , 'l,i ). Das entspricht einem Schritt des Jacobi-Verfahrens, allerdings nicht nur auf dem feinsten Gitter, sondern auf allen Gittern durchgeführt. Es gilt: n 1 + n2 + · · · + nL

= =

1 1 nL + nL + · · · + L−1 nL 2 2 (2 − 2−(L−1) )nL < 2 nL.

Hat man also die Koeffizienten a('l,i , 'l,i ) und die rechten Seiten der UnterraumKorrektur-Gleichungen zur Verfügung, so lassen sich die Korrekturen mit weniger als 2nL Divisionen berechnen. Die Berechnung der Koeffizienten, der rechten Seiten und die Addition aller Korrekturen lässt sich so organisieren, dass insgesamt zur Durchführung des Verfahrens nur O(nL ) elementare Operationen erforderlich sind. Ähnlich wie beim Jacobi-Verfahren erhält man einen linearen Zusammenhang zwischen Residuum und Korrektur in der Form (k)

CL wL = r L

mit einer geeigneten Matrix CL . So gesehen führt auch diese Schwarz-Methode auf ein präkonditioniertes Richardson-Verfahren. Für das diskretisierte Modellproblem (und eine große Klasse ähnlich diskretisierter allgemeinerer Randwertprobleme)

8.4 Präkonditionierung lässt sich unter geeigneten Voraussetzungen zeigen, dass es Konstanten 1 > 0 und 2 > 0 gibt, die unabhängig von L sind, sodass 1 · (CL vL , v L )2 ≤ (KL v L , vL )2 ≤ 2 · (CL v L , vL )2

für alle vL ∈ RnL .

Daher lässt sich die Anzahl K der notwendigen Iterationen unabhängig von L beschränken: K = O(1). Da, wie oben kurz skizziert, ein Schritt des Verfahrens nur O(nL ) Operationen kostet, erhalten wir eine Methode von optimaler Komplexität.

Eine dazugehörige multiplikative Schwarz-Methode Wir beginnen mit einem Beispiel eines so genannten Zweigitterverfahrens, zunächst ohne direkten Bezug zu einer multiplikativen Schwarz-Methode: Angenommen, eine Näherung u(k) L ∈ VL für das Variationsproblem (8.8) ist gegeben. Ein Schritt des Zweigitterverfahrens besteht aus drei Teilschritten: 1. Ausgehend von u(k) L wird für (8.8) ein Iterationsschritt des Gauß-SeidelVerfahrens durchgeführt. Man erhält ein Zwischenergebnis u(k,I) ∈ VL . L 2. Die Residuumsgleichung wird in VL−1 exakt gelöst: a(wL−1 , vL−1 ) = f , vL−1 − a(u(k,I) L , vL−1 )

für alle vL−1 ∈ VL−1 .

(8.10)

addiert: uL(k,II) = u(k,I) + wL−1 . Die Lösung wL−1 wird zur Näherung u(k,I) L L 3. Ausgehend von uL(k,II) wird für (8.8) ein Iterationsschritt des Gauß-Seidel-Verfahrens, diesmal allerdings in umgekehrter Reihenfolge der Nummerierung der Komponenten, durchgeführt. Das Ergebnis ist die nächste Näherung u(k+1) . L Den ersten Teilschritt nennt man Vorglättung. In diesem Schritt wird eine Ausgangsnäherung zwar nicht wesentlich verbessert (das Gauß-Seidel-Verfahren verringert den Fehler einer Näherung in einem Iterationsschritt nur sehr wenig), es glättet jedoch das Residuum stark.Auch nach nur einem Schritt eines Gauß-Seidel-Verfahrens verringern sich hochfrequente Anteile des Residuums stark. Glatte Residuen lassen sich sehr genau auch auf dem nächstgröberen Raum VL−1 darstellen, d.h.: die Einschränkung des Residuums (als lineares Funktional auf VL ) auf den Teilraum VL−1 bringt keinen großen Genauigkeitsverlust. Das ist eine wichtige Voraussetzung für eine erfolgreiche Verbesserung der Näherung im zweiten Teilschritt, den man die Grobgitterkorrektur nennt. Den dritten Teilschritt nennt man Nachglättung. Dieses Verfahren heißt ein Zweigitterverfahren, da nur zwei Zerlegungen (Gitter), nämlich TL und TL−1 involviert sind. Die Durchführung des Verfahrens erfordert die exakte Lösung von (8.10) auf VL−1 , einem Problem, das zwar deutlich weniger Freiheitsgrade als das ursprüngliche Problem (8.8) hat, aber immer noch zu groß sein kann. Anstatt (8.10) exakt zu lösen, gibt man sich mit einer Näherungslösung von (8.10) zufrieden,die nach dem gleichen Muster wie für (8.8) erzeugt wird.Das erfordert die exakte Lösung einer entsprechenden Residuumsgleichung in VL−2 . Setzt man diese Strategie rekursiv fort, so endet man schließlich bei einer Residuumsgleichung in V1 , die sehr einfach zu lösen ist. Das so konstruierte Verfahren ist ein

123

124

8 Iterative Verfahren für lineare Gleichungssysteme typischer Repräsentant eines so genannten Mehrgitterverfahrens (engl.: multigrid method). Die spezielle rekursive Strategie wird ein V -Zyklus genannt. Man kann sich sehr leicht überzeugen, dass dieser V -Zyklus genau mit der zur Raumaufspaltung (8.9) gehörigen symmetrischen Variante der multiplikativen Schwarz-Methode übereinstimmt. Auch das Mehrgitterverfahren lässt sich als ein präkonditioniertes RichardsonVerfahren darstellen. Für das diskretisierte Modellproblem (und eine große Klasse ähnlich diskretisierter allgemeinerer Randwertprobleme) lässt sich unter geeigneten Voraussetzungen die optimale Komplexität des Verfahrens zeigen.

Das PCG-Verfahren Präkonditionierung kann auch zur Verbesserung der Konvergenz (des Gradientenverfahrens und) des CG-Verfahrens eingesetzt werden. Angenommen, C und A sind symmetrische und positiv definite Matrizen. Dann ist die Matrix C −1 A selbstadjungiert und positiv definit bezüglich des Skalarprodukts (y, z) = (y, z)C = (Cy, z)2 . Das CG-Verfahren lässt sich also mit diesem Skalarprodukt auf das präkonditionierte lineare Gleichungssystem C −1 Ax = C −1 b anwenden und lautet nun: Mit der Anfangssetzung s0 = C −1 (b − Ax0 ) berechne für k = 0, 1, 2, . . .:

pk

=

⎧ ⎪ ⎨ s0 ⎪ ⎩ sk + ˇk−1 pk−1

xk+1

=

x k + ˛ k pk

sk+1

=

sk − ˛k C −1 Apk .

mit

(sk , sk )C (sk−1, sk−1 )C (sk , sk )C ˛k = −1 , (C Apk , pk )C mit

ˇk−1 =

für

k = 0,

für

k ≥ 1,

Dabei wurde der Buchstabe s zur Bezeichnung des Residuums bezüglich des präkonditionierten Gleichungssystems verwendet: s = C −1 r mit r = b − Ay. Führt man das ursprüngliche Residuum wieder ein, lässt sich das Verfahren auch in folgender äquivalenter Form darstellen: Mit der Anfangssetzung r0 = b − Ax0 berechne für k = 0, 1, 2, . . .: sk

=

pk

=

C −1 rk , ⎧ ⎪ ⎨ s0 ⎪ ⎩ sk + ˇk−1 pk−1

mit ˛k =

xk+1

=

xk + ˛ k pk

rk+1

=

rk − ˛k Apk .

mit

ˇk−1 =

(rk , sk ) (rk−1 , sk−1 )2

(rk , sk )2 , (Apk , pk )2

für

k = 0,

für

k ≥ 1,

8.4 Präkonditionierung Hier sieht man, dass die Präkonditionierungsmatrix tatsächlich nur in der ersten Zeile der Schleife benötigt wird. Bezogen auf die ursprüngliche Form der Gleichung Ax = b spricht man von einem präkonditionierten CG-Verfahren, kurz PCG-Verfahren. Die Konvergenzanalyse liefert in diesem Fall sofort eine Konvergenzrate √  −1 q= √ mit  = (C −1 A).  +1 Durch eine geeignete Präkonditionierung kann man also die Effizienz des CGVerfahrens erhöhen.

Ergänzende Hinweise Eine umfassende Diskussion von Iterationsverfahren findet man z.B. [15, 19]. Hierarchische Methoden, im Speziellen Mehrgitterverfahren, werden ausführlich z.B. in [4,14] behandelt.

Übungsaufgaben 34. Sei A ∈ Rn×n eine symmetrische Matrix. Zeigen Sie für M = I −  A,  ∈ R: M 2 = max |1 −  |. ∈ (A)

35. Sei A ∈ R

n×n

eine symmetrische und positiv definite Matrix. Zeigen Sie:

max |1 −  | = q()

∈ (A)

mit

q() = max(|1 −  max (A)|, |1 −  min (A)|).

Berechnen Sie jenen Wert opt mit q(opt ) = min∈R q() und den dazugehörigen Funktionswert qopt = q(opt ). 36. Sei A ∈ Rn×n eine symmetrische Matrix mit mindestens einem negativen und einem positiven Eigenwert (A ist eine indefinite Matrix). Zeigen Sie: max |1 −  | > 1

∈ (A)

für alle  = 0.

37. Sei A ∈ Rn×n eine symmetrische Matrix. Seien − < 0 und + > 0 zwei Eigenwerte von A mit den dazugehörigen Eigenvektoren e− und e+ . Zeigen Sie: Es gibt keinen Parameter  ∈ R, sodass das Richardson-Verfahren xk+1 = xk +  (b − Axk ) für den Startwert x0 = x + e− + e+ konvergiert. Das Richardson-Verfahren konvergiert also nicht für alle Startwerte, falls A indefinit ist. 38. Für das CG-Verfahren wurde gezeigt, dass xk ∈ x0 + Kk (A, r0 )

und

rk ⊥ Kk (A, r0 )

gilt. Das Symbol ⊥ bedeutet: orthogonal bezüglich des gewählten Skalarproduktes. Zeigen Sie für das GMRES-Verfahren, dass die k-te Näherung die Bedingungen xk ∈ x0 + Kk (A, r0 )

und

rk ⊥ A(Kk (A, r0 ))

erfüllt. Das Symbol ⊥ bedeutet diesmal: orthogonal bezüglich des euklidischen Skalarproduktes. Hinweis: Schreiben Sie das Minimierungsproblem, das die k-te Näherung laut Definition zu erfüllen hat, als äquivalentes Variationsproblem.

125

126

8 Iterative Verfahren für lineare Gleichungssysteme 39. Für den ersten Teil der symmetrischen Variante des Gauß-Seidel-Verfahrens gilt offensichtlich: (k,n ) uh h = u(k) mit Lh w h = f − Kh u(k) h + wh h . h

Zeigen Sie für den zweiten Teil (k,nh )

= uh u(k+1) h

+ wˆ h

(k,nh )

mit

Uh wˆ h = f − Kh uh

K12

···

h

⎛

und

,

⎞

⎜K11 ⎜ ⎜ ⎜ 0 ⎜ Uh = ⎜ ⎜ .. ⎜ . ⎜ ⎝ 0

K22 ..

.

···

..

.

..

.

···

K1n .. . .. .

⎟ ⎟ ⎟ ⎟ ⎟ ⎟. ⎟ ⎟ ⎟ ⎠

Knh ,nh

Folgern Sie daraus: ,

+ −1 −1 −1 −1 f − Kh u(k) = u(k) u(k+1) h h + Lh + Uh − Uh Kh Lh h h

und benutzen Sie Kh = Lh + Uh − Dh , um schließlich zu zeigen: + , −1 f − Kh u(k) mit Ch = Lh Dh−1 Uh . u(k+1) = u(k) h h + Ch h h

9

Erweiterung auf nichtlineare Randwertprobleme

Wir betrachten folgendes nichtlineare Randwertproblem: Gesucht ist eine Funktion u auf § = § ∪  , welche die Differentialgleichung d ,  ∂ + qi (x, u(x), grad u(x)) + r(x, u(x), grad u(x)) = f (x) ∂xi

für alle x ∈ §

i=1

und die Randbedingungen

−

d 

u(x) =

gD (x)

für alle x ∈ D ,

qi (x, u(x), grad u(x)) ni (x) =

gN (x)

für alle x ∈ N

i=1

erfüllt. Dabei sind qi (x, 0, ) für i = 1, . . . , d und r(x, 0, ) vorgegebene Funktionen, die auch nichtlinear von 0 bzw. = ( 1 , . . . , d )T abhängen können. Man beachte wieder die Divergenzform der Differentialgleichung. Durch Einführung des  Flusses q(x, 0, ) = qi (x, 0, ))i=1,...,d lässt sich das Randwertproblem kompakter schreiben:   div q(x, u(x), grad u(x)) + r(x, u(x), grad u(x)) = f (x)

für alle x ∈ §,

u(x) = gD (x)

für alle x ∈ D ,

−q(x, u(x), grad u(x)) · n(x) = gN (x)

für alle x ∈ N .

Der früher diskutierte lineare Fall entspricht der Setzung q(x, 0, ) = −A(x) ,

r(x, 0, ) = b(x) · + c(x) 0.

Als ein einfaches Beispiel eines nichtlinearen Randwertproblems betrachten wir das folgende eindimensionale nichtlineare Modellproblem:

128 Beispiel

9 Erweiterung auf nichtlineare Randwertprobleme Nichtlineares Modellproblem. Gesucht ist eine Funktion u auf [0, 1] mit , + − ˛(|u (x)|) u (x)

=

u(0) = 



˛(|u (1)|) u (1)

=

für alle x ∈ (0, 1),

f (x) g0 , g1

für gegebene Daten ˛(s), f (x), g0 und g1 . Der Fluss ist hier offensichtlich durch q( ) = −˛(| |) gegeben. Solche nichtlineare Probleme treten zum Beispiel in der Magnetostatik auf.

Variationsformulierung Das Vorgehen, eine Variationsformulierung herzuleiten, ist völlig unverändert und führt auf folgendes Problem: Gesucht ist u ∈ Vg = {v ∈ V : v = g0 auf D }, sodass a(u, v) = f , v

für alle v ∈ V0

mit V0 = {v ∈ V : v = 0 auf D } und  a(w, v)

=

−

§

+  f , v

=

§

q(x, w(x), grad w(x)) · grad v(x) dx

r(x, w(x), grad w(x))v(x) dx,  f (x)v(x) dx + gN (x)v(x) ds §

N

für w, v aus einem geeigneten Arbeitsraum V . Beispiel

Die Variationsformulierung für das nichtlineare Modellproblem lautet: Gesucht ist u ∈ Vg = {v ∈ V = H 1 (0, 1): v(0) = g0 }, sodass  0

1

 1 ˛(|w (x)|) w(x) v (x) dx = f (x)v(x) dx + g1v(1)

 0

 = a(u, v) = f , v

für alle v ∈ V0

mit V0 = {v ∈ V = H 1(0, 1): v(0) = 0}. Wir werden nun kurz einige wichtige Unterschiede zum linearen Fall ansprechen: Der Ausdruck a(w, v) ist zwar stets linear in v ∈ V0, aber nicht (notwendigerweise) linear in w ∈ V . Es ist im Allgemeinen nicht trivial, einen geeigneten Raum V zu finden, sodass a(w, v) auf V × V0 wohldefiniert ist. Wenn Hilbert-Räume nicht ausreichen, zieht man auch allgemeinere Banach-Räume in Erwägung, wie z.B. die

9 Erweiterung auf nichtlineare Randwertprobleme

129

Sobolew-Räume Wp1(§) = {v ∈ Lp (§): grad v ∈ Lp (§)d } mit einem geeigneten Wert p ∈ [1, ∞]. Unter bestimmtenVoraussetzungen an q(x, 0, ) und r(x, 0, ) lässt sich zeigen, dass a: V × V0 −→ R und der durch A(w), v = a(w, v)

für alle w ∈ V , v ∈ V0

gegebene nichtlineare Operator A: V −→ V0∗ wohldefiniert sind. Aus dem obigen nichtlinearen Variationsproblem wird dann eine nichtlineare Operatorgleichung A(u) = f . Homogenisierung: Wie im linearen Fall bietet sich der Ansatz u = g + w an: Gesucht wird dann w ∈ V0 , sodass a(g + w, v) = f , v

für alle v ∈ V0.

Wegen der fehlenden Linearität von a bezüglich des ersten Arguments erreichen wir aber nicht eine Reduktion auf ein Variationsproblem, bei dem für a nur Argumente aus V0 vorkommen.

Eine nichtlineare Version des Satzes von Lax-Milgram Anstelle der für lineare Probleme gut geeigneten Begriffe Elliptizität und Beschränktheit der Bilinearform a benötigen wir im nichtlinearen Fall die Begriffe starke Monotonie und Lipschitz-Stetigkeit des Operators A: Sei V0 ⊂ V ein linearer Teilraum und W ⊂ V eine Teilmenge mit w − v ∈ V0 für alle v, w ∈ W .

Definition

1. Ein Operator A: V −→ V0∗ heißt stark monoton auf W , falls es eine Konstante 1 > 0 gibt, sodass A(w) − A(v), w − v ≥ 1 w − v2

für alle w, v ∈ W .

2. Ein Operator A: V −→ V0∗ heißt Lipschitz-stetig auf W , falls es eine Konstante 2 ≥ 0 gibt, sodass A(w) − A(v) ≤ 2 w − v

für alle w, v ∈ W .

Satz von Lax-Milgram. Seien V ein reeller Hilbert-Raum, V0 ⊂ V ein abgeschlossener Teilraum, g ∈ V , Vg = g + V0, f ∈ V0∗ und A: V −→ V0∗ ein auf Vg

Satz

130

9 Erweiterung auf nichtlineare Randwertprobleme stark monotoner und Lipschitz-stetiger Operator. Dann besitzt die Gleichung A(u) = f eine eindeutige Lösung u ∈ Vg .

Beweis. Wir formen wie im linearen Fall die Operatorgleichung in eine Fixpunktgleichung um: u = u +  R(f − A(u)) = G (u), wobei R: V0∗ −→ V0 den Riesz-Isomorphismus auf V0 bezeichnet. Man sieht sofort, dass G die abgeschlossene Menge Vg in sich abbildet: G (Vg ) ⊂ Vg . Wie im linearen Fall zeigen wir, dass G auf Vg für eine geeignete Wahl des Parameters  eine Kontraktion ist. Es gilt für w, v ∈ Vg : G (w) − G (v)2 =

(G (w) − G (v), G (w) − G (v))

=

((w − v) −  R(A(w) − A(v)), (w − v) −  R(A(w) − A(v)))

=

(w − v, w − v) − 2 (R(A(w) − A(v)), w − v) +  2 (R(A(w) − A(v)), R(A(w) − A(v)))

=

w − v2 − 2 A(w) − A(v), w − v +  2 A(w) − A(v)2

≤

(1 − 21  + 22 2 ) w − v2 = q()2 w − v2

mit der gleichen Funktion q() wie im linearen Fall. Der Rest folgt wie im linearen Fall. Im homogenen linearen Fall (g = 0, V0 = Vg = V ) sieht man sofort, dass a genau dann V -elliptisch ist, wenn A auf V stark monoton ist, und a genau dann V -beschränkt ist, wenn A Lipschitz-stetig auf V ist. Im folgenden Satz werden für das nichtlineare Modellproblem die Voraussetzungen des Satzes von Lax-Milgram unter geeigneten Annahmen an die Funktion ˛(s) nachgewiesen und somit die Existenz und Eindeutigkeit der Lösung gezeigt: Satz

Es gelten die Bezeichnungen des nichtlinearen Modellproblems, siehe Seite 128. Angenommen, die Funktion ˛: [0, ∞) −→ R ist stetig und beschränkt. Dann sind a: V ×V0 −→ R und der dazugehörige Operator A: V −→ V0∗ wohldefiniert. Zusätzlich gilt: 1. Falls es eine Konstante M ≥ 0 mit |˛(t) t − ˛(s) s| ≤ M|t − s| gibt, dann ist A Lipschitz-stetig auf Vg .

für alle s, t ≥ 0

9 Erweiterung auf nichtlineare Randwertprobleme

2. Falls es eine Konstante m > 0 mit ˛(t) t − ˛(s) s ≥ m(t − s)

für alle t ≥ s ≥ 0

(9.1)

gibt, dann ist A stark monoton auf Vg . Beweis. Für w ∈ V = H 1 (0, 1) ist die Funktion ˛(|w (.)|) messbar und es gilt die Abschätzung 

1

|˛(|w (x)|)|2 |w (x)|2 dx ≤ sup |˛(s)|2

0



1

|w (x)|2 dx < ∞.

0

s∈[0,∞)

Also ˛(|w(.)|) w (.) ∈ L2 (0, 1), daher ist a(w, v) für w ∈ V , v ∈ V0 ⊂ H 1(0, 1) wohldefiniert, ebenso der dazugehörige Operator A: V −→ V0∗ . Für alle v, w, z ∈ H 1(0, 1) gilt |A(w) − A(v), z |

= ≤

 1     ˛(|w (x)|) w (x) − ˛(|v (x)|) v (x) z (x) dx   0  1   ˛(|w (x)|) w(x) − ˛(|v (x)|) v (x) |z (x)| dx. 0

  Der erste Faktor des Integranden hat die Form ˛(|t  |) t  − ˛(|s  |) s  mit t  = w (x) und s  = v (x) und lässt sich folgendermaßen abschätzen:   ˛(|t  |) t  − ˛(|s |) s        = ˛(|t  |) (t  − s ) + (˛(|t  |) − ˛(|s  |) s      ≤ (˛(|t  |) |t  − s | + (˛(|t  |) − ˛(|s |) |s  |         = (˛(|t  |) |t  − s | + ˛(|t  |) |s  | − |t  | + ˛(|t  |) |t  | − ˛(|s |) |s |        ≤ (˛(|t  |) |t  − s | + ˛(|t  |) |s | − |t  | + ˛(|t  |) |t  | − ˛(|s  |) |s |        

    ≤M ≤M ≤ M |t | − |s | ≤ 3M |t  − s |. Also folgt  |A(w) − A(v), z |

≤

1

3M

|w (x) − v (x)| |z (x)| dx

0

≤

3M w − v L2 (0,1) z L2(0,1)

≤

3M w − vH 1 (0,1) zH 1 (0,1) .

Daher gilt A(w) − A(v) = sup 0=z∈V0

|A(w) − A(v), z | ≤ 3M w − vH 1 (0,1) . zH 1 (0,1)

131

132

9 Erweiterung auf nichtlineare Randwertprobleme Mit ˛2(t) = ˛(t) − m folgt für alle v, w ∈ Vg : A(w) − A(v), w − v  1    = ˛(|w (x)|) w (x) − ˛(|v (x)|) v (x) w (x) − v (x) dx 0

=



1

m

|w (x) − v (x)|2 dx

0



1

+

+

,

˛2(|w (x)|) w (x) − ˛2(|v (x)|) v (x)

 w (x) − v (x) dx.

0

Aus (9.1) erhält man sofort ˛2 (t) t − ˛2 (s) s ≥ 0

für alle t ≥ s ≥ 0.

Daher folgt für s = 0 ˛2(t) ≥ 0 und



für alle t ≥ 0

 ˛2(t) t − ˛2(s) s (t − s) ≥ 0

für alle s, t ≥ 0.

Mit Hilfe dieser Ungleichungen lässt sichder des obigen letzten Integrals,  Integrand   der von der Form ˛2 (|t  |) t  − ˛2(|s  |) s  t  − s  mit t  = w (x) und s = v (x) ist, leicht nach unten abschätzen: 

  ˛2(|t  |) t  − ˛2 (|s |) s  t  − s      = ˛2 (|t  |) |t  |2 − t  s + ˛2(|s  |) |s |2 − t  s     ≥ ˛2 (|t  |) |t  |2 − |t  ||s | + ˛2 (|s |) |s  |2 − |t  ||s | ,+ , + = ˛2(|t  |) |t  | − ˛(|s |) |s  | |t  | − |s  | ≥ 0.

Also gilt: A(w) − A(v), w − v  1 |w (x) − v (x)|2 dx = m w − v 2L2(0,1) ≥ ≥ m 0

m w − v2H 1 (0,1) . CF2 + 1

Die letzte Ungleichung folgt aus der Friedrichs-Ungleichung, da w − v ∈ V0.

Diskretisierung Wie immer wählen wir geeignete Mengen Vh ⊂ V ,

V0h ⊂ V0 ,

Vgh = gh + V0h ⊂ Vg

für ein gh ∈ Vh ,

9 Erweiterung auf nichtlineare Randwertprobleme eine Basis {'i : i = 1, . . . , nh } für V0h und verwenden den Ansatz uh = g h +

nh 

uj 'j .

j=1

Nach der Galerkin-Methode folgt für die Näherungslösung: a(gh +

nh 

uj 'j , 'i ) = f , 'i

für alle i = 1, 2, . . . , nh .

j=1

Also erhalten wir ein System von nh Gleichungen für nh unbekannte Koeffizienten: K h (uh ) = f

h

mit der nichtlinearen Abbildung K h : Rnh −→ Rnh , gegeben durch K h (w h ) = (K i (wh ))i=1,2,...,nh

mit K i (w h ) = a(gh +

nh 

wj 'j , 'i ).

j=1

Bemerkung. Im linearen Fall mit gh = 0 gilt offensichtlich folgender Zusammenhang zwischen der Abbildung K h und der Steifigkeitsmatrix Kh : K h (w h ) = Kh w h . Aus dem konstruktiven Beweis der nichtlinearen Version des Satzes von LaxMilgram erhalten wir sofort ein Iterationsverfahren zur Lösung des nichtlinearen Gleichungssystems (übersetzt in Matrix-Vektor-Notation): (k) −1 u(k+1) = u(k) h h +  Bh (f − K h (uh )), h

das unter den (starken) Voraussetzungen des Satzes von Lax-Milgram q-linear für  nh 2 mit  = ∈ R konvergiert. Die obere Schranke q = 1 − 1/ alle Startwerte u(0) h 2 /1 für die Konvergenzrate ist unabhängig von h. Jeder Iterationsschritt erfordert die 3 Teilschritte: (k) (k) 1. Berechne das Residuum r (k) h = f − K h (uh ) der aktuellen Näherung uh . h

(k) (k) 2. Berechne die Korrektur w (k) h als Lösung der linearen Gleichung Bh wh = r h . (k) 3. Berechne die neue Näherung uh(k+1) = u(k) h +  wh .

Im zweiten Teilschritt ist ein lineares Gleichungssystem zu lösen. Das mag zwar wieder sehr aufwendig sein. Im Gegensatz zum linearen Fall ist es aber mit Sicherheit deutlich einfacher als das ursprüngliche nichtlineare Problem. Also ist dieses Verfahren, das wieder als ein präkonditioniertes Richardson-Verfahren bezeichnet wird, durchaus ernst zu nehmen.

133

134

9 Erweiterung auf nichtlineare Randwertprobleme Im nächsten Kapitel wird diese Form eines Iterationsverfahrens Ausgangspunkt der weiteren Diskussion für allgemeine nichtlineare Gleichungssysteme sein.

Übungsaufgaben 40. Betrachten Sie folgende Erweiterung des nichtlinearen Modellproblems: , + − ˛(|u (x)|) u (x) + r(u(x)) = f (x) für alle x ∈ (0, 1), u(0) 



˛(|u (1)|) u (1)

=

g0 ,

=

g1

für gegebene Daten ˛(s), r( 0 ), f (x), g0 und g1 . Der Ausdruck r(u(x)) kommt z.B. bei der Modellierung von Reaktionen vor und heißt in diesem Zusammenhang Reaktionsterm. Der entsprechende zusätzliche Term in a ist durch  1 r(w(x)) v(x) dx 0

gegeben. Es gelte: (a) r: R −→ R ist eine monoton wachsende Funktion. (b) Es gibt eine Konstante N > 0 mit |r(v) − r(w)| ≤ N |v − w| Zeigen Sie: Der durch



für alle v, w ∈ R.

1

M(w), v =

r(w(x)) v(x) dx 0

gegebene Operator M: V −→ V0∗ ist wohldefiniert, monoton auf Vg , d.h.: M(w) − M(v), w − v ≥ 0

für alle w, v ∈ Vg

und Lipschitz-stetig auf Vg . 41. Zeigen Sie: Ein nichtlinearer Operator A: V −→ V0∗ der Form A = A0 + M mit einem auf Vg stark monotonen Operator A0 : V −→ V0∗ und einem auf Vg monotonen Operator M: V −→ V0∗ ist stark monoton auf Vg . 42. Zeigen Sie: Ein nichtlinearer Operator A: V −→ V0∗ der Form A = A0 + M mit einem auf Vg Lipschitz-stetigen Operator A0 : V −→ V0∗ und einem auf Vg Lipschitzstetigen Operator M: V −→ V0∗ ist Lipschitz-stetig auf Vg . 43. Es gelten die Bezeichnungen und Voraussetzungen aus Übungsaufgabe 40 und alle Voraussetzungen an ˛: [0, ∞) −→ R aus dem Satz auf Seite 130. Zeigen Sie: Das erweitere Modellproblem aus Übungsaufgabe 40 besitzt eine eindeutige Lösung.

10

Das Newton-Verfahren

Wir betrachten allgemeine nichtlineare Gleichungssysteme in so genannter Nullpunktform F(x) = 0 (10.1) mit einer gegebenen nichtlinearen Abbildung F: Rn −→ Rn und wollen die Lösung x ∈ Rn berechnen. Die Nullpunktform ist natürlich keinerlei Einschränkung, so können wir zum Beispiel das durch Diskretisierung entstandene nichtlineare Gleichungssystem des letzten Kapitels leicht in Nullpunktform schreiben: K h (uh ) − f = 0. h

Übertragen wir die Ideen für lineare Gleichungssysteme,so bietet sich sofort folgende Klasse von Iterationsverfahren für (10.1) an: xk+1 = xk − k Ck−1 F(xk ). Wir nennen auch dieses Iterationsverfahren ein präkonditioniertes RichardsonVerfahren. Im Unterschied zu den bisherigen Betrachtungen lassen wir nun aber auch Präkonditionierungsmatrizen zu, die sich in jedem Iterationsschritt ändern dürfen. Man spricht in diesem Zusammenhang von einem präkonditionierten Richardson-Verfahren mit variabler Präkonditionierung. In der weiteren Diskussion setzen wir die Existenz einer Lösung x ∈ Rn von (10.1) voraus und nehmen stets an, dass F in einer Umgebung von x differenzierbar ist, dass F  im Punkt x stetig ist und dass F  (x) regulär ist. (Die Regularität von F  (x) schließt so genannte mehrfache Nullstellen aus.) Zunächst versuchen wir zu klären, welche Präkonditionierungsmatrizen Ck gewählt werden sollten. Ausgangspunkt dazu ist folgender Zusammenhang der Fehler aufeinander folgender Näherungen xk und xk+1 für die Schrittweite k = 1: xk+1 − x = = =

xk − Ck−1 F(xk ) − x = −Ck−1 [F(xk ) − F(x) − Ck (xk − x)]

−Ck−1 F(xk) − F(x) − F  (x)(xk − x)

+ Ck−1 Ck − F (x) (xk − x)

. − Ck−1 F (x) F  (x)−1 F(xk ) − F(x) − F  (x)(xk − x)

+ I − Ck−1 F (x) (xk − x).

136

10 Das Newton-Verfahren Ein besonders günstiges Fehlerverhalten erreicht man durch die Wahl Ck = F  (x): Der zweite Term auf der rechten Seite verschwindet und der übrig bleibende erste Term ist sehr klein: Aus der Stetigkeit von F  im Punkt x folgt für beliebiges " > 0:

F  (x)−1 F  (y) − F  (x)  ≤ "

(10.2)

für alle y ∈ Kr (x) = {z ∈ Rn : z − x ≤ r}, solange r > 0 hinreichend klein ist. Aus dem Mittelwertsatz folgt dann für y ∈ Kr (x): /  −1

/ /F (x) F(y) − F(x) − F  (x)(y − x) / /

/ ≤ sup /F  (x)−1 F  (x + t(y − x)) − F  (x) / y − x ≤ " y − x. 0≤t≤1

Damit erhalten wir aus der obigen Fehlerdarstellung für Ck = F (x): xk+1 − x ≤ " xk − x, also q-lineare Konvergenz mit beliebig kleinem Konvergenzfaktor ". Natürlich ist die Wahl Ck = F  (x) praktisch nicht möglich, da die exakte Lösung x und damit im Allgemeinen auch die Jacobi-Matrix in diesem Punkt nicht bekannt sind. Möglichst nahe an diesen Idealfall kommt man, wenn man stattdessen Ck = F  (xk ) wählt. Diese Wahl führt auf das Newton-Verfahren: xk+1 = xk − F (xk )−1 F(xk ). Bevor wir die Konvergenz des Newton-Verfahrens analysieren, diskutieren wir noch eine andere Möglichkeit, das Newton-Verfahren herzuleiten: Angenommen, eine Näherung xk der exakten Lösung x ist bekannt. Die affin lineare Funktion Lk (y) = F(xk ) + F (xk )(y − xk ) besitzt an der Stelle y = xk den gleichen Funktionswert und die gleiche erste Ableitung wie F(y) und ist daher zumindest in einer Umgebung um xk eine sehr gute Approximation der nichtlinearen Funktion F(y). Es liegt daher nahe, die Nullstelle dieser Funktion als nächste Näherung xk+1 von x zu wählen: Lk (xk+1 ) = 0. Die so definierte Größe xk+1 stimmt, wie man leicht sieht, mit einem Schritt des Newton-Verfahrens überein. Das Newton-Verfahren beruht also auf einer sukzessiven Linearisierung des nichtlinearen Problems mit Hilfe der Ableitung. Für n = 1 ist der Graph von Lk (y) die Tangente an den Graphen von F(y) im Punkt y = xk . Die nächste Näherung erhält man durch Schnitt der Tangente mit der x-Achse. Die Durchführung eines Schrittes des Newton-Verfahrens kann in drei Teilschritte aufgeteilt werden: 1. Berechne das Residuum rk = −F(xk ) und die Jacobi-Matrix Ck = F  (xk ). 2. Berechne die Korrektur wk als Lösung der linearen Gleichung Ck wk = rk .

10 Das Newton-Verfahren

137

3. Berechne die neue Näherung xk+1 = xk + wk . Wir untersuchen nun das Konvergenzverhalten des Newton-Verfahrens. Aus (10.2) und dem Lemma auf Seite 55 folgt für " < 1, dass auch F  (y) regulär ist und folgende Abschätzungen gelten: F (y)−1 F  (x) ≤

1 1−"

I − F  (y)−1 F (x) ≤

und

" 1−"

für alle y ∈ Kr (x).

Aus der Fehlerdarstellung auf Seite 135 folgt für Ck = F  (xk ): xk+1 − x

=



. − F  (xk )−1 F (x) F  (x)−1 F(xk ) − F(x) − F  (x)(xk − x)

+ I − F  (xk )−1 F  (x) (xk − x)

und daher für xk ∈ Kr (x) sofort die Abschätzung: xk+1 − x ≤

" " 2" xk − x + xk − x = xk − x. 1−" 1−" − " 1

=q

Für " < 1/3 gilt q < 1. Die Folge (xk )k∈N0 bleibt also in Kr (x), sofern x0 aus Kr (x) gewählt wurde, und konvergiert mindestens q-linear gegen die Lösung x. Da xk gegen x konvergiert, lässt sich " > 0 für hinreichend große Indizes k beliebig klein wählen. 1. Ein Iterationsverfahren heißt lokal konvergent, falls es für Startwerte, die hinreichend nahe bei der exakten Lösung liegen, konvergiert.

Definition

2. Ein Iterationsverfahren heißt q-superlinear konvergent, falls es q-linear mit beliebig kleinem Faktor q > 0 konvergiert. In diesem Sinne ist das Newton-Verfahren also lokal und q-superlinear konvergent. Damit ist der erste Teil des folgenden Satzes bewiesen: Lokaler Konvergenzsatz für das Newton-Verfahren. Sei F: Rn −→ Rn in einer Umgebung Kr (x) um eine Nullstelle x ∈ Rn differenzierbar und sei die JacobiMatrix F  (x) regulär. Dann gilt: 1. Falls F  in x stetig ist, dann konvergiert das Newton-Verfahren xk+1 = xk − F  (xk )−1 F(xk ) lokal und q-superlinear. 2. Falls es eine Konstante ! gibt, sodass   F  (x)−1 F  (y) − F  (x)  ≤ ! y − x

für alle y ∈ Kr (x),

Satz

138

10 Das Newton-Verfahren

dann gibt es eine Konstante C > 0 mit xk+1 − x ≤ C xk − x2

(10.3)

für alle k ∈ N0 und alle Startwerte x0 ∈ Rn , die hinreichend nahe bei x liegen. Beweis. Laut Voraussetzung gilt

F  (x)−1 F  (y) − F  (x)  ≤ "

für alle y ∈ Kr (x)

mit

" = ! y − x.

Wegen

F  (x)−1 F(y) − F(x) − F  (x)(y − x)  1

F  (x)−1 F (x + t(y − x)) − F  (x) (y − x) dt = 0

gilt mit der obigen Setzung für "

F  (x)−1 F(y) − F(x) − F (x)(y − x)   1/

/ /F  (x)−1 F (x + t(y − x)) − F  (x) / y − x dt ≤ 0  1 " " t y − x dt = y − x. ≤ 2 0 Analog wie auf Seite 137 folgt die Abschätzung: xk+1 − x ≤

1 " " 3! xk − x2 xk − x + xk − x = . 1−" 2 1−" 2(1 − ! xk − x)

Da bereits gesichert ist, dass das Verfahren konvergiert, folgt, dass es eine Konstante C > 0 gibt, sodass 3! ≤C 2(1 − ! xk − x)

für alle k ∈ N0 ,

woraus man (10.3) erhält. Definition

Erzeugt ein Iterationsverfahren Folgen von Näherungen mit (10.3) für eine Konstante C > 0 und hinreichend große k ∈ N0 , so nennt man es q-quadratisch konvergent.

10 Das Newton-Verfahren

139

Aus der q-quadratischen Konvergenz lässt sich leicht eine Abschätzung des Fehlers in Abhängigkeit des Startfehlers aufstellen: Wegen xk+1 − x ≤ C xk − x2 folgt durch Multiplikation mit C: Cxk+1 − x ≤ (C xk − x)2 und daraus durch sukzessive Anwendung dieser Abschätzung: k

Cxk − x ≤ (C xk−1 − x)2 ≤ (C xk−2 − x)4 ≤ · · · ≤ (C x0 − x)2 , also

xk − x ≤ C  q2

k

(10.4)



mit C = 1/C und q = C x0 − x < 1, falls x0 hinreichend nahe bei x liegt. An dieser Abschätzung sieht man noch deutlicher, dass ein q-quadratisch konvergentes Verfahren wesentlich schneller als ein q-linear konvergentes Verfahren konvergiert. Wenn es konvergiert, genügen typischerweise einige wenige Iterationen. Erzeugt ein Iterationsverfahren Folgen von Näherungen mit (10.4) für Konstanten q mit 0 ≤ q < 1, C  ≥ 0 und hinreichend große k ∈ N0 , so nennt man es r-quadratisch konvergent.

Um die Spannweite der Möglichkeiten des Newton-Verfahrens anzudeuten, werden wir zunächst seine Anwendung auf ein sehr einfaches Problem, nämlich die Berechnung der positiven Quadratwurzel einer positiven Zahl, und anschließend seine Anwendung auf das diskretisierte nichtlineare Modellproblem diskutieren:

Berechnung der Quadratwurzel Die Berechnung der positiven Wurzel aus einer positiven Zahl a führt auf die nichtlineare Gleichung F(x) = 0 mit F(x) = x 2 − a. Das Newton-Verfahren sieht dann folgendermaßen aus: xk+1 = xk −

  xk2 − a 1 a xk + . = 2xk 2 xk

Jede positive Zahl y ∈ R kann man in der√ Form y = a·2e mit einer geraden Zahl e und √ a ∈ (1/4, 1] darstellen. Dann gilt: y = a · 2e/2 . Die Berechnung der Wurzel einer √ positiven Zahl lässt sich damit auf die Berechnung von a mit a ∈ (1/4, 1] reduzie√ ren. Verwendet man zur Berechnung von a das Newton-Verfahren mit Startwert x0 = 1/2 für a ∈ (1/4, 1/2] und mit Startwert x0 = 1 für a ∈ (1/2, 1], so benötigt man nur 5 Iterationen, um den relativen Fehler unterhalb der Maschinengenauigkeit

Definition

140

10 Das Newton-Verfahren eps = 2−53 zu halten, siehe Übungsaufgabe 44. Die Wurzelfunktion ist (in etwa) auf diese Weise am Computer implementiert.

Das diskretisierte nichtlineare Modellproblem Das Newton-Verfahren für das nichtlineare Gleichungssystem K h (uh ) = f

h

erfordert in jedem Iterationsschritt das Aufstellen und Lösen des linearen Gleichungssystems (k) (k) K h (u(k) h ) w h = f − K h (uh ). h

Es ist zweckmäßig, nicht die Jacobi-Matrix K h (u(k) h ) sondern direkt den Ausdruck (k) (k) (k) (k)   K h (uh ) wh zu untersuchen: K h (uh ) w h ist die Richtungsableitung von K h an der (k) Stelle u(k) h in Richtung w h , also , 1+ (k) (k) (k) K h (uh + t wh ) − K h (uh ) . t→0 t

(k) K h (u(k) h ) w h = lim

Damit gilt für die i-te Komponente:

(k) K h (u(k) h ) wh

i

 1 (k) (k) [K h (u(k) h + t w h ) ]i − [K h (uh )]i t  1  (k) = lim a(uh + t wh(k) , 'i ) − a(u(k) , 'i ) h t→0 t 1 (k) (k) (k) = lim A(uh + twh ) − A(uh ), 'i . t→0 t =

lim

t→0

In der letzten Zeile haben wir von der Operatordarstellung von a(w, v) Gebrauch gemacht. Führt man die Richtungsableitung A (u) w ∈ V0∗ des Operators A: V −→ V0∗ an einer Stelle u ∈ V in Richtung w ∈ V0 wie üblich durch

1 A(u + tw) − A(u) t→0 t

A (u) w = lim

ein, so kommen wir zu folgender Darstellung:

(k) (k)  (k) K h (u(k) h ) w h i = A (uh ) wh , 'i .

Wir werden nun diese Richtungsableitung für den Spezialfall 

1

a(u, w) = −

  q u (x) w (x) dx

0

untersuchen, wobei vorausgesetzt wird, dass q: R −→ R stetig differenzierbar ist und die Ableitung beschränkt ist: |q ( )| ≤ C für alle ∈ R.

10 Das Newton-Verfahren Es gilt: A (u) w, v

, 1+ a(u + tw, v) − a(u, v) t→0 t  1     1   = − lim q u (x) + tw (x) − q u (x) v (x) dx. t→0 0 t

= lim

Für x ∈ [0, 1] folgt wegen der Differenzierbarkeit von q:    1   q u (x) + tw (x) − q u (x) v (x) = q (u (x)) w (x) v (x) t→0 t lim

und wegen der Beschränktheit von q :    1        q u (x) + tw (x) − q u (x) v (x) ≤ C |w (x)| |v (x)|. t  Für w , v ∈ L2 (0, 1) sind damit die Voraussetzungen des Satzes von Lebesgue erfüllt, Integral und Grenzwert dürfen vertauscht werden: A (u) w, v

 =

1

−

q (u (x)) w (x) v (x) dx.

0

Die Richtungsableitung A (u) w ist offensichtlich linear und beschränkt bezüglich w ∈ V0 , also ist der Operator A (u): V −→ V0∗ , wohldefiniert, linear und beschränkt und induziert daher eine entsprechenden Bilinearform auf V0 , die mit a (u) bezeichnet wird und die durch  1   q (u (x)) w (x)v (x) dx a (u)(w, v) = A (u) w, v = − 0

gegeben ist. Man beachte, dass die Bilinearform a (u) für eine gegebene Funktion u(x) von jener Form ist, wie sie in Kapitel 2 diskutiert wurde (mit den Koeffizienten a(x) = −q (u (x)), b(x) = c(x) = 0).

Zusammenfassend gilt also nh   (k) (k) (k) (k) K h (uh )wh i = a (u(k) )(w , ' ) = a (u(k) i h h h )('j , 'i ) wj j=1

mit wh(k) (x) =

$nh j=1

wj(k) 'j (x). Das bedeutet: Die Einträge K h (u(k) h )ij der Jacobi-Matrix

der nichtlinearen Funktion K h : Rnh −→ Rnh an der Stelle u(k) h stimmen mit den  (k) Einträgen der Steifigkeitsmatrix der Bilinearform a (uh ) überein:  (k) K h (u(k) h )ij = a (uh )('j , 'i ).

141

142

10 Das Newton-Verfahren Für die i-te Komponente der rechten Seite f − K h (u(k) h ) gilt: h



(k) f − K h (u(k) h ) i = f , 'i − a(uh , 'i ). h

Somit lässt sich ein Schritt des Newton-Verfahrens auch als lineares Variationsproblem formulieren: Gesucht ist wh(k) ∈ V0h mit (k) (k) a (u(k) h )(wh , vh ) = f , vh − a(uh , vh )

für alle vh ∈ V0h .

Dieses Variationsproblem entspricht der Diskretisierung eines Randwertproblems, das in klassischer Notation folgendermaßen lautet: Gesucht ist eine Funktion wk auf [0, 1] mit +  ,  q uk (x) wk (x)

=

wk (0) = −q (uk (1))wk (1) =

+  , f (x) − q uk (x)

für alle x ∈ (0, 1),

g0 − uk (0), g1 + q(uk (1)).

Das Newton-Verfahren erhält also die Struktur des Problems: Das (diskretisierte) nichtlineare Randwertproblem/Variationsproblem wird durch die Lösung einer Folge von (diskretisierten) linearen Randwertproblemen/Variationsproblemen gelöst. Wir können also unser Wissen über das effiziente Aufstellen und Lösen aus dem linearen Fall für den nichtlinearen Fall nutzen.

Beispiel

Für das nichtlineare Modellproblem gilt q( ) = −˛(| |) . Wir setzen voraus, dass ˛(s) stetig differenzierbar ist. Dann gilt q ( ) = −˛  (| |) − ˛(| |). Die Bilinearform hat somit folgendes Aussehen: a (u)(w, v) =



1

  ˛ (|u (x)|) u(x) + ˛(|u (x)|) w (x)v (x) dx.

0

Beim Newton-Verfahren tritt also die erste Ableitung von ˛(s) auf. Will man das vermeiden, so kann man folgendermaßen vorgehen: Wir führen für u ∈ H 1 (0, 1) die Bilinearform  1 ˛(|u (x)|) w (x)v(x) dx 0 a(u)(w, v) = 0

ein. Es gilt offensichtlich folgender Zusammenhang für das nichtlineare Modellproblem: a(u, v) = 0 a(u)(u, v).

10 Das Newton-Verfahren Daraus ergibt sich unmittelbar folgende Darstellung der nichtlinearen Funktion K h (uh ): K h (uh ) = 0 Kh (uh ) uh , a(uh ) ist: wobei 0 Kh (uh ) die Steifigkeitsmatrix bezüglich der Bilinearform 0 0 a(uh )('j , 'i ). Ki,j = 0 Man spricht in diesem Fall von einer quasilinearen Form von K h (uh ). Das nichtlineare Gleichungssystem hat also die Form 0 Kh (uh ) uh = f . h

Als Alternative zum Newton-Verfahren bietet sich folgendes Iterationsverfahren an: (k+1) 0 =f . Kh (u(k) h ) uh h

Auch hier ist in jedem Schritt ein lineares Gleichungssystem zu lösen.Subtrahiert (k) (k) man auf der linken und rechten Seite den Ausdruck 0 Kh (u(k) h ) uh = Kh (uh ), so (k+1) erhält man für die Korrektur w (k) − u(k+1) h = uh h (k) (k) (k) 0 Kh (uh ) w h = f − K h (uh ). h

Also ist dieses Iterationsverfahren ein präkonditioniertes Richardson-Verfahren mit dem variablen Präkonditionierer: Ck = 0 Kh (u(k) h ). Diese Technik nennt man Linearisierung durch Einfrieren der Koeffizienten. Im Vergleich zum Newton-Verfahren wird hier der Term, der die Ableitung von ˛(s) enthält, einfach weggelassen. Für hinreichend gute Startwerte lässt sich unter geeigneten Bedingungen an ˛(s) die q-lineare Konvergenz dieser Methode zeigen.

Bemerkung. Das Newton-Verfahren benötigt die Ableitung F  (y) in den einzelnen Iterationspunkten y = xk . Ist die Ableitung von F(y) nicht direkt verfügbar, so verwendet man zur (näherungsweisen) Bestimmung der Ableitung typischerweise Differenzenquotienten, z.B. für n = 1: F  (y) ≈

F(y + h) − F(y − h) . 2h

Um eine möglichst genaue Approximation zu erhalten, müsste h sehr klein gewählt werden. Allerdings kommt es bei sehr kleinen Schrittweiten h durch die Subtraktion zweier annähernd gleich großen Zahlen (im Zähler des Differenzenquotienten) zu einer möglichen großen Verstärkung von kleinen Fehlern, die (notgedrungen) bei der Berechnung der Funktionswerte F(y − h) und F(y + h) entstehen. Um diesen

143

144

10 Das Newton-Verfahren gefürchteten Effekt (Auslöschung) zu vermeiden, darf h also nicht zu klein gewählt werden.

Das gedämpfte Newton-Verfahren Im Unterschied zum linearen Fall ist die Konvergenz von Iterationsverfahren im nichtlinearen Fall typischerweise nur gesichert,wenn der Startwert hinreichend nahe bei der exakten Lösung liegt. Das gilt im Speziellen auch für das Newton-Verfahren. Wir werden nun eine einfache Variante des Newton-Verfahrens kennen lernen, das gedämpfte Newton-Verfahren, das die Chance auf Konvergenz vergrößert. Das Newton-Verfahren lässt sich auch als ein Liniensuchverfahren interpretieren. Ausgehend von der aktuellen Näherung xk berechnet man die Suchrichtung pk als Lösung der Gleichung F (xk ) pk = −F(xk ) und wählt als nächste Näherung jenen Punkt, den man von xk aus in Richtung pk mit Schrittweite ˛k = 1 erreicht. Beim so genannten gedämpften Newton-Verfahren verallgemeinert man nun diesesVorgehen,indem man für den nächsten Iterationspunkt auch Schrittweiten ˛k ∈ (0, 1] zulässt: xk+1 = xk + ˛k pk . Dabei wird der Parameter ˛k so gewählt, dass F(xk+1)22 < F(xk )22 .

(10.5)

Man erhofft sich dadurch, dass der nächste Iterationspunkt„näher“ bei der Nullstelle liegt. Für die Nullstelle x gilt natürlich: F(x)22 = 0. Eine praktische Realisierung der Schrittweitenwahl ist z.B. das sukzessive Durchprobieren der Werte 1 1 1 1, , , , . . . , 2 4 8 für ˛k , bis das Kriterium (10.5) erfüllt ist. Der folgende Satz zeigt die grundsätzliche Durchführbarkeit dieser Strategie: Satz

Sei F: Rn −→ Rn differenzierbar. Für xk ∈ Rn gelte: F(xk ) = 0 und F (xk ) sei regulär. Dann gilt für pk = −F (xk )−1 F(xk ): Es gibt eine Zahl ˛0 > 0 mit F(xk + ˛pk )22 < F(xk )22

für alle

˛ ∈ (0, ˛0).

Beweis. Wegen der Differenzierbarkeit von f (y) = F(y)2 gilt: |f (xk + ˛pk ) − f (xk ) − ˛f  (xk )pk | ≤ " ˛pk  für beliebig kleine Werte " > 0, solange ˛ > 0 hinreichend klein ist.

10 Das Newton-Verfahren Die Ableitung von f (y) = F(y)22 = F(y)T F(y) ist durch f  (y) = 2F(y)T F (y) gegeben. Somit folgt: f  (xk )pk = −2F(xk )T F  (xk )F  (xk )−1 F(xk ) = −2F(xk )T F(xk ) = −2f (xk ). Also gilt

f (xk ) + ˛f (xk )pk = (1 − 2˛)f (xk ) > 0

für ˛ < 1/2, woraus folgt: f (xk + ˛pk ) = |f (xk + ˛pk ) − f (xk ) − ˛f  (xk )pk + f (xk ) + ˛f  (xk )pk | ≤ |f (xk + ˛pk ) − f (xk ) − ˛f  (xk )pk | + |f (xk ) + ˛f  (xk )pk | ≤ " ˛pk  + (1 − 2˛)f (xk ) < f (xk ), falls " < 2f (xk )/pk . Für hinreichend kleine Werte von ˛ ist das sichergestellt, da " dann beliebig klein gewählt werden kann. Dieser Satz zeigt also, dass durch sukzessive Halbierung von ˛ das Kriterium (10.5) immer erfüllt werden kann. Bemerkung. Das Kriterium (10.5) ist etwas zu schwach, um (unter geeigneten Voraussetzungen) die Konvergenz des gedämpften Newton-Verfahrens nachweisen zu können. Man verwendet stattdessen das (durch den Beweis des letzten Satzes motivierte) stärkere Kriterium f (xk+1 ) < (1 − 2˛k )f (xk ) für die Wahl der nächsten Schrittweite ˛k , wobei der Parameter  ∈ (0, 1) vorzugeben ist, z.B.  = 0,1.

Ergänzende Hinweise Ein klassisches Buch über iterative Verfahren zur Lösung nichtlinearer Gleichungen ist [18]. Eine umfassende Diskussion des Newton-Verfahrens und seiner Varianten findet man in [8].

Übungsaufgaben 44. Sei (xk )k∈N0 die Folge der Näherungen, die durch √ das auf Seite 139 diskutierte NewtonVerfahren zur Berechnung der Quadratwurzel a mit einem Startwert x0 > 0 erzeugt wird. Zeigen Sie: √ k 1 + q2 √ x0 − a √ a mit q = xk = x0 + a 1 − q2 k und bestätigen Sie die Aussagen über die Genauigkeit nach 5 Iterationen. 45. Erweitern Sie die Diskussion der Berechnung der Jacobi-Matrix von Seite 140 auf das erweiterte Modellproblem aus Übungsaufgabe 40.

145

146

10 Das Newton-Verfahren 46. Zeigen Sie: Das Newton-Verfahren, angewendet auf das nichtlineare Gleichungssystem F(x) = 0 und das Newton-Verfahren, angewendet auf das (äquivalente) nichtlineare Gleichungssystem ˆ F(x) =0 ˆ mit F(x) = AF(x), wobei A eine konstante reguläre Matrix ist, erzeugt dieselbe Folge von Näherungen, sofern man mit dem gleichen Startwert beginnt. 47. Das vereinfachte Newton-Verfahren xk+1 = xk − F  (x0 )−1 F(xk ) verwendet an Stelle der Jacobi-Matrix F  (xk ) die Jacobi-Matrix im Startwert. Zeigen Sie die lokale q-lineare Konvergenz unter den Voraussetzungen des ersten Teils des lokalen Konvergenzsatzes für das Newton-Verfahren. Hinweis: Verwenden Sie eine analoge Darstellung für xk+1 − x wie im Beweis des ersten Teiles des lokalen Konvergenzsatzes für das Newton-Verfahren.

Literaturverzeichnis

[1] Robert A. Adams und John J.F. Fournier. Sobolev Spaces. Pure and Applied Mathematics 140. New York: Academic Press, 2003. [2] Hans Wilhelm Alt. Lineare Funktionalanalysis. Eine anwendungsorientierte Einführung. Berlin: Springer, 2006. [3] Dietrich Braess. Finite Elemente. Theorie, schnelle Löser und Anwendungen in der Elastizitätstheorie. Berlin: Springer, 2003. [4] James H. Bramble und Xuejun Zhang. The analysis of multigrid methods. Ciarlet, P. G. (ed.) et al., Handbook of Numerical Analysis. Vol. 7: Solution of Equations in Rn (Part 3). Techniques of Scientific Computing (Part 3). Amsterdam: North-Holland/Elsevier. 173–415, 2000. [5] Susanne C. Brenner und L. Ridgway Scott. The Mathematical Theory of Finite Element Methods. Berlin: Springer, 2002. [6] Richard Courant. Variational methods for the solution of problems of equilibrium and vibrations. Bull. Am. Math. Soc., 49:1–23, 1943. [7] Timothy A. Davis. Direct Methods for Sparse Linear Systems. Fundamentals of Algorithms 2. Philadelphia: Society for Industrial and Applied Mathematics (SIAM), 2006. [8] Peter Deuflhard. Newton Methods for Nonlinear Problems. Affine Invariance and Adaptive Algorithms. Springer Series in Computational Mathematics 35. Berlin: Springer, 2004. [9] Peter Deuflhard und Folkmar Bornemann. Numerische Mathematik. 2: Gewöhnliche Differentialgleichungen. de Gruyter Lehrbuch. Berlin: de Gruyter, 2002. [10] Peter Deuflhard und Andreas Hohmann. Numerische Mathematik. 1: Eine algorithmisch orientierte Einführung. de Gruyter Lehrbuch. Berlin: de Gruyter, 2002. [11] Roland W. Freund und Ronald H.W. Hoppe. Stoer/Burlirsch: Numerische Mathematik 1. Springer-Lehrbuch. Berlin: Springer, 2007. [12] Gene Golub und Charles F. Van Loan. Matrix Computations. Baltimore: The Johns Hopkins Univ., 1996.

148

Literaturverzeichnis [13] Günther Hämmerlin und Karl-Heinz Hoffmann. Numerische Mathematik. Springer-Lehrbuch. Berlin: Springer, 1994. [14] Wolfgang Hackbusch. Multi-Grid Methods and Applications. Springer Series in Computational Mathematics 4. Berlin: Springer, 1985. [15] Wolfgang Hackbusch. Iterative Solution of Large Sparse Systems of Equations. Applied Mathematical Sciences 95. New York: Springer, 1994. [16] Magnus R. Hestenes und Eduard Stiefel. Methods of conjugate gradients for solving linear systems. J. Res. Natl. Bur. Stand., 49:409–436, 1952. [17] Michael Jung und Ulrich Langer. Methode der finiten Elemente für Ingenieure. Eine Einführung in die numerischen Grundlagen und Computersimulation. Stuttgart: Teubner, 2001. [18] J.M. Ortega und W.C. Rheinboldt. Iterative Solution of Nonlinear Equations in Several Variables. Classics in Applied Mathematics 30. Philadelphia: Society for Industrial and Applied Mathematics (SIAM), 2000. [19] Yousef Saad. Iterative Methods for Sparse Linear Systems. Philadelphia: Society for Industrial and Applied Mathematics (SIAM), 2003. [20] Hans-Rudolf Schwarz und Norbert Köckler. Numerische Mathematik. Stuttgart: Teubner, 2004. [21] Josef Stoer und Roland Bulirsch. Numerische Mathematik 2. Eine Einführung – unter Berücksichtigung von Vorlesungen von F. L. Bauer. Springer-Lehrbuch. Berlin: Springer, 2005.

Index

Ableitung schwache 10 Abschließungsprinzip 32 Algorithmus 77 A-orthogonal 50, 105 Banachscher Fixpunktsatz 23 Bandbreite 73 Bandmatrix 72 Bilanzgleichung 2 Bilinearform 14 beschränkte, V -beschränkte 25 elliptische, V -elliptische 25 nicht-negative 29 symmetrische 29 C0∞ (0, 1) 10 Cholesky-Zerlegung 74

Fixpunktgleichung 24 Fixpunktiteration 24 Fluss 3, 127 Friedrichs-Ungleichung 32, 87 Galerkin-Methode 35 Galerkin-Orthogonalität 46 gestaffeltes System 72 Gitter siehe Zerlegung Gitterpunkte siehe Knoten Gradient 4 schwacher 85 H 1 (0, 1) 12 H 1 (§) 85 H 2 (0, 1) 48

Knoten 36, 88 Knotenbasis 37, 88 Divergenz 3 konditioniert Divergenzform 7, 84, 127 gut 29 Dreieckszerlegung 71 schlecht 29 für Bandmatrizen 72 Konditionszahl für symmetrische und positiv defieiner Matrix 54 nite Matrizen 74 eines Operators 29 konjugierte Richtungen 105 elementare Operation 77 Konvergenz Energiefunktional 30 lokale 137 Fehler q-lineare 28 absoluter 29 q-quadratische 138 Approximations- 46 q-superlineare 137 Daten- 19 r-lineare 28 Diskretisierungs- 44 r-quadratische 139 Interpolations- 47 Konvergenzrate 28 relativer 29 korrekt gestelltes Problem 19 Rundungs- 75 Krylow-Unterraum 104 unvermeidbarer 76 Krylow-Methode 111 Verfahrens- 44 Lastvektor 38, 88 Finite-Differenzen-Methode 8, 43 Liniensuchverfahren 100 Finite-Elemente-Methode 36, 87

150

Index lokaler Träger 37, 88 Massenmatrix 62 Element- 62 Matrix adjungierte 57 dünnbesetzte 39 selbstadjungierte 57 MFLOPS 68 nnz(M) 91 Norm einer Matrix 53 eines linearen Funktionals 21 eines linearen Operators 28 Energie- 99 euklidische 39 H 1 - 12, 85 H 2 - 48 L2 - 12, 85 Residuums- 99 Operator Lipschitz-stetiger 129 monotoner 134 stark monotoner 129 Pivotelement 65, 67, 68 Pivotsuche Spalten- 79 Total- 79 Pk , Polynome vom Grad ≤ k 36 Poincar´e-Ungleichung 34 Randbedingung 4 Dirichlet- 7, 83 natürliche 10 Neumann- 7, 83 Robin- 17 wesentliche 10 Randwertproblem 4 klassische Formulierung 8 klassische Lösung 8 lineares eindimensionales 7 mehrdimensionales 83 nichtlineares 127 schwache Lösung 14 Variationsformulierung 14, 85, 128 Raumaufspaltung 117 hierarchische 121 Rayleigh-Quotient 59

Rayleigh-Ritz-Methode 36 Referenzelement 40, 88 Riesz-Isomorphismus 22 Rieszscher Darstellungssatz 21 Ritzsches Energiefunktional 30 Satz Banachscher Fixpunkt- 23 Rieszscher Darstellungs- 21 von C´ea 45 von Lax-Milgram 25, 129 Schwarz-Methode additive 117 multiplikative 118 Skalarprodukt Energie- 99 euklidisches 3, 39 H 1 - 12, 85 L2 - 12, 85 Sobolew-Raum 12, 48, 85, 129 Spuroperator 14, 85 stabil daten- 29 numerisch 78 Steifigkeitsmatrix 38, 88 Element- 40, 88 Unterraum-Korrektur-Gleichung 117 Unterraum-Korrektur-Methoden 116 Verfahren CG- 105 direktes 75 Gauß-Seidel- 120 Gaußsches Eliminations- 65 für Bandmatrizen 74 GMRES- 111 Gradienten- 101 Jacobi- 118 Mehrgitter- 124 Newton- 136 gedämpftes 144 vereinfachtes 146 optimales 91 PCG- 125 präkonditioniertes CG- 125 präkonditioniertes Richardson- 112 Richardson- 93 von optimaler Komplexität 91 Zweigitter- 123 Zerlegung 36, 87