Numerische Differentiation

In der Numerischen Mathematik bezeichnet man mit numerischer Differentiation die näherungsweise Berechnung der Ableitung aus gegebenen Funktionswerten, meist mittels eines Differenzenquotienten. Dies ist nötig, falls die Ableitungsfunktion nicht gegeben ist oder die Funktion selbst nur indirekt, beispielsweise über Messwerte, zur Verfügung steht. Im Gegensatz dazu wird beim automatischen Differenzieren der Code, der die betrachtete Funktion definiert, um eine Ableitungsfunktion erweitert.

Alternativ kann man auch differenzierbare Approximationen von Funktionen wie zum Beispiel kubische Smoothing Splines verwenden. Ist man nicht am gesamten Funktionsverlauf, sondern nur an einzelnen Stellen interessiert, so existieren spezielle Formeln.

Ein naheliegender Ansatz ist die Verwendung des Vorwärtsdifferenzenquotienten:

f ′ ( x ) = f ( x + h ) − f ( x ) h + O ( h ) {\displaystyle f'(x)={\frac {f(x+h)-f(x)}{h}}+{\mathcal {O}}(h)} .

O ( h ) {\displaystyle {\mathcal {O}}(h)} beschreibt, dass der Fehler linear mit der Schrittweite h {\displaystyle h} anwächst. Für weitere Details der O {\displaystyle {\mathcal {O}}} -Notation siehe Landau-Symbole. Ist der Abstand (h) der Funktionswerte gering, so wäre bei beliebig genauer Rechnung die Näherung zunächst besser. Allerdings tritt bei der Berechnung mittels Gleitkommazahlen Auslöschung auf, weswegen das gewählte h von der Maschinengenauigkeit abhängige Schranken nicht unterschreiten darf.

Eine bessere Näherung als den Vorwärtsdifferenzenquotient erhält man durch Verwendung des zentralen Differenzenquotienten:

f ′ ( x ) = f ( x + h ) − f ( x − h ) 2 h + O ( h 2 ) {\displaystyle f'(x)={\frac {f(x+h)-f(x-h)}{2h}}+{\mathcal {O}}(h^{2})}

Für den zentralen Differenzenquotienten ist die optimale Schrittweite h {\displaystyle h} in der Größenordnung der dritten Wurzel der Maschinengenauigkeit^[1].

Unter Benutzung von Taylorreihenentwicklungen höherer Ordnung lassen sich Finite-Differenzenquotienten mit kleinerem Fehlerterm herleiten, wenn | h | < 1 {\displaystyle |h|<1} :

f ′ ( x ) = 1 12 h ( − f ( x + 2 h ) + 8 f ( x + h ) − 8 f ( x − h ) + f ( x − 2 h ) ) + O ( h 4 ) {\displaystyle f'(x)={\frac {1}{12h}}\left(-f(x+2h)+8f(x+h)-8f(x-h)+f(x-2h)\right)+{\mathcal {O}}(h^{4})}

Ein Problem bei der Anwendung eines klassischen Differenzenquotienten ist die Wahl einer optimalen Schrittweite h {\displaystyle h} . Ein zu großes h {\displaystyle h} führt zu Rundungsfehlern, während ein zu kleines h {\displaystyle h} zu Auslöschung führt. Die numerische Auslöschung infolge der Subtraktion kann durch die komplexwertige Approximation

f ′ ( x ) = ℑ ( f ( x + i h ) ) h + O ( h 2 ) {\displaystyle f'(x)={\frac {\Im (f(x+\mathrm {i} h))}{h}}+{\mathcal {O}}(h^{2})}

verhindert werden.^[2]

Wir betrachten die Taylorreihe von f ( x + h ) {\displaystyle f(x+h)} am Entwicklungspunkt x {\displaystyle x}

f ( x + h ) = f ( x ) + h f ′ ( x ) + h 2 f ″ ( x ) 2 + h 3 f ‴ ( x ) 6 + … {\displaystyle f(x+h)=f(x)+hf'(x)+{\frac {h^{2}f''(x)}{2}}+{\frac {h^{3}f'''(x)}{6}}+\dots }

Abbruch nach dem linearen Glied und Umstellung nach f ′ ( x ) {\displaystyle f'(x)} liefert den oben genannten Vorwärtsdifferenzenquotienten. Wir ersetzen nun die reelle Schrittweite h {\displaystyle h} durch die imaginäre Schrittweite i h {\displaystyle \mathrm {i} h} und erhalten

f ( x + i h ) = f ( x ) + i h f ′ ( x ) − h 2 f ″ ( x ) 2 − i h 3 f ‴ ( x ) 6 + … {\displaystyle f(x+\mathrm {i} h)=f(x)+\mathrm {i} hf'(x)-{\frac {h^{2}f''(x)}{2}}-{\frac {\mathrm {i} h^{3}f'''(x)}{6}}+\dots }

Betrachten wir nun nur den Imaginäranteil dieser Taylorreihe, so erhalten wir

ℑ ( f ( x + i h ) ) = h f ′ ( x ) − h 3 f ‴ ( x ) 6 + … {\displaystyle \Im (f(x+\mathrm {i} h))=hf'(x)-{\frac {h^{3}f'''(x)}{6}}+\dots }

was bei Abbruch nach dem linearen Glied auf die oben angegebene Näherung der Ableitung mit dem Fehler O ( h 2 ) {\displaystyle {\mathcal {O}}(h^{2})} führt.

In praktischer Anwendung sind die Funktionswerte oft verrauscht. Das einfache Anwenden finiter Differenzenmethoden auf verrauschte Daten führt dazu, dass die erhaltene numerische Ableitung starke Ausreißer hat. Es gibt für verrauschte Daten spezielle Methoden um die Ableitung dennoch zuverlässig zu berechnen, beispielsweise kann die Datenreihe zunächst geglättet werden oder eine approximierende Funktion durch Ausgleichungsrechnung gefunden werden und anschließend die numerische Differentiation durchgeführt werden^[3]. Bei der Kantendetektion werden beispielsweise Sobel-Operatoren verwendet, die gleichzeitig eine Glättung durchführen. Eine weitere Möglichkeit bietet die Verwendung von geglätteten Splines (auch Ausgleichssplines).

• Hans Rudolf Schwarz: Numerische Mathematik. 4., überarbeitete und erweiterte Auflage. B. G. Teubner, Stuttgart 1997, ISBN 3-519-32960-3.
• Martin Hanke-Bourgeois: Grundlagen der numerischen Mathematik und des wissenschaftlichen Rechnens. B. G. Teubner, Stuttgart u. a. 2002, ISBN 3-519-00356-2.
• Martin Hermann: Numerische Mathematik, Band 2: Analytische Probleme. 4., überarbeitete und erweiterte Auflage. Walter de Gruyter Verlag, Berlin und Boston 2020. ISBN 978-3-11-065765-4.

1. ↑ Tim Sauer: Numerical analysis. Third edition Auflage. [Hoboken, New Jersey] 2018, ISBN 978-0-13-469645-4, S. 248. 
2. ↑ W. Squire, G. Trapp (1998) Using Complex Variables to Estimate Derivatives of Real Function, SIAM Rev., 40(1):110-112. doi:10.1137/S003614459631241X
3. ↑ Karsten Ahnert, Markus Abel: Numerical differentiation of experimental data: local versus global methods. In: Computer Physics Communications. Band 177, Nr. 10, November 2007, ISSN 0010-4655, S. 764–774, doi:10.1016/j.cpc.2007.03.009.