Gleitkommazahlen in digitaler Audioanwendung

Gleitkommazahlen in digitaler Audioanwendung finden sich in erster Linie als 32-bit- oder 64-bit-Gleitkommazahlen im Mastering, sowohl nativ auf der Rechner-CPU als auch ausgelagert auf dem DSP einer internen oder externen Soundkarte. Die meisten modernen HD-Recordingsysteme wie Nuendo, Logic, Samplitude, SADiE oder Pyramix arbeiten mit Gleitkommaarithmetik. Audioeditoren wie Adobe Audition oder Pro Tools ermöglichen zudem den Export von Audiodateien in 32 bit Gleitkommacodierung zum weiteren Mastering. Adobe Audition (in der aktuellen Version bei 64 bit Softwarearchitektur) arbeitet intern mit 32 bit Gleitkommaauflösung, so dass durch den Export und späteren Import von 32 bit Gleitkomma-kodierten Audiodateien kein weiteres Quantisierungsrauschen entsteht, welches sich bei jeder Umrechnung der Amplitudenauflösung erhöhen würde. Die Bit-Tiefe der Softwarearchitektur ist also unabhängig von der Bit-Tiefe der angewandten Gleitkommaarithmetik. Pro Tools hingegen (arbeitete bis Version 10 mit 48-bit-Festkommaarithmetik) sowie REAPER arbeiten in der aktuellen Version mit 64 bit Gleitkommazahlen.

Diese Bittiefe ist dabei in erster Linie für die Genauigkeit der Variablen innerhalb der Programmabarbeitung relevant, die dann zur weiteren Berechnung an die ALU bzw. die interne FPU der Rechner-CPU übergeben, dort auf deren Registergröße konvertiert, und beispielsweise von einem AMD Bulldozer mit 256 bit Genauigkeit berechnet werden. Schon die x87-Intel Coprozessoren aus den 80er Jahren rechneten Gleitkommazahlen IEEE-konform mit bis zu 80 bit extended. Erst am Ende der Berechnungen erfolgt die Rundung auf die Bittiefe der Software. Effekt-Plugins werden zur Entlastung der CPU oftmals, je nach Software- und Hardware-Konfiguration, von dem DSP einer internen Soundkarte oder sogar von externen DSP Servern berechnet.

Während in Festkommaarithmetik der maximale Pegel 0 dBFS beträgt und eine weitere Erhöhung des Pegels zu einem Beschnitt der Amplitude und damit zu einem Clipping führt, ermöglicht die Gleitkommadarstellung einen Headroom. Der Dynamikbereich eines in Gleitkommazahlen dargestellten Audiosignals teilt sich also in zwei Bereiche 0 dBFS und 0 dBFS. Die maximale Auflösung hingegen ist durch die Mantisse der Gleitzahl beschränkt. Eine 32 bit Gleitkommaarithmetik nach IEEE 754 hat daher maximal 23 bit Auflösungsvermögen pro Halbwelle, mit Vorzeichenbit also 24 bit für den gesamten positiven und negativen Aussteuerungsbereich. Im Gegensatz hierzu löst eine Festkommaarithmetik mit 32 bit eine Halbwelle unter Abzug des Vorzeichenbits mit 31 bit auf, den gesamten positiven und negativen Aussteuerungsbereich also mit 32 bit. Erst eine 64 bit Gleitkommaarithmetik (double precision) ist mit ihrer 52 bit Mantisse einer 32 bit Festkommaarithmetik vollständig überlegen (also mit 53 bit Auflösungsvermögen einschließlich Vorzeichenbit für den gesamten positiven und negativen Aussteuerungsbereich).

Eine dezimale Festkommazahl kann immer durch mehrere Gleitzahlen dargestellt werden, die dezimale Zahl 0,375 beispielsweise durch die Gleitzahl · 0,375 (mit 0 als Exponent und 0,375 als Mantisse). Würde man die Mantisse m beispielsweise auf einen Bereich von 0,5 1 normalisieren, so ergäbe sich als Darstellung · 0,75. Die für den Audiobereich verbindliche Norm IEEE 754 sieht nun eine Normalisierung der Mantisse auf einen Bereich von vor, so dass sich der Wert 0,375 unverwechselbar mit der Gleitzahl · 1,5 darstellt. Da die so normalisierte Mantisse immer eine 1 vor dem Komma hat, wird diese 1 in der binären Darstellung der Gleitzahl nicht mehr angeführt, sondern als hidden bit implizit definiert. Werte unterhalb des kleinsten mit normalisierter Mantisse darstellbaren Wertes werden nach IEEE 754 denormalisiert mit impliziter 0 vor der Mantisse dargestellt. Diese denormalisierten Gleitzahlen führen allerdings auf diversen FPUs bis zu einer 30-fachen Verlangsamung der Rechengeschwindigkeit und finden schon deswegen im Audiobereich keine Anwendung, da dieser extreme Dynamikbereich unter −144 dBFS nicht nutzbar ist und vom kleinsten, im hörbaren Frequenzspektrum 20 kHz nutzbaren Audiosignal, dessen Größe vom Rauschpegel bestimmt wird, bei weitem überlagert wird.

32 bit Festkommaarithmetik Da eine Erhöhung der Amplitude um den Faktor 10 eine Erhöhung der Dynamik um 20 dB ergibt, errechnet sich die Dynamik x eines 32 bit Festkommasystems mit der Formel = dB; ⇒ x : 20 = lg dB; ⇒ x = 20 · lg dB = 192,65919722494796493679289262368 dB ≈ 193 dB. In Software und DSPs mit Festkomma-Arithmetik kommt dabei die Zweierkomplementdarstellung mit einem Vorzeichen-Bit als höchstwertigem Bit zur Anwendung. Der Wertebereich wird also aufgeteilt in einen positiven und einen negativen Bereich, so dass nur noch die Hälfte des gesamten Wertebereiches für eine Amplitude oder Halbwelle bei einer Auflösung von je 31 bit zur Verfügung steht (: 2 = ). Es ist dabei im Bereich der Audiotechnik üblich, den Dynamikbereich eines Audiosystems auf den gesamten positiven und negativen Aussteuerungsbereich zu beziehen, während sich die wissenschaftliche Begriffsdefinition der Dynamik lediglich auf die vorzeichenfreie Amplitude (bzw. Halbwelle) bezieht. Pro Amplitude bzw. Halbwelle steht also nur die Hälfte der Gesamtdynamik zur Verfügung (Faktor 2 oder 6 dB Pegeldifferenz).

32 bit Gleitkommaarithmetik Die positiven und negativen Audiosignale bis 0 dBFS werden bei Gleitkommaarithmetik per definitionem (entsprechend dem Convention Paper 7438 der Audio Engineering Society) in einem Bereich von −1 bis +1 dargestellt, wobei die Werte −1 und +1 den maximalen Pegel 0 dBFS darstellen. Darüber hinausgehende Werte stellen den Headroom dar. Da sich mit jeder Erhöhung des Exponenten der Gleitkommazahl um den Wert 1 der insgesamt dargestellte Dynamikbereich verdoppelt, errechnet sich die maximale, theoretische Dynamik einer 32 bit Gleitkommaarithmetik (unter Abzug des Exponenten 0 sowie des Exponenten für den Wert unendlich) aus den mit zur Verfügung stehenden 254 Exponenten mit 254 · 20 · 2 dB ≈ 1529 dB. Mit den Exponenten bis −126 wird dabei der negative Bereich dargestellt, mit den Exponenten 0 der positive Wertebereich. Eine Veränderung der Dynamik in dB um den Faktor 2 (entsprechend ±1 bit Auflösungsvermögen) ergibt ein Verstärkungsmaß L von 6 dB, errechnet aus dem Amplitudenverhältnis v nach der Formel L = 20 · v dB = 20 · (2:1) dB = 20 · 2 dB = 6,0205999132796239042747778944899 dB ≈ 6 dB. Das 32-bit Gleitkommasystem hätte theoretisch also mit (1529 dB – 193 dB) : 6 dB = 222 (gerechnet mit den ungerundeten Werten) exakt eine 222-fach höhere Dynamik, als ein 32 bit Festkommasystem. Die somit erzielte, höhere Dynamik ist auf Grund der exponentiell anwachsenden Streuung der Amplitudenauflösung und den damit verbundenen Rundungsfehlern allerdings bei weitem nicht nutzbar. Bereits Werte 2 bzw. 144 dBFS bringen eine Halbierung des Auflösungsvermögens mit sich, während hingegen Werte 1 bzw. 0 dBFS durchwegs mit der sich aus der Mantisse ergebenden 23 bit Amplitudenauflösung dargestellt werden.

Quantisierungsrauschabstand Während der Rauschabstand einer Festkommaarithmetik direkt proportional zum Pegel des Audiosignals absinkt und das Quantisierungsrauschen mit Abnahme des Pegels prozentual immer mehr zunimmt, bestimmt sich der Rauschabstand der Gleitkommaarithmetik – unabhängig vom Exponenten über alle mit normalisierter Mantisse dargestellten Pegel hinweg – durch die Leistung des Quantisierungsrauschens der Mantisse. Bei der Auflösung eines Integerwertes einer WAV-Datei oder eines Audiosignals des AD-Wandlers durch die 23 bit Mantisse kann der Quantisierungs- oder Rundungsfehler dabei maximal ein Quantisierungsintervall betragen, also = . Die Rauschleistung errechnet sich aus dem Quadrat des Effektivwertes (Sigma) der Amplitude (bzw. einer Halbwelle):

sowie ; ⇒ ; ⇒ ; ⇒ ≈ 149 ;

Legt man bei sehr kleinen Werten der Mantisse die Auswirkungen des ungünstigeren Scheitelwertes des Quantisierungsrauschens zugrunde, so errechnet sich der Rauschabstand der Amplitude (bzw. einer Halbwelle) mit

; ⇒ ≈ 138 ;

Der Graph des Quantisierungsrauschpegels lässt sich somit als ein Sägezahndiagramm darstellen, da der Quantisierungsrauschabstand innerhalb des Darstellungsbereiches eines Exponenten direkt proportional mit dem Eingangssignal (bzw. dem darzustellenden Integerwert) von seinem Idealwert 149 dB im ungünstigsten Fall auf 138 dB abfällt. Da ein Abtastwert entweder eine positive oder eine negative Halbwelle beschreibt und der Quantisierungsfehler in einer Gleitzahl also nur ein einziges Mal auftreten kann, verdoppelt sich der Quantisierungsrauschabstand der Gesamtdynamik (über den negativen und positiven Aussteuerungsbereich des Audiosignals) wieder um den Faktor 2 (entsprechend + 6 dB), so dass der insgesamt nutzbare Dynamikbereich 0 dBFS zwischen 155 dB und (im ungünstigsten Fall) 144 dB schwankt:

138 + 6 149 + 6 ; ⇒ 144 155

Standard-Dynamikbereich ≤ 0 dBFS Wird eine Datei mit Festkommadarstellung in ein System mit Gleitkommaarithmetik eingebunden, so werden die positiven und negativen Audiosignale auf den Wertebereich von −1 bis +1 algebraisch normalisiert. Die binäre Festkommazahl mit der Wortlänge w und den einzelnen Bits b (mit dem Wert 0 oder 1) wird dabei gewertet mit der Summe aus (Vorzeichenbit) + · 0,5 + · 0,25 + · 0,125 + ... + · . Dieses algebraische Normalisieren bedeutet, dass der Wert der Festkommazahl linear im Gleitkomma-Wertebereich 0 bis 1 eingepasst wird (was nicht mit der lautstärkemäßigen Normalisierung zu verwechseln ist, welche in Gleitkommaarithmetik ebenfalls auf den Maximalwert −1 bis +1 erfolgen würde, entsprechend 0 dBFS). Die einzelnen Stufen der Integerwerte der Festkommazahl entsprechen dann den Stufen der Gleitkommazahl der Größe 1 : ≈ 1 · , welche sich gleichmäßig über die durch die Exponenten logarithmisch abgestuften Teilwertebereiche erstrecken:

Streuung der Amplitudenauflösung bei 32 bit Gleitkommaarithmetik 1,175 · ≈ · 1(kleinste normalisierte Zahl) ... 0,25 - 0,00000001 = · 1,9999999 0,5 - 0,00000003 ≈ · 1,9999999 1 - 0,00000006 = · 1,9999999 2 - 0,0000001 = · 1,9999999 1,1754945 · = · 1,0000001 ... 0,25 = · 1 0,5 = · 1 1 = · 1 (0 dBFS) 2 = · 1 1,1754946 · = · 1,0000002 ... 0,25 + 0,00000003 = · 1,0000001 0,5 + 0,00000006 ≈ · 1,0000001 1 + 0,0000001 ≈ · 1,0000001 2 + 0,0000002 ≈ · 1,0000001 - 144 dBFS ... - 12 dBFS - 6 dBFS 0 dBFS + 6 dBFS min. = 1,5 · ... = 3 · = 6 · = 1 · = 1 · 4 - 0,0000002 ≈ · 1,4999999 ... - 1 ≈ · 1,9999999 - 2 ≈ · 1,9999999 - ≈ · 1,9999999 3,4028235 · - 2 · ≈ · 1,9999998 4 = · 1 ... = · 1 = · 1 = · 1 3,4028235 · ≈ · 1,9999999 4 + 0,0000004 ≈ · 1,5000001 ... + 2 ≈ · 1,0000001 + 4 ≈ · 1,0000001 + ≈ · 1,0000001 = 2 · ... = 1 = 2 = =

Headroom > 0 dBFS Der einzelne, mit dem jeweiligen Exponenten grob dargestellte Teilwertebereich wird zwar für sich allein immer mit der 23 bit Mantisse feinaufgelöst (also mit 23 bit Auflösung), jedoch streut sich diese Auflösung mit jeder Erhöhung des Exponenten um den Wert 1 auf einen immer größer werdenden Teilwertebereich, womit sich relativ bezogen auf die Auflösung des kleinsten darstellbaren Wertebereiches die Auflösung immer weiter verringert. Ab einem gewissen Bereich sind die Sprünge in der Darstellbarkeit des Teilwertebereichs gleich dem gesamten Standard-Dynamikbereich bis 0 dBFS. Hat beispielsweise der für den Headroom genutzte Wertebereich bis (dargestellt durch die Gleitzahlen · 1,0 bis · 1,0) noch durchgehend eine Amplitudenauflösung von : (also die volle Auflösung der 23 bit Mantisse), liegt bei einem theoretischen Amplitudenwert die Streuung bereits bei 1, also entsprechend dem gesamten Dynamikbereich 0 dBFS, entsprechend einer Auflösung von 1:1. Bei der Berechnung der Gesamtdynamik bzw. der Gesamtauflösung ist zu bedenken, dass sich die Amplitudenauflösung lediglich auf den vorzeichenfreien Wert der Amplitude (eine Halbwelle) bezieht.