DE69722601T2

DE69722601T2 - Datenkompression mit hybrider verlustloser entropiekodierung von run-length codes

Info

Publication number: DE69722601T2
Application number: DE69722601T
Authority: DE
Inventors: Zhengrong Wang; Steven Paul HOULE
Original assignee: America Online Inc
Current assignee: Historic AOL LLC
Priority date: 1996-03-19
Filing date: 1997-03-19
Publication date: 2004-05-13
Anticipated expiration: 2017-03-20
Also published as: WO1997035427A1; CA2249259A1; AU719715B2; EP1005231A1; HUP9700604A3; HUP9700604A2; US6049630A; BR9708130A; DE69722601D1; EP0888689B1; ATE242577T1; AU2216197A; EP0888689A1; JP3271985B2; EP0888689A4; US5682152A; CA2249259C; HU9700604D0; JP2001501783A

Description

HINTERGRUND DER ERFINDUNG
1. Erfindungsgebiet
Die Erfindung betrifft die Datenkompression und insbesondere die Datenkompression mit adaptiver Bit-Allokation und gemischter verlustfreier Entropie-Codierung (hybrid lossless entropy coding).
2. Beschreibung des Stands der Technik
Es gibt eine Anzahl von Verfahren zur Datenkompression. Diese Verfahren sind entweder als "verlustreich" (lossy) oder als "verlustfrei" (lossless) gekennzeichnet. Verlustreiche Kompressionsverfahren können beachtliche Kompressionsverhältnisse erzielen, wobei sie tatsächlich redundante oder unwichtige Information weglassen, während sie eine vernünftige Ähnlichkeit mit den Originaldaten beibehalten. Da Daten verloren gehen, wird die verlustreiche Kompression normalerweise nur für Daten verwendet, wie etwa Ton oder Graphiken (Standbild oder Bewegung), die auch bei dem Verlust von Information hinreichend genau wahrgenommen werden können. Verlustfreie Kompression führt allgemein zu niedrigeren Kompressionsverhältnissen, aber kann die Originaldaten in ihrer Gesamtheit wieder herstellen. Somit wird die verlustfreie Kompression im allgemeinen für Maschinencode, Text und numerische Daten verwendet, die perfekte Präzision erfordern.
Es gibt eine Anzahl unterschiedlicher Verfahren zum Durchführen verlustreicher Kompression, einschließlich des gut bekannten JPEG-Standards für Graphiken und des MPEG-Standards für Video. Jedoch keiner der jeweiligen Kompressionsalgorithmen hat sich als optimal für alle Dateninhalte gezeigt. Das Anpassen eines Algorithmus an bestimmte Daten (etwa Graphikbilder) kann höhere Kompressionsverhältnisse erzielen. In einigen Zusammenhängen, wie etwa bei der Übertragung von Daten über eine begrenzte Bandbreite (typischerweise Modems, LANs oder WANs) kann eine Verbesserung des Kompressionsverhältnisses auch nur um wenige Prozent beachtliche Langzeiteinsparungen bewirken.
Dementsprechend besteht die Notwendigkeit zur Verbesserung der Datenkompressionsalgorithmen, insbesondere der verlustreichen Kompression von Graphikbildern. Die Erfindung liefert einen verbesserten verlustreichen Kompressionsalgorithmus, der insbesondere beim Komprimieren von Graphikbildern effizient ist.
US-5 276 525 beschreibt ein Codiersystem und -verfahren, bei dem Bilddaten (pictorial data) in mehrere Unterbänder zerlegt werden, und wobei in jedem der höherfrequenten Unterbänder Abtastwerte quantisiert und partizioniert werden. Blöcke in jedem Unterband werden auf eine Art abgetastet, die von den Charakteristika des Bandes Gebrauch macht, um so die gemittelte Länge der Abtastwert-Folgen von Nullen und Nicht-Nullen zu erhöhen.
Das Dokument "Subband coding of video using energyadaptive arithmetic coding and statistical feedback-free rate control" von Ashok Popat u. a., Visual Communication and Image Processing '91, Boston, SPIE Band 1605, S. 940–953 beschreibt eine Videounterband-Codiertechnik, beruhend auf einer räumlich und spektral lokalisierten Unterbandanalyse, gefolgt von einer skalaren Quantisierung und einer direkten arithmetischen Codierung. Die Quantisierungs- und Codierungsparameter werden auf der Grundlage der lokalen Energie des Unterbandpixel adaptiert.
ZUSAMMENFASSUNG DER ERFINDUNG
Die Erfindung umfaßt ein Verfahren zur adaptiven Bit-Allokation und gemischten, verlustfreien Entropie-Codierung (im folgenden auch als Verlustfreies Hybrid-Entropie-Codierverfahren bezeichnet) in einem verlustreichen Kompressionssystem nach Anspruch 1. Des weiteren ist ein Verfahren zur Komprimierung von Bilddaten entsprechend Anspruch 7 und Anspruch 8 festgelegt. Die bevorzugte Ausführungsform des Kompressionsalgorithmus der Erfindung enthält drei Komponenten: (1) eine Transformationsstufe zum Dekorrelieren von Bilddaten in ein Basisband und mehrere Unterbänder, (2) eine Quantisierungsstufe zum Quantisieren der sich ergebenden Transformationskoeffizienten, und (3) eine verlustreiche Entropie-Codierstufe zum Codieren der Quantisierungsindizes. Die Dekompression wird durch Umkehren der Kompressipnsstufen erreicht.
Bei der bevorzugten Ausführungsform verwendet die Transformationsstufe einen Elementarwellen- oder Wavelet-Transformalgorithmus. Jedoch können andere Umwandlungen verwendet werden, wie etwa der gut bekannte diskrete Cosinus-Transformationsalgorithmus (DCT). Die Quantisierungsstufe schätzt rekursiv und adaptiv die optimale Quanitisierungsgröße für jedes Band mit einer Annäherung zwischen Quantisierungsgröße und Quantisierungsfehler. Genauer gesagt, die Quantisierungsstufe schätzt Adaptivwerte für Parameter, die eine Annäherung zwischen der Quantisierungsgröße und dem Logarithmus des Quantisierungsfehlers festlegen, und berechnet rekursiv die optimale Quantisierungsgröße für jedes Band, um eine gewünschte Bitrate zu erzielen. Das Basisband und die Unterbänder werden dann in Quantisierungsmatrizen mit den entsprechenden Quanitisierungsgrößen umgewandelt.
Die verlustfreie Entropie-Codierstufe nutzt in vorteilhafter Weise die Beobachtung aus, daß die Entropie-Eigenschaft von Lauflängen mit Null-Indexwerten in den Unterband-Quantisierungsmatrizen, die erfindungsgemäß hergestellt werden, sich von den Entropie-Eigenschaften von Nicht-Null-Indizes unterscheiden. Dementsprechend wurde ein Hybrid-Entropie-Algorithmus entwickelt. Insbesondere wird jede Quantisierungsmatrix so analysiert (parsed), so daß: (1) die Position jedes Nicht-Null-Index durch ein spezielles Zeichen (token) "1" ersetzt wird, und (2) jeder Nicht-Null-Index extrahiert und in einen separaten Strom gebracht wird. Dies führt zu einer einfachen binären Maskierungsmatrix, die die Position jedes Nicht-Null-Index in jedem Unterband anzeigt, und einem Strom von Nicht-Null-Indizes. Die binäre Maske wird dann mit herkömmlicher Lauflängencodierung (einschließlich Codieren der Lauflänge der "1"-Tokens) zum Erzeugen einer lauflängencodierten Matrix verarbeitet. Da die binäre Maske nur zweiwertig ist, wechseln sich Lauflängen von "0" und "1" ab. Dieses Muster wird in einen ungeraden Strom von Lauflängenwerten von "0" und einen geraden Strom von Lauflängenwerten von "1" analysiert. Das Ergebnis dieses Prozesses ist, daß die Quantisierungsmatrix für jedes Unterband in drei Ströme aufgeteilt ist (einem Nicht-Null-Strom, einen "0"-Lauflängenstrom und einen "1"-Lauflängenstrom), die dann getrennt in herkömmliche Art Huffman-codiert werden. Dieser hybride Entropie-Codieralgorithmus gibt eine etwa 10%ige Verbesserung gegenüber herkömmlichen Lauflängen- und Huffman-Codierung ähnlicher Bilder. Der Gesamtkompressionsalgorithmus gibt in etwa 2 bis 6 dB Verbesserung bezüglich des Spitzensignal/Rausch-Verhältnisses (PSNR; peak signal-to-noise ratio) gegenüber dem JPEG-Algorithmus für gleiche Bilder bei gleichen Bit-Raten.
Die Details der bevorzugten Ausführungsform der Erfindung sind in den beiliegenden Zeichnungen und in der folgenden Beschreibung ausgeführt. Wenn einmal die Details der Erfindung bekannt sind, ergeben sich dem Fachmann zusätzliche Innovationen und Änderungen von allein.
KURZE BESCHREIBUNG DER ZEICHNUNGEN
1 ist ein Blockdiagramm der drei Komponenten, die einen Kompressionscodierer entsprechend der Erfindung enthalten.
2 ist ein Blockdiagramm, das eine Multipegel-Dekomposition eines Bildes zeigt.
3 ist ein Diagramm, das eine Quantisierungsfunktion zeigt, welche alle x-Werte in dem Intervall d₁ bis d₂ zu dem Wert r_i kartiert (maps).
4 ist ein Diagramm, das eine Anwendung eines Differentialpulscodier-Modulationsalgorithmus auf ein laufendes Pixel x zeigt.
5 ist ein Flußdiagramm, das einen gemischten Verlust von einem Entropy-Codieralgorithmus der Erfindung zeigt.
Ähnliche Bezugszeichen und Bezeichnungen in den verschiedenen Zeichnungen zeigen gleiche Elemente an.
DETAILLIERTE BESCHREIBUNG DER ERFINDUNG
Durch die Beschreibung sollte die bevorzugte Ausführungsform und die Beispiele als Beispiele verstanden werden, und nicht als Beschränkung der Erfindung.
Überblick
Die bevorzugte Ausführungsform des Kompressions-Algorithmus der Erfindung enthält drei Komponenten, wie es in 1 gezeigt ist: (1) eine Wandler- oder Transformatorsstufe 1 zum Dekorrelieren von Bilddaten, (2) eine Quantisierungsstufe 2 zum Quantisieren der sich ergebenden Wandlungskoeffizienten und (3) eine verlustfreie Entropiecodierstufe 3 zum Codieren der Quantisierungsindizes. Die Dekomprimierung wird durch Invertieren der Komprimierstufen durchgeführt.
Bei der bevorzugten Ausführungsform verwendet die Wandlerstufe einen Wavelet-Wandleralgorithmus. Jedoch können andere Wandler, wie etwa gut bekannte diskrete Kosinuswandler-Algorithmen (DCT; discrete cosine transform algorithm) verwendet werden: Zur Vereinfachung des Verständnisses wird die Erfindung annehmen, daß ein Wavelet-Wandleralgorithmus verwendet wird.
(1) Wavelet-Wandlung
Wavelet-Wandler sind relativ neue mathematische Werkzeuge. Ein allgemeiner Wavelet-Wandler kann effektiv Bilddaten dekorrelieren, indem ein Bild in einer Anzahl von leicht komprimierbaren Unterbildern zerlegt wird, die Hochfrequenzinformation (oder Kanteninformation) enthalten. Bei der bevorzugten Ausführungsform wird der Wavelet-Wandler in mehreren Pegeln verwendet, um ein Bild zu zerlegen. Jeder Pegel des Wavelet-Wandlers zerlegt das Bild in bekannter Art in vier ¼ große Unterbilder.
Beispielsweise in 2 wird ein Bild 20, das eine zweidimensionale Pixel darstellende Zahlen-Matrix enthält, in der Wandlerstufe 1 in vier ¼ große Unterbilder LL0, HL0, LH0 und HH0 durch Anwenden des Wavelet-Wandlers zerlegt. Dann, wie es durch die punktierte Linie angezeigt ist, wird die Wavelet-Wandlung auf das LL0-Unterbild angewendet, um LL1, HL1, LH1 und HH1 Unterbilder herauszuziehen, und dann wird sie erneut auf das LL1-Unterbild angewendet, um LL2, HL2, LH2 und HH2-Unterbilder zu erhalten, und dann noch einmal auf das LL2-Unterbild, um LL3, HL3, LH3 und HH3-Unterbilder zu erhalten.
In dem in 2 gezeigten Beispiel wird das Unterbild LL3 des vierten Pegels Basisband- oder Grundbandbild genannt, und stellt eine geschrumpfte Version des Originalbildes 20 dar, das ein 256-stel der Größe des Originalbildes 20 hat. Die 12 verbleibenden Unterbilder, die hier "Unterbandbilder" oder einfach "Unterbänder" genannt werden, ersetzen die Differenz zwischen dem Basisbandbild und dem Originalbild 20. Genauer gesagt, die Unterbandbilder repräsentieren Kanteninformation in der Horizontal-, Vertikal- und Diagonalausrichtung (bezeichnet als HL, LH, HH).
Als ein Ergebnis der bevorzugten vier Pegel-Wavelet-Zerlegung wird das Bild 20 in ein Grundbandbild LL3 und 12 Unterbandbilder (HL0–3, LH0–3 und HH0–3) zerlegt. Wenn gewünscht, kann das gezeigte Basisbandbild weiter in ähnlicher Art mehrere Schichten herab zerlegt werden, was zu einer ähnlichen pyramidenförmigen Struktur mit zusätzlichen Unterbändern führt.
Eine vorteilhafte Eigenschaft der Wavelet-Wandlerunterbänder ist, daß die in jedem Unterband enthaltenen Daten sehr sparsam sind und die meisten Pixelwerte in der Nähe von Null sind. Diese Eigenschaft führt zu einer verbesserten Quantisierung und einer verlustfreien Entropiecodierung entsprechend der Erfindung.
Bei der bevorzugten Ausführungsform wird die Implementierung der Wavelet-Wandlung mit einem paar sorgfältig ausgestalteter Wavelet-Filter erreicht. Unter den vielen möglichen Wavelet-Filtern verwendet die bevorzugte Ausführungsform der Erfindung biorthogonale Filter von Daubechies 7 und 9 als Wavlet-Filter. Diese Filter werden in bekannter Art mit einer finiten Impulsantwort-Implementierung (FIR; finite impulse response) in einer Straightforward-Art implementiert.
(2) Quantisierung
Die Quantisierung verwirft unvoraussagbare Information im Basisband und in den Unterbandbildern, um eine Komprimierung zu erzielen, um so eine Bitratenanforderung seitens des Benutzers zu erfüllen. Ein Quantisierer ist eine "viele-zu-einem"-Funktion Q(x) (many to one function), die mehrere Eingangswerte in einem kleineren Satz von Ausgabewerten abbildet bzw. kartiert. Quantisierer sind eine Stufenfunktion, die durch einen Satz von Zahlen gekennzeichnet ist, die Entscheidungspunkte d_i genannt werden, und ein Satz von Zahlen, die Wiederherstellungspegel r_i genannt werden. Ein Ausgabewert x wird auf einen Rekonstruktionspegel r_i kartiert, wenn er in dem Intervall zwischen (d_i, d_i+1) liegt. Beispielsweise ist 3 ein Diagramm, das die Kartierung von allen x-Werten in dem Intervall d₁ bis d₂ auf den Wert r₁ zeigt. Das Intervall d_i bis d_i+1 muss nicht für alle i gleichmäßig sein.
Bei der bevorzugten Ausführungsform, bei der die Wavelet-Wandlung eine gute Arbeit bei der Dekorrelierung der Bilddaten im allgemeinen durchführt, wird ein gleichmäßig skalarer Quantisierer bei der Quantisierungsstufe 2 verwendet. Die Gleichung für die bevorzugte gleichmäßige skalare Quantisierung ist:
wobei qi die Quantisierungsgröße des Unterbandes i ist.
Zusätzlich, da es weiterhin ein hohes Ausmaß an Korrelation zwischen benachbarten Pixeln in dem Basisbandbild gibt, wird eine Differentialpulscode-Modulation (DPCM) verwendet, um die Grundbanddaten weiter vorauszusagen und zu quantisieren. Insbesondere wird bei der bevorzugten Ausführungsform das Grundbandbild zeilenweise von oben nach unten abgetastet und jedes Pixel wird einem DPCM-Algorithmus unterworfen. Beispielsweise zeigt 4 ein laufendes Pixel x, das mit Hilfe von drei benachbarten Pixel a, b, c, die bereits quantisiert wurden, vorausgesagt wird. Eine einfache Voraussage wird bei der bevorzugten Ausführungsform verwendet. Insbesondere wird der Voraussagerest r wie folgt berechnet: r = x – a* – b* + c* (2)wobei a*, b*, c* die rekonstruierten (oder "dequantisierten") Pegel von a, b und c sind. Der Voraussagerest r wird dann durch einen gleichmäßigen skalaren Quantisierer durchgeleitet, wie jener, der in Gleichung (1) gezeigt ist.
Unterbandbilder repräsentieren Kanteninformation bei unterschiedlicher Ausrichtung der unterschiedlichen Pegel. Somit wird jedes Unterband eine getrennte Quantisierungsgröße entsprechend den statistischen Eigenschaften jedes Unterbands haben. Die Prozedur zum Bestimmen der optimalen Quantisie rungsgröße wird Bit-Allokation genannt. Die Erfindung umfaßt ein neues adaptives Bit-Allokationsschema, das im Anschluß detailliert beschrieben wird.
Als ein Ergebnis der bevorzugten Quantisierungsstufe werden das Basisband und 12 Unterbandbilder jeweils in eine Quantisierungsmatrix aus Rekonstruktionspegeln r_i oder Quantisierungsindizes verarbeitet.
(3) Verlustfreie Entropie-Codierung
Die endgültige Kompression wird durch verlustfreie Codierung der Quantisierungsmatrix für jedes Unterband in der verlustfreien Entropie-Codiererstufe 3 erzielt. Die verlustfreie Entropie-Codiererstufe 3 weist jedem Quantisierungsindex ein variabel großes Zeichen oder Token entsprechend der Frequenz zu, mit der dieser Index auftritt, je häufiger ein bestimmter Index auftritt, desto kürzer wird das zugeordnete Zeichen. Die bevorzugte Ausführungsform der Erfindung benutzt die bekannte Huffman-Codiertechnik zum Codieren jeder Unterbandquantisierungsmatrix. Beim Stand der Technik, da eine Mehrzahl von Indizes in jeder Unterbandquantisierungsmatrix Null-Wert haben, würde die bekannte Lauflängencodierung in jeder Matrix normalerweise vor der Huffman-Codierung durchgeführt. Die Lauflängencodierung ersetzt einfach eine Folge von Datenwerten mit gleichem Wert durch ein Symbol, das den Datenwert erstellt und die Zahl solcher Werte in der Sequenz.
Die Ausgabe der verlustfreien Entropie-Codierstufe 3 ist eine Datenstruktur, die eine komprimierte Version des Originalbilds 20 darstellt. Diese Datenstruktur kann übertragen und/oder für spätere Wiederherstellung in ein Bild, das sich dem ursprünglichen Bild 20 nähert, gespeichert werden.
Beruhend auf ausführlichen empirischen Analysen bei der Entwicklung der Erfindung wurde beobachtet, daß die Entropie-Eigenschaft (nämlich die Zufälligkeit) von Lauflängen mit Null-Indexwerten in den Unterbandquantisierungsmatrizen, die durch die Erfindung erzeugt werden, sich von der Entropie-Eigenschaft von Nicht-Null-Indizes unterscheidet. Dementsprechend wurde ein Hybrid-Entropie-Codieralgorithmus ent wickelt, der eine etwa 10%ige Verbesserung gegenüber den herkömmlichen Lauflängen des Huffman-Codieransatz liefert. Dieser Hybrid-Entropie-Codieralgorithmus wird im Detail anschließend beschrieben.
Bit Allokation
Die Bit Allokation ist ein Prozeß zum Bestimmen der Quantisierungsgröße für Grundband- und Unterbandbilder, so daß der gesamte Quantisierungsfehler sich einem Minimum nähert, unter der Einschränkung einer Gesamtbitrate, die vom Benutzer eingestellt ist. Das Bestimmen eines solchen Minimums ist ein typisches Programmierproblem in der Mathematik. Man kann schreiben:
mit der Bedingung:
wobei : D_k(R_k) und R_k die Störung (Quantisierungsfehler) bzw. die Bitrate für das Grundbandbild und jedes Unterbandbild sind, wobei R_total eine ausgewählte Gesamtbitrate ist, und wobei m_k der Herabskalierfaktor ist, der durch das Verhältnis der Bildgröße zur Unterbandgröße festgelegt ist (beispielsweise für die Skalierungsstruktur, die in 2 gezeigt ist, gilt m_LH1 = 16; m_LH3 = 256).
Die Lösung von Gleichung (3) kann durch Lagrange-Multiplikation gefunden werden:
wobei J die Gesamtkostenfunktion und λ der Lagrange-Multiplikator ist. Das Minimum von J wird erreicht, wenn die erste partielle Ableitung von J gleich Null ist. Diese Bedingung führt zu:
für alle Unterbänder i. Zur Lösung von Gleichung (6) muss der explizite Ausdruck von D_k(R_k) bekannt sein. Jedoch ist es in der Praxis schwierig, einen expliziten Ausdruck für D_k(R_k) für jedes Unterband zu finden.
Es ist bekannt, daß die wahrscheinliche Störung der Verteilungsfunktion (PDF; probability distribution function) von Unterbanddaten durch ein verallgemeinertes Gaussian-Modell angenähert werden kann, für das D_k(R_k) bekannt ist. Dieser Ansatz führt zu einer Allokation der Bit-Rate proportional zu dem Logarithmus der Varianz der Unterbanddaten und wird oft bei verschiedenen Wavelet-Bildcodierschemata verwendet. Leider zeigt eine genaue Untersuchung dieses Verfahrens, daß dieses Verfahren nicht hinreichend korrekt ist und nicht zu einer optimalen Bit-Allokation führt. Wenn Bitrate-Allokation einfach proportional dem Logarithmus der Varianz des Unterbandes durchgeführt wird, heißt das, daß, wenn zwei Unterbänder die gleiche Varianz haben, ihre Kurve gleich sein wird. Andererseits wurde, beruhend auf ausführlichen empirischen Analysen beim Entwickeln der Erfindung festgestellt, daß die am besten angepaßte Kurve sich für Unterbänder mit gleicher Varianz unterscheidet.
Anstatt des oben genannten Verfahrens nutzt die Erfindung den Vorteil der Beobachtungen, die während der Entwicklung der Erfindung gemacht wurden, nämlich daß (1) der Logarithmus des mittleren quadratischen Fehlers (MSE; mean square error) der Quantisierung eines Unterbandes der entsprechenden Bitrate (die durch die verlustfreie Codierung der Quantisierungsindizes für jedes Unterband bestimmt wurde), durch eine gerade Linie angenähert werden kann, und daß (2) eine solche Bitrate aus der Quantisierungsgröße angenähert werden kann.
Mit dem Geradlinien-Modell kann die Störung (Quantisierungsfehler) zur Bitratenkurve für jedes Band ausgedrückt werden als:
wobei a_k und b_k Parameter sind, die die Linie oder Gerade in Abhängigkeit des Unterbandes k darstellen. Mit Gleichung (7) wird aus Gleichung (6):
Unter der Beschränkung der Gesamtbitrate R_total führt dies zu:
Aus Gleichung (9) folgt:
Aus Gleichung (10) kann die Unterband-Bitrate mit Gleichung (8) abgeleitet werden. Jedoch, da es das Ziel ist, die Quantisierungsgröße anstatt der Bitrate zu finden, muss die Beziehung zwischen der Bitrate und der Quantisierungsgröße bestimmt werden. Es ist beobachtet worden, daß die Beziehung zwischen der Bitrate R_k und der Quantisierungsgröße Q_k durch die folgende Gleichung angenähert werden kann:
Aus Gleichung (11) folgt:
wobei: Max_k, Min_k die maximalen und minimalen Koeffizienten des Unterbandes k sind, wobei c_k und d_k – ähnlich zu a_k und b_k – Konstanten sind, die von den statistischen Eigenschaften des Unterbandes k abhängig sind und aus einfacher Kurvenanpassung bestimmt werden können.
Mit dem oben beschriebenen Modell kann das Bit-Allokationsproblem durch Schätzen von a_k, b_k, c_k und d_k für jedes Unterband gelöst werden. Diese Schätzungen können Off-Line durch statistische Berechnung der Bitrate für jedes Unterband über eine große Anzahl von abgetasteten Bildern durchgeführt werden. Dies ist jedoch nicht optimal für ein bestimmtes Bild. Da a_k, b_k, c_k und d_k Parameter sind, die eine gerade Linie darstellen, können sie leicht während der Verarbeitung (on the fly) bestimmt werden. Angenommen sei, daß n Punkte in der Kurve D_k(R_k) bekannt sind und auch D_k(R_k) , so daß (Q_i, D_i, R_i), i = 1, 2, ...n, dann gilt:
Bei der bevorzugten Ausführungsform wird der Satz von Q_i so besetzt, daß er anfängliche Einstellwerte hat, die einen vernünftigen Bereich möglicher Quantisierungswerte abdecken. D_i die Störung (Fehler) der Quantisierung wird mit Gleichung (1) berechnet. Die Bitrate, R_i, wird durch Aufrufen der verlustfreien Codierroutine (im Anschluß beschrieben) berechnet. Bei der bevorzugten Ausführungsform wird n empirisch auf 6 eingestellt. Jedoch können andere Werte für n benutzt werden, je nach Bedarf.
Mit dem oben genannten Ansatz werden die folgenden Schritte bei der bevorzugten Ausführungsform der Erfindung durchgeführt, um adaptiv die Bit-Allokationen für das Grundband und die Unterbandbilder während der Quantisierungsstufe 2 zu bestimmen:

(1) Schätzen von Werten für Parameter, die eine Annäherung zwischen der Quantifizierungsgröße und dem Quantisierungsfehler für jedes Unterband festlegen – d. h. Schätzen von a_k, b_k, c_k, und d_k für jedes Unterbandbild k mit Gleichungen (13, (14), (15) und (16). Wiederum sind Max_k und Min_k die Maximal- und Minimalkoeffizienten des Unterbandes k, die durch Suchen der Koeffizienten bestimmt werden. Berechnen eines Anfangssatzes für Q_i aus:
wobei N_i = {8, 12, 15, 24, 48, 64} für die ersten 8 Unterbänder und N_i = {8, 10, 14, 18, 36, 50} für die letzten 4 Unterbänder. N_i ist die Gesamtanzahl der Quantisierungspegel für Q_i ist. Die Anzahl der Bits pro Index ist in der Nähe von Logarithmus (N_i), wenn keine verlustfreie Codiertechnik verwendet wird. Die Werte von N_i sind empirisch so ausgewählt, daß sie einen möglichen Bereich der Bitraten für jedes Unterband abdecken.
(2) Schätzen von Werten für Parameter, die eine Annäherung zwischen der Quantisierungsgröße und dem Quantisierungsfehler für das Grundband festlegen – d. h. Schätzen von a_k, b_k, c_k und d_k für das Grundbandbild mit den Gleichungen (13, (14), (15) und (16). Max und Min sind auf 2000 bzw. 0 für das Grundband eingestellt. Max und Min sind feststehende Werte für das Grundbandbild in Gleichung (11), da das Grundbandbild die DPCM-Quantisierung verwendet. Die bevorzugten Werte werden empirisch bestimmt. Q_i = {4, 10, 20, 40, 80, 100}. Die Werte für Q_i werden empirisch so ausgewählt, daß sie einen vernünftigen Bereich für Q_i für das Basisbandbild abdecken.
(3) Berechnen der optimalen Bitrate R_k für jedes Basisband- und Unterbandbild aus den Gleichungen (8) und (10).
(4) Wenn R_k < 0 ist, zeigt dies, daß die Information im Unterband k zu klein ist, so daß sie verworfen werden kann, wobei das Unterband k gekennzeichnet und von dem Unterband-Pool ausgeschlossen wird, wobei zu Schritt (3) zurückgegangen wird, und die optimalen Bitraten R_k noch einmal berechnet werden.
(5) Berechnen von Q_k mit Gleichung (12). Das Ergebnis dieses Prozesses ist ein Satz optimaler Quantisierungsgrößenwerte Q_k, die in Gleichung (1) verwendet werden können (dort als q_i gezeigt).

Verlustfreie Entropie-Codierung
Beim Stand der Technik werden die Quantisierungsmatrizen lauflängencodiert und dann Huffman-codiert. Die Erfindung lehrt ein effizienteres Verfahren zum codieren, das eine etwa 10%ige Verbesserung gegenüber dem herkömmlichen Ansatz einer Lauflängencodierung und Huffman-Codierung bietet.
5 ist ein Flußdiagramm, das den gemischten verlustfreien Entropie-Codieralgorithmus der Erfindung zeigt. Anfänglich ist in diese Stufe jedes Unterband als eine Quantisierungsmatrix 50 mit einem Satz von Quantisierungsindizes dargestellt. Jede Quantisierungsmatrix 50 wird analysiert, so daß (1) die Position jedes Nicht-Null-Index durch ein besonderes Zeichen oder Token "1" ersetzt wird, und (2) jeder Nicht-Null-Index extrahiert und in einen separaten Strom gesetzt wird. Dies führt zu einer einfachen binären Maskenmatrix 51, die die Position jedes Nicht-Null-Index in jedem Unterband und einen Strom 52 von Nicht-Null-Indizes anzeigt.
Normalerweise ist eine solche binäre Maske 51 schwieriger zu komprimieren, als der Nicht-Null-Strom 52, da die binäre Maske 51 tatsächlich die Strukturinformation des ursprünglichen Bildes darstellt. Jedoch wurde während der Entwicklung der Erfindung festgestellt, daß die Daten in jedem Unterband typischerweise sparsam oder gering sind, so daß die Lauflängen von "0" sehr lang sind, aber daß die Lauflängen von "1" normalerweise kurz sind. Anders gesagt, die Entropieeigenschaft der Lauflängen von "0" sind anders als die Entropieeigenschaft der Lauflängen von "1". Somit wurde festgestellt, daß es besser ist, eine Huffman-Codierung der "0"-Lauflängenindizes und der "1"-Lauflängenindizes getrennt durchzuführen.
Dementsprechend wird bei der bevorzugten Ausführungsform die binäre Maske 51 mit einer herkömmlichen Lauflängencodierung (einschließlich Codierung der Lauflängen von der "1"-Tokens) durchgeführt, um eine lauflängencodierte Matrix 53 zu erzeugen. Es sei angemerkt, daß, da die binäre Maske 51 nur zweiwertig ist, die Lauflängen von "0" und "1" sich abwechseln. Daher hat die lauflängencodierte Matrix 53 ein Ungerade-Gerade-Muster. Dieses Muster wird in zwei Lauflängenströme 54, 55 analysiert (parsed), wobei ein ungerader Strom 54 der Lauflängenwerte für "0" und ein gerader Strom 55 der Lauflängenwerte für "1" festgelegt werden. (Natürlich kann die Bezeichnung von gerade und ungerade umgekehrt sein.
Das Ergebnis dieses Prozesses ist, daß die Quantisierungsmatrix für jedes Unterband in drei Ströme aufgeteilt ist (den Nicht-Null-Strom 52, den "0"-Lauflängenstrom 54 und den "1"-Lauflängenstrom 55), die dann getrennt und in herkömmlicher Art Huffman-codiert werden.
Idealerweise wird jedes Unterband dieser Art individuell bearbeitet, da ihre statistischen Eigenschaften unterschiedlich sind. Jedoch würden für 12 Unterbänder 36 Huffman-Ströme erzeugt (weiterhin für Farbbilder hätte jedes Unterband 3 Farbraumkomponenten wie etwa YUV oder RGB). Dies ist nicht sehr effizient hinsichtlich der Geschwindigkeit und Dateigröße aufgrund des zusätzlichen Overheads in dem Dateiformat. Empirisch wurde festgestellt, daß die drei Unterbänder auf jedem Pegel der Wavelet-Wandlung ziemlich ähnliche Entropieeigenschaften haben. Dementsprechend wird bei der bevorzugten Ausführungsform der Erfindung die Quantisierungsmatrizen für jeden Satz von drei Unterbändern zusammen kombiniert auf einer Zeile-Basis, bevor das oben genannte Hybrid-Codierschema angewendet wird. (Andere Kombinationen, wie etwa spaltenweise, können verwendet werden).
Bei der bevorzugten Ausführungsform wird eine übliche Lauflängencodierung gefolgt von der Huffman-Codierung für das Grundband angewendet, da die Grundbandreste (baseband residue) nicht sparsam sind und das Anwenden des oben genannten Hybrid-Codieransatzes zu einem geringen oder überhaupt keinem Gewinn bei der Kompression führt. Jedoch, wenn gewünscht, kann der erfindungsgemäße Hybrid-Codieralgorithmus auch für das Grundband verwendet werden.
Wichtig ist, daß der Hybrid-Codieralgorithmus in jedem anderen Zusammenhang verwendet werden kann, wo ein beachtlicher Unterschied in der Entropie-Eigenschaft von Lauflängen von "0" im Vergleich mit der Entropie-Eigenschaft von Lauflängen von Nicht-"0"-Elementen besteht (die durch Substitution von "1"-Tokens gewandelt werden können).
Bei der bevorzugten Ausführungsform wird eine herkömmliche Lauflängencodierung zuzüglich einem Huffman-Codieransatz bei der verlustfreien Codierroutine zum Codieren des Grundbandes und der Unterbänder, die in der Qantisierungsstufe 2 zum Bestimmen der Bitrate, die mit einer jeweiligen Quantisierungsgröße verbunden sind, verwendet werden, eingesetzt. Dieser Ansatz wurde angesichts der Berechnungsgeschwindigkeit und der Speicherbegrenzungen gewählt. Jedoch ist zu erkennen, daß andere Mittel zum Bestimmen oder Schätzen der Bitrate verwendet werden können, wie etwa der oben beschriebene Hybridansatz.
Format eines komprimierten Stroms
Bei der bevorzugten Ausführungsform werden jeder Huffman-codierte Strom für das Grundband und die Unterbänder sowie andere allgemeine Bildinformation zusammen in einen einzelnen Bitstrom kombiniert. Bei der bevorzugten Ausführungsform wird der Bitstrom in der folgenden Reihenfolge organisiert, um ein progressives Playback zu erzielen (d. h. die Decodierung des Grundbandabschnitts für den Bitstrom für das komprimierte Bild wird durchgeführt, um als erstes ein "grobkörniges" Bild zu erzeugen, und dann progressiv den Unterbandabschnitt des Bitstroms zu decodieren, um sukzessiv zu überlagern und Auflösung auf das zugrundeliegende Bild hinzuzufügen, bis zur Beendigung):
Allgemeine Bildinformation

Y Grundband
U Grundband
V Grundband
Y Unterband 1
U Unterband 1
V Unterband 1
Y Unterband 2
U Unterband 2
V Unterband 2
Y Unterband 3
U Unterband 3
V Unterband 3
Y Unterband 4
U Unterband 4
V Unterband 4

Allgemeine Bildinformation
Die allgemeine Bildinformation enthält Information bezüglich der Abmessung des Bildes und des Farbraumes und enthält die folgenden Komponenten bei der bevorzugten Ausführungsform:
Grundbandstrom
Jeder Grundbandstrom (nämlich einer für jede Farbe) enthält einen Bit-Strom mit den folgenden Komponenten bei der bevorzugten Ausführungsform:
Unterbandstrom
Jeder Unterbandstrom enthält einen Bitstrom für jede Farbe der drei Unterbänder entsprechend jedem Pegel der bevorzugten Wavelet-Wandlung und enthält die folgenden Komponenten bei der bevorzugten Ausführungsform:
Decodierung
Das Decodieren eines Bitstroms, der mit der Erfindung codiert wurde, ist straightforward und kann wie folgt durchgeführt werden:

(1) Decodieren des Huffman-Stroms;
(2) Für jedes Unterband neu bilden einer binären Maske durch Verschachteln und Expandieren der "0"-Lauflängenströme und der "1"-Lauflängenströme;
(3) Neu bilden der entsprechenden Quantisierungsmatrix aus der binären Maske und dem Nicht-Null-Strom durch sequentielles Ersetzen der Nicht-Null-Werte durch "1"-Tokens (das kann mit Schritt (2) kombiniert werden);
(4) Anwenden der entsprechenden Quantisierungsgrößenwerte für jede Quantisierungsmatrix in bekannter Art zum Erzeugen des Grundbandbildes und der Unterbandbilder;
(5) Anwenden der umgekehrten Transformation in bekannter Art auf das Grundbandbild und die Unterbandbilder zum Erzeugen einer Annäherung an das Originalbild.

Die decodierten Bilder in dem Grundbandpegel und jedem Unterbandpegel aus Schritt (5) können vor dem Decodieren des nächsten Pegels angezeigt werden, wodurch ein progressives Playback ermöglicht wird.
Verwirklichung
Die Erfindung kann in Hardware oder Software verwirklicht werden oder als Kombination beider. Jedoch wird die Erfindung vorzugsweise in einem oder mehreren Computerprogrammen verwirklicht, die auf einem oder mehreren programmierbaren Computern laufen, die jeweils einen Prozessor, ein Datenspeichersystem (einschließlich flüchtiger und nichtflüchtiger Speicher und/oder Speicherelemente) mit zumindest einer Eingabevorrichtung und zumindest einer Ausgabevorrichtung enthalten. Der Programmcode wird auf Eingabedaten angewendet, um die hier beschriebenen Funktionen durchzuführen und Ausgabeinformation zu erzeugen. Die Ausgabeinformation wird auf ein oder mehrere Ausgabevorrichtungen in bekannter Art angewendet.
Jedes Programm wird vorzugsweise in einer Highlevel-Prozedur- oder objektorientierten Programmiersprache implementiert, um mit einem Computersystem zu kommunizieren. Jedoch können die Programme in Assembler oder Maschinensprache implementiert sein, wenn dies gewünscht ist. In jedem Fall kann die Sprache kompaliert oder sprachinterpretiert werden.
Jedes solches Computerprogramm wird vorzugsweise auf einem Speichermedium oder einer Vorrichtung (beispielsweise einem ROM oder einer Magnetdiskette) gespeichert, die durch einen Allgemein- oder einen Spezialzweck programmierbaren Computer gelesen werden können, um zum Konfigurieren und zum Betreiben des Computers, wenn das Speichermedium oder die Vorrichtung von dem Computer gelesen ist, um die oben beschriebenen Prozeduren auszuführen. Das Erfindungssystem kann auch so gesehen werden, daß es als ein Computer lesbares Speichermedium implementiert ist, das mit einem Computerprogramm konfiguriert ist, wobei das Speichermedium so ausgestaltet ist, daß es einen Computer veranlaßt, in einer vorgegebenen und bestimmten Art zu arbeiten, um die hier beschriebenen Funktionen durchzuführen.
Eine Anzahl von Ausführungsformen der Erfindung wurde beschrieben. Nicht desto trotz ist es zu verstehen, daß verschiedene Modifikationen vorgenommen werden können, ohne vom Geist und Schutzumfang der Erfindung abzuweichen. Beispielsweise, während der Begriff "Matrix" zum Beschreiben einer Bilddatenstruktur verwendet wurde, ist dieser nicht dahingehend zu interpretieren, daß er eine strikte zweidimensionale Datenstruktur meint. Andere Datenstrukturen, die im Stand der Technik bekannt sind, können leicht zum Speichern relevanter Pixel oder Indexinformation verwendet werden. Weiterhin können, obwohl die Huffman-Codierung als bevorzugte Verfahren für den verlustfreien Entropie-Codierschritt beschrieben wurde, andere verlustfreie Entropie-Codieralgorithmen, wie etwa eine arithmetische Codierung, verwendet werden. Darüber hinaus, während Bildkompression diskutiert wurde, können die beschriebenen Algorithmen auf andere Datentypen angewendet werden. Dementsprechend ist zu verstehen, daß die Erfindung nicht durch die spezifische Ausführungsform, die hier beschrieben wurde, begrenzt ist, sondern nur durch den Schutzumfang der beiliegenden Ansprüche.

Claims

Verlustfreies Hybrid-Entropie-Codierverfahren zum Komprimieren von Daten mit einer Matrix (50) mit einer Mehrzahl Null-Indices und Nicht-Null-Indices, wobei das Verfahren die Schritte umfasst: (a) Ersetzen jedes Nicht-Null-Index in der Matrix durch ein eindeutiges Zeichen, wodurch eine analysierte Matrix (51) mit einer Mehrzahl Null-Indices und Zeichenindices gebildet wird; (b) Einfügen jedes Nicht-Null-Index von der Matrix (50) in einen ersten Datenstrom (52); (c) Lauflängencodieren der analysierten Matrix (51) in abwechselnde Lauflängencodes (53) für Nicht-Null-Indices und einmalige Zeichenindices; (d) Anordnen der Lauflängencodes für die Null-Indices in einen zweiten Datenstrom (55), (e) Anordnen der Lauflängencodes für die einzigartigen Zeichenindices in einen dritten Datenstrom (54); und (f) Codieren des ersten (52), zweiten (55) und dritten (54) Datenstroms mit einem verlustfreien Entropie-Codier-Algorithmus.
Verfahren nach Anspruch 1, das in einem programmierbaren Computer mit einem Prozessor, einem Datenspeichersystem und zumindest einer Ausgabevorrichtung implementiert ist, wobei das Verfahren des weiteren die Schritte umfasst: Speichern der Matrix (50) als Daten in dem Datenspeichersystem des programmierten Computers, Erzeugen des ersten, zweiten und dritten Datenstroms als Ausgabeinformation; und Anwenden der Ausgabeinformation auf zumindest eine der Ausgabevorrichtungen.
Verfahren nach Anspruch 1 oder 2, bei dem das einzigartige Zeichen "1" ist.
Verfahren nach Anspruch 1 oder Anspruch 2, bei dem der verlustfreie Entropie-Codier-Algorithmus eine Huffman-Codierung ist.
Verfahren nach Anspruch 1 oder Anspruch 2, bei dem der verlustfreie Entropie-Codier-Algorithmus eine arithmetische Codierung ist.
Verfahren nach Anspruch 1 oder Anspruch 2, bei dem die Matrix (50) Quantisierungsindices umfasst, die aus einem Bild durch eine verlustbehaftete Datenkompression und ein Quantisierungssystem abgeleitet wurden.
Verfahren zum Komprimieren von Bilddaten mit den Schritten: (a) Speichern eines Bildes in einem Computer als Bilddaten; (b) Anwenden eines Umwandlungs-Algorithmus (1) zum Entkorrelieren der Bilddaten in ein Basisband (LL3) und mehrere Unterbänder, (c) Erzeugen (2) von Quantifizierungskoeffizienten durch die Schritte: (1) adaptives Schätzen von Werten für Parameter, die eine Annäherung zwischen der Quantisierungsgröße und dem Logarithmus des Quantisierungsfehlers für jedes Band festlegen; (2) rekursives Berechnen einer optimalen Quantisierungsgröße für sowohl das Basisband als auch jedes der mehreren Unterbänder, um eine gewünschte Bitrate zu erzielen; (d) Anwenden der Quantifizierungskoeffizienten auf das Basisband (LL3) und die mehreren Unterbänder zum Erzeugen entsprechender Quantisierungsmatrizen (50), die jeweils eine Mehrzahl von Null-Indices und Nicht-Null-Indices enthalten; (e) Anwenden eines verlustfreien Entropie-Codierverfahrens, wie es in Anspruch 1 definiert ist, um verlustfrei jede Quantisierungsmatrix zu komprimieren.
Verfahren zum Komprimieren von Bilddaten mit den Schritten: (a) Speichern eines Bildes in einem Computer als Bilddaten; (b) Anwenden eines Umwandlungs-Algorithmus (1) zum Entkorrelieren der Bilddaten in ein Basisband (LL3) und mehrere Unterbänder, (c) Erzeugen (2) von Quantisierungskoeffizienten durch die Schritte: (1) Abschätzen von Werten für Parameter, die eine Annäherung zwischen einer Quantisierungsgröße und dem Logarithmus des Quantisierungsfehlers für jedes Unterband festlegen; (2) Abschätzen von Werten für Parameter, die eine Annäherung zwischen einer Quantisierungsgröße und dem Logarithmus des Quantisierungsfehlers für das Basisband festlegen; (3) Berechnen einer optimalen Bitrate R_k für sowohl das Basisband als auch die Unterbänder; (4) Markieren jedes Unterbandes k und Ausschließen dieses Unterbandes von den Unterbändern, wenn R_k < 0 für jedes Unterband k ist, und dann Rücksprung zu Schritt (3); (5) Berechnen einer Quantisierungsgröße Q_k sowohl für das Basisband als auch jedes Unterbandes aus:
(d) Anwenden jeder Quantisierungsgröße Q_k auf das entsprechende Basisband oder das entsprechende der mehreren Unterbänder zum Erzeugen entsprechender Quantisierungsmatrizen, die jeweils eine Mehrzahl von Null-Indices und Nicht-Null-Indices enthalten; (e) Anwenden des verlustfreien Hybrid-Entropie-Codierverfahrens, wie es in Anspruch 1 festgelegt ist, um verlustfrei jede Quantisierungsmatrix zu komprimieren.
Computerprogrammprodukt mit einem computerlesbaren Datenträger mit darauf gespeichertem Computerprogrammcode, der ausgestaltet ist, um, wenn das Programm in einen Computer geladen ist und auf diesem läuft, den Computer dazu zu bringen, das Verfahren nach einem der Ansprüche 1, 3, 4, 5, 6, 7 und 8 auszuführen.