La quantification vectorielle en treillis : principe, conception et performance

Abstract

Les besoins en télécommunication de notre société ont sensiblement augmenté depuis le début des années 80. L'apparition récente de la téléphonie cellulaire, et son adoption rapide par une portion de plus en plus vaste du public, en est la preuve la plus évidente. D'autre part, rien ne laisse présager que ce phénomène s'arrêtera aux cours de la prochaine décennie. Au contraire, l'arrivée prochaine de la radio numérique et l'espoir de l'apparition de la télévision haute-définition - probablement numérique - laissent entrevoir une utilisation de plus en plus grande des ressources fort limitées que sont les ondes hertziennes. Si pour l'instant une grande partie des signaux échangés sont des signaux analogiques, la très grande maniabilité des signaux numériques laisse présager leur emploi de plus en plus répandu dans l'avenir. Le besoin de techniques efficaces de codage numérique des formes d'ondes augmente donc sans cesse. Comme c'est souvent le cas en codage de source, la recherche de techniques efficaces profite des découvertes faites dans un autre domaine : le codage de canal et la modulation. Il existe en effet une équivalence entre le codage de source, qui est l'action de choisir une séquence de bits devant représenter au mieux un signal ; et la modulation, qui consiste à choisir les meilleurs signaux pour représenter une séquence de bits. Or, le domaine de la modulation a été très prolifique au cours de la décennie précédente, en particulier avec l'idée de la modulation par treillis. En 1982, Ungerboeck a proposé d'utiliser un treillis pour guider le modulateur dans le choix des séquences de signaux à transmettre sur un canal. Il a démontré que cette technique, connue depuis sous le nom de TCM pour Trellis Coded Modulation, permet de gagner entre 3 à 6 dB de rapport signal sur bruit par rapport aux techniques plus classiques consistant à coder d'abord le flot d'information et ensuite à moduler le code obtenu. Plus important encore, en travaillant directement avec les signaux du modulateur plutôt qu'avec les symboles du code, Ungerboeck a été amené à utiliser la distance euclidienne comme critère de comparaison entre les codes plutôt que la traditionnelle distance de Hamming ; rendant ainsi encore plus évidente l'équivalence entre le codage de source et la modulation. [UNGERBOECK, 1982 et 1987]. Les travaux de Ungerboeck ont inspiré Marcellin et Fischer qui ont proposé d'utiliser le treillis avec des alphabets scalaires dans la quantification de source [MARCELLIN et coll., 1990]. Ils ont démontré que pour un débit donné, la TCQ (Trellis Coded Quantization) permet d'atteindre un rapport signal sur bruit comparable à celui des meilleures techniques de quantification, en particulier la quantification vectorielle, sans impliquer une complexité aussi grande que dans le cas de ces quantificateurs haut de gammes. Les quantificateurs vectoriels opèrent simultanément sur plusieurs échantillons (vecteurs) et par là augmentent le rapport signal sur bruit comparativement à celui d'un quantificateur scalaire de même débit. Mais si le rapport signal sur bruit de ces quantificateurs augmente avec la taille des vecteurs, leur complexité de conception et de stockage augmente aussi, mais d'une manière exponentielle, avec cette taille, ce qui rend complexe la construction de quantificateurs vectoriels performants. Il semble assez naturel de s'interroger sur la pertinence de regrouper les deux principes ; soit la quantification vectorielle et la quantification en treillis ; afin d'obtenir un quantificateur vectoriel en treillis. Ces quantificateurs tenteront d'obtenir l'effet global d'un quantificateur vectoriel de très grande taille en « joignant» de façon judicieuse des quantificateurs vectoriels de petite taille. Il serait ainsi possible de construire des quantificateurs simples qui, utilisés avec le treillis, atteindront une performance équivalente à des quantificateurs vectoriels classiques beaucoup plus complexes. Cela n'ira toutefois pas sans quelques problèmes, entre autres en ce qui a trait à la construction des constellations, et en particulier à leur partage en sous-alphabets ; problèmes qui sont la principale motivation de cette recherche. Ce mémoire, dans sa première partie, dégage les grandes lignes du fonctionnement des quantificateurs en treillis tel que vu par Marcellin et Fischer afin de mettre en évidence l'aspect vectoriel de leur fonctionnement. Une technique de quantification, la quantification vectorielle en treillis, joignant les avantages de la quantification vectorielle et de la quantification en treillis, est ensuite présentée. Le chapitre 3 présente une méthode efficace permettant de construire des alphabets vectoriels raisonnables - pas nécessairement optimaux - pouvant être utilisés dans des quantificateurs en treillis. Finalement, les résultats obtenus par des quantificateurs vectoriels en treillis opérant sur une source Gaussienne de moyenne nulle et de variance unité seront comparés aux résultats de divers quantificateurs classiques.