Entropy in Signal Processing (Entropie en Traitement du Signal)
Abstract
Description
Résumé: Le principal objet de cette communication est de faire une rétro perspective succincte de l'utilisation de l'entropie et du principe du maximum d'entropie dans le domaine du traitement du signal. Après un bref rappel de quelques définitions et du principe du maximum d'entropie, nous verrons successivement comment l'entropie est utilisée en séparation de sources, en modélisation de signaux, en analyse spectrale et pour la résolution des problèmes inverses linéaires. Mots clés : Entropie, Entropie croisée, Distance de Kullback, Information mutuelle, Estimation spectrale, Problèmes inverses
Abstract: The main object of this work is to give a brief overview of the different ways the entropy has been used in signal and image processing. After a short introduction of different quantities related to the entropy and the maximum entropy principle, we will study their use in different fields of signal processing such as: source separation, model order selection, spectral estimation and, finally, general linear inverse problems. Keywords : Entropy, Relative entropy, Kullback distance, Mutual information, Spectral estimation, Inverse problems.
In French, Appeared in Traitement du Signal, pp. 87-116, 1994
In French, Appeared in Traitement du Signal, pp. 87-116, 1994