Quelles relaxations continues pour le critère $l2-l0$ ?

Description

For more than two decades, several continuous (and generally separable) penalties approximating (relaxing) the l0-pseudo norm have been proposed. Although some "good" properties for such penalties have been highlighted, the choice of one relaxation rather than another one remains unclear. One approach to compare them is to investigate their fidelity to the initial problem. In other words, do they preserve global minimizers of the initial criteria without adding new local ones? Within the context of the l0 penalized least squares, we have recently studied this question resulting in a class of penalties said exact. In this communication, we present these results and complete them with a study concerning the local minimizers eliminated by such relaxations. In particular, we show that the CEL0 penalty is the one removing the largest number of local minimizers.

Abstract (French)

Depuis plus de deux décennies, de nombreuses pénalités continues (et généralement séparables) ont été proposées afin d'approcher (relaxer) la pseudo-norme l0. Bien que certaines «bonnes» propriétés pour ces pénalités aient été mises en évidence, le choix d'une relaxation par rapport à une autre reste peu clair. Une approche pour les comparer est de s'intéresser à la fidélité de la relaxation au problème initial. En d'autres termes, est-ce que cette dernière préserve les minimiseurs globaux du critère initial sans en ajouter de locaux ? Dans le contexte des moindres carrés pénalisés en norme-l0, nous avons récemment étudié cette question et défini une classe de pénalités qualifiés d'exactes. Dans cette communication, nous présentons ces résultats et les complétons par une étude des minimiseurs locaux qui sont éliminés par de telles relaxations. En particulier, nous montrons que la pénalité CEL0 est celle éliminant le plus de minimiseurs locaux.

Abstract

National audience

Additional details