From text saliency to linguistic objects: learning linguistic interpretable markers with a multi-channels convolutional architecture

Description

A lot of effort is currently made to provide methods to analyze and understand deep neuralnetwork impressive performances for tasks such as image or text classification. These methodsare mainly based on visualizing the important input features taken into account by the networkto build a decision. However these techniques, let us cite LIME, SHAP, Grad-CAM, or TDS, requireextra effort to interpret the visualization with respect to expert knowledge. In this paper, wepropose a novel approach to inspect the hidden layers of a fitted CNN in order to extractinterpretable linguistic objects from texts exploiting classification process. In particular, wedetail a weighted extension of the Text Deconvolution Saliency (wTDS) measure which can be usedto highlight the relevant features used by the CNN to perform the classification task. Weempirically demonstrate the efficiency of our approach on corpora from two different languages:English and French. On all datasets, wTDS automatically encodes complex linguistic objects basedon co-occurrences and possibly on grammatical and syntax analysis.

Abstract (French)

De nombreux efforts sont actuellement déployés pour fournir des méthodes d'analyse et decompréhension des performances remarquables des réseaux neuronaux profonds pour destâches telle que la classification d'images ou de textes. Ces méthodes sont principalementfondées sur la visualisation des imputs - ici, la matière textuelle - prises en compte par le réseaupour construire une décision. Cependant, ces techniques que l'on retrouve dans LIME, SHAP,Grad-CAM ou TDS, nécessitent un effort supplémentaire pour interpréter la visualisation. Danscet article, nous proposons une nouvelle approche pour inspecter les couches cachées d'unréseau CNN ajusté afin d'extraire des objets linguistiques directement interprétables des textes.En particulier, nous détaillons une extension pondérée de la mesure Text Deconvolution Saliency(wTDS). Nous démontrons empiriquement l'efficacité de notre approche sur des corpus de deuxlangues différentes : anglais et français. Sur tous les jeux de données, wTDS encodeautomatiquement des objets linguistiques complexes ou motifs basés sur les co-occurrences etéventuellement sur l'analyse grammaticale et syntaxique.

Abstract

International audience

Additional details