Binary Neural Networks for Keyword Spotting Tasks
Alexandre Riviello · PolyPublie (École Polytechnique de Montréal) · 2020
Le repérage de mots clés est une sous-tâche de la reconnaissance vocale qui a pour but de détecter des mots spécifiques dans un fil audio continu.Ce genre de tâche est généralement utilisé par des assistants vocaux ou des appareils de domotique afin d'effectuer des actions telles qu'allumer des lumières.Puisque cette tâche doit fonctionner en temps réel, elle roule généralement de façon locale sur des systèmes embarqués tels que des microcontrôleurs.Depuis quelques années, on a commencé à utiliser des Réseaux de Neurones (RdN) pour effectuer du repérage de mots.Toutefois, les RdN requièrent beaucoup de calculs et d'espace de stockage.Afin de réduire les coûts en calculs des RdN, beaucoup de systèmes emploient de la quantification.La binarisation, qui est une forme draconienne de la quantification, a déjà été utilisée pour des tâches de reconnaissance vocale complexes, mais pas pour du repérage de mots clés.Dans ce travail, nous évaluons l'utilisation des RdN binaires appliqués sur une tâche de repérage de 10 mots.Les systèmes de reconnaissance vocale conventionnels utilisent le spectrogramme de Mel ou les MFCCs (Mel-Frequency Cepstral Coefficients) pour représenter le son.Afin de s'adapter au RdN binaires, nous proposons une nouvelle façon de modéliser l'audio qui mesure la variation de la puissance dans le temps.Cette représentation est composée de valeurs binaires et offre des résultats de classification supérieurs lorsque testée sur un RdN binaire (comparativement au spectrogramme de Mel).Le RdN binaire utilisé pour évaluer les performances de cette représentation était inspiré de l'architecture ResNet.Sur ce réseau, l'utilisation de la représentation binaire a amélioré la précision de la classification de 1.7%.En considérant l'objectif de trouver une implémentation matérielle efficace et à basse puissance de RdN pour du repérage de mots clés, nous concluons que les microcontrôleurs ne sont pas de bons candidats pour de la binarisation.Ce type de système embarqué est optimisé pour des opérations s'effectuant sur des valeurs entières de un ou plusieurs octets.Puisque les FPGA peuvent facilement gérer des opérations binaires, une deuxième approche qui utilise ces systèmes a été proposée.Pour ce faire, une heuristique nommée PoET-BiN a été employée.Cette heuristique remplace les couches d'un RdN avec des opérations à base de tables de vérité (LUT).Toutefois, PoET-BiN n'a jamais été validé sur des couches convolutionnelles.Après avoir appliqué cette heuristique sur un réseau binaire convolutionnel, la précision de la classification a diminué de façon considérable.En somme, ces approches ne semblent pas être suffisantes pour exploiter le plein potentiel des réseaux binaires sur ce type de tâche.Il faudrait creuser d'avantage.vi