Improving On-Device Artificial Intelligence by Deploying Efficient, Robust, and Continuous Models
Hang Li · eScholarship@McGill (McGill) · 2023
L'intelligence artificielle (IA) est devenue une technologie révolutionnaire ces dernières années, transformant diverses industries et domaines. Les technologies d'IA ont traditionnellement dépendu de l'informatique en nuage, mais avec la croissance explosive des appareils numériques, l'IA sur appareil est devenue un outil essentiel pour offrir des services plus puissants et plus pratiques que jamais auparavant. L'IA sur appareil joue un rôle important dans les applications car elle peut offrir une faible latence, une meilleure confidentialité et des expériences plus personnalisées pour les utilisateurs. Cependant, le déploiement des technologies d'IA, en particulier des réseaux de neurones profonds (DNN), sur des appareils courants reste confronté à plusieurs défis. L'un des principaux défis est la disponibilité limitée de ressources informatiques sur les appareils. Les calculs requis pour les technologies d'IA sont complexes et intensifs, tandis que les appareils disposent de ressources informatiques limitées qui sont insuffisantes pour prendre en charge les opérations des technologies d'IA. Un autre défi important est la disponibilité limitée de données sur les appareils. Les DNN nécessitent de grandes quantités de données étiquetées pour être entraînés, et il peut être difficile et coûteux de collecter suffisamment de données sur les appareils, ce qui entraîne une moindre précision et robustesse des DNN. Dans cette thèse, nous explorons les défis susmentionnés liés au déploiement des technologies d'IA, en particulier des DNN, sur les appareils. Plus précisément, notre objectif est d'améliorer la fiabilité des DNN travaillant sur les appareils en déployant des modèles efficaces, robustes et continus. Dans le premier fil conducteur, nous nous concentrons sur la réduction du coût d'inférence des DNN en élaguant les paramètres non importants des modèles. Nous analysons les informations statistiques des cartes de caractéristiques dans les réseaux de neurones convolutifs et proposons de supprimer les cartes de caractéristiques ayant une faible diversité d'informations et de fortes similarités. Dans le deuxième fil conducteur, notre objectif est d'améliorer la robustesse des DNN contre les changements de distribution (domaine) des données dans deux scénarios. Dans les scénarios où l'étiquette de domaine est disponible, nous proposons une nouvelle méthode d'adaptation adversaire de domaine qui combine différentes techniques d'alignement de domaine à grain fin. Ces alignements incluent l'alignement des distributions marginales et conditionnelles des caractéristiques dans différents domaines, la concentration des caractéristiques vers le centre pour chaque classe dans le domaine cible, et la contrainte de chaque classe de domaine cible pour mieux s'aligner avec sa contrepartie de domaine source. Dans les scénarios où l'étiquette de domaine n'est pas disponible, nous développons une nouvelle méthode qui intègre deux modules majeurs. Un module est un augmentateur de données qui introduit une diversité de données et améliore l'utilisation des données étiquetées. L'autre module est une structure de classification-reconstruction conjointe qui entraîne un classificateur adaptatif de domaine pour s'ajuster aux données non étiquetées nouvellement collectées. Dans le troisième fil conducteur, nous nous efforçons de rendre les DNN fonctionner en continu sans oublier les connaissances précédemment acquises lorsqu'ils rencontrent des données en continu. Pour y parvenir, nous définissons la force importante (utilisée pour consolider les connaissances précédemment acquises) comme la sensibilité de la fonction de perte globale aux paramètres du modèle et proposons d'ajuster la force importante de manière adaptative pour l'aligner avec les mises à jour dynamiques des paramètres