BLOCK DEFLATION ICA ALGORITHMS
Vicente Zarzoso · 2005
AbstractThe present report deals with the statistical tool of Independent Component Analysis (ICA).The focus is on the deflation approach, whereby the independent components are extracted one afteranother. After reviewing the so-called FastICA algorithm, another methodology named RobustICAis put forward. The new approach is based on a special gradient-ascent update rule where theoptimal step size finding the global maximum of the contrast function along the search direction isalgebraically computed at each iteration. The optimal step-size technique can be used with a variety ofcontrast functions (such as kurtosis, constant modulus and constant power), provides some robustnessto local extrema, and notably accelerates convergence. Experimental results demonstrate the superiorperformance of RobustICA compared to FastICA both in terms of accuracy and computational load.Although it was proposed nearly a decade ago, it is the first time that the FastICA algorithm isseriously evaluated.Resum´ ´eLe pr´esent rapport porte sur l’outil statistique appel e Analyse en Composantes Ind´ ´ependantes(ICA). On s’int´eresse plus particuli `erement `a l’approche par d eflation, dans laquelle les composantes´independantes sont extraites l’une apr´ es l’autre. Apr` es avoir rappel` ´e l’algorithme connu sous le nomde FastICA, une autre m´ethodologie baptis ee RobustICA est propos´ ´ee. La nouvelle approche estbas´ee sur une r egle de mise` a jour de type ascente de gradient, qui calcule alg` ebriquement´ a chaque`iteration le pas optimal menant au maximum absolu d’une fonction de contraste dans la direction´de recherche. La technique `a pas optimal peut ˆetre utilis ´ee avec une grande vari et´ e de fonctions´de contraste (telles que le kurtosis, le module constant et la puissance constante), fournit certainerobustesse aux extrema locaux, et acc´el ere notoirement la convergence. Des r` ´esultats exp erimentaux´demontrent la sup´ ´eriorit e des performances de RobustICA par rapport´ `a FastICA, a la fois en termes`de pr´ecision et de charge de calcul. Bien qu’ayant ´et e propos´ e il y a presque une dizaine d’ann´ ´ees,c’est la premi`ere fois que l’algorithme FastICA est evalu´ e de mani´ ere s` ´erieuse.