New Challenges in Learning Classifier Systems: Mining Rarities and Evolving Fuzzy Models
Albert Orriols Puig · TDX (Tesis Doctorals en Xarxa) · 2008
Durant l'ultima decada, els sistemes classificadors (LCS) d'estil Michigan - sistemes d'aprenentatge automatic que combinen tecniques de repartiment de credit i algorismes genetics (AG) per evolucionar una poblacio de classificadors online- han renascut. Juntament amb la formulacio dels sistemes de primera generacio, s'han produit avencos importants en (1) el disseny sistematic de nous LCS competents, (2) la seva aplicacio en dominis rellevants i (3) el desenvolupament d'analisis teoriques. Malgrat aquests dissenys i aplicacions importants, encara hi ha reptes complexos que cal abordar per comprendre millor el funcionament dels LCS i per solucionar problemes del mon real eficientment i escalable.Aquesta tesi tracta dos reptes importants - compartits amb la comunitat d'aprenentatge automatic - amb LCS d'estil Michigan: (1) aprenentatge en dominis que contenen classes estranyes i (2) evolucio de models comprensibles on s'utilitzin metodes de raonament similars als humans. L'aprenentatge de models precisos de classes estranyes es critic, doncs el coneixement clau sol quedar amagat en exemples d'aquestes, i la majoria de tecniques d'aprenentatge no son capaces de modelar la raresa amb precisio. La deteccio de rareses sol ser complicat en aprenentatge online ja que el sistema d'aprenentatge rep un flux d'exemples i ha de detectar les rareses al vol. D'altra banda, l'evolucio de models comprensibles es crucial en certs dominis com el medic, on l'expert acostuma a estar mes interessat en obtenir una explicacio intel·ligible de la prediccio que en la prediccio en si mateixa.El treball present considera dos LCS d'estil Michigan com a punt de partida: l'XCS i l 'UCS. Es pren l'XCS com a primera referencia ja que es l'LCS que ha tingut mes influencia fins al moment. L'UCS hereta els components principals de l'XCS i els especialitza per aprenentatge supervisat. Tenint en compte que aquesta tesi especialment se centra en problemes de classificacio, l'UCS tambe es considera en aquest estudi. La inclusio de l'UCS marca el primer objectiu de la tesi, sota el qual es revisen un conjunt de punts que van restar oberts en el disseny del sistema. A mes, per il·lustrar les diferencies claus entre l'XCS i l'UCS, es comparen ambdos sistemes sobre una bateria de problemes artificials de complexitat acotada.L'estudi de com els LCS aprenen en dominis amb classes estranyes comenca amb un estudi analitic que descompon el problema en cinc elements critics i deriva models per facetes per cadascun d'ells. Aquesta analisi s'usa com a eina per dissenyar guies de configuracio que permeten que l'XCS i l'UCS solucionin problemes que previament no eren resolubles. A continuacio, es comparen els dos LCS amb alguns dels sistemes d'aprenentatge amb mes influencia en la comunitat d'aprenentatge automatic sobre una col·leccio de problemes del mon real que contenen classes estranyes. Els resultats indiquen que els dos LCS son els metodes mes robustos de la comparativa. Aixi mateix, es demostra experimentalment que remostrejar els conjunts d'entrenament amb l'objectiu d'eliminar la presencia de classes estranyes beneficia, en mitjana, el rendiment de les tecniques d'aprenentatge.El repte de crear models mes comprensibles i d'usar mecanismes de raonament que siguin similars als humans s'aborda mitjancant el disseny d'un nou LCS per aprenentatge supervisat que combina les capacitats d'avaluacio de regles online, la robustesa mostrada pels AG en problemes complexos i la representacio comprensible i metodes de raonament fonamentats proporcionats per la logica difusa. El nou LCS, anomenat Fuzzy-UCS, s'estudia en detall i es compara amb una bateria de metodes d'aprenentatge. Els resultats de la comparativa demostren la competitivitat del Fuzzy-UCS en termes de precisio i intel·ligibilitat dels models evolucionats. Addicionalment, s'usa Fuzzy-UCS per extreure models de classificacio acurats de grans volums de dades, exemplificant els avantatges de l'arquitectura d'aprenentatge online del Fuzzy-UCS.En general, les observacions i avencos assolits en aquesta tesi contribueixen a augmentar la comprensio del funcionament dels LCS i en preparar aquests tipus de sistemes per afrontar problemes del mon real de gran complexitat. Finalment, els resultats experimentals ressalten la robustesa i competitivitat dels LCS respecte a altres metodes d'aprenentatge, encoratjant el seu us per tractar nous problemes del mon real.