A randomized model structure selector for complex dynamical systems
Federico Bianchi · 2020
In questa tesi si affronta il problema relativo alla selezione della struttura del modello (MSS, dall'inglese Model Structure Selection) di un sistema dinamico, quando l'apprendimento del modello basato sui dati e perseguito con metodi parametrici. Come noto, il tentativo di dare soluzione a tale problema risulta particolarmente arduo a causa della natura combinatoria dello stesso che, in linea di principio, richiede di esplorare in modo esaustivo lo spazio delle possibili strutture di modello, al fine di selezionare la migliore. Tale spazio cresce pero rapidamente all'aumentare del numero dei termini di modello considerati, rendendo l'approccio esaustivo applicabile solo su problemi a ridotta scala. Sono state pertanto proposte svariate strategie con l'obiettivo di esplorare in modo intelligente lo spazio delle strutture di modello: euristiche basate su una costruzione incrementale della struttura, algoritmi ispirati al principio della selezione naturale ed evoluzione biologica, tecniche basate su regolarizzazione, nonche approcci probabilistici. Seguendo tale ultima impostazione, questa tesi estende un recente approccio probabilistico originariamente proposto per la risoluzione del problema MSS nel caso di sistemi non lineari, al caso di dati distribuiti, sistemi non lineari commutati e anche alla stima della matrice di covarianza di processo in applicazioni basate sul filtro di Kalman. Nel caso in cui i dati siano distribuiti tra piu agenti e non possano essere raccolti in un’unita centrale - come generalmente si assume nei problemi di apprendimento del modello basato sui dati - il problema MSS e la stima dei parametri devono essere risolti in modo cooperativo. Considerando modelli parametrici appartenenti alla famiglia NARX, in questa tesi si affrontano, dunque, queste due problematiche ricorrendo a uno schema risolutivo di tipo distribuito che mira a raggiungere congiuntamente un valore comune tra gli agenti sia per la struttura del modello che per le stime dei parametri, sfruttando la riformulazione probabilistica del problema MSS. I sistemi (non lineari) a commutazione sono caratterizzati da dinamiche continue che rappresentano il comportamento del sistema in diverse condizioni operative (modalita), indicizzate da un segnale di commutazione discreto. In questo caso, il problema MSS comprende la selezione di una struttura di modello per ciascuna modalita e anche la ricostruzione del segnale di commutazione. Sfortunatamente, poiche le commutazioni di modalita possono avvenire in modo arbitrario nel tempo, lo spazio delle strutture di modello cresce rapidamente con il numero di dati, aggravando cosi in modo significativo il problema MSS. Questa tesi propone, al riguardo, un metodo di identificazione iterativo che allevia la crescente complessita combinatoria adottando un approccio a due fasi, che possono essere cosi sintetizzate: nella prima fase, la ricostruzione del segnale di commutazione, la selezione delle strutture NARX e la stima dei parametri sono risolte congiuntamente mediante una strategia di campionamento-e-valutazione, fissando a priori i possibili istanti di commutazione; nella seconda fase, il posizionamento degli istanti di commutazione viene perfezionato sulla base delle prestazioni del modello ottenuto nella fase precedente. L'apprendimento di modelli basato sui dati svolge un ruolo importante anche nel contesto del filtraggio, in quanto le statistiche sul rumore di output e di processo, necessarie per la formulazione del filtro di Kalman, sono generalmente sconosciute e devono essere pertanto stimate dai dati. Un problema particolarmente impegnativo e la stima delle statistiche del rumore di processo che tiene conto delle dinamiche di sistema non modellate e su cui in genere non e disponibile alcuna conoscenza a priori. Questa tesi affronta il problema di selezionare una parametrizzazione adatta per la matrice di covarianza del rumore di processo, considerando questo problema come un caso particolare del problema MSS.