Interventionism in the kitchen, can unobserved information answer counterfactuals?
Jordi Vives Miró · UPCommons institutional repository (Universitat Politècnica de Catalunya) · 2025
La Intel·ligència Artificial Explicable (XAI) ha esdevingut progressivament un dels aspectes més rellevants de la intel·ligència artificial. Mitjançant explica- cions, pretén permetre que l'usuari entengui el comportament d'un model. En la Presa de Decisions Seqüencial (SDM)-on agents autònoms prenen accions al llarg del temps en entorns dinàmics-la importància de permetre que els usuaris interpretin les decisions es fa encara m'es evident. Una estratègia co- muna de XAI aplicada a SDM és formular preguntes sobre el comportament de l'agent. Des del "per què?" pot voler prendre una acció fins al "com?" planeja assolir un objectiu. Entre les preguntes més reveladores hi ha els contrafactu- als, que exploren com diferents accions podrien afectar els resultats comparant escenaris reals i hipotètics. Respondre aquest tipus de preguntes requereix en- tendre no només el comportament de l'agent, sinó també com respon l'entorn tant a accions observades com no observades. Aquesta tesi proposa un procés per estendre un mètode existent de XAI-els Grèfics de Pol'¿tiques-per donar suport al raonament contrafactual. Els Grèfics de Polítiques capturen el com- portament de l'agent juntament amb les transicions de l'entorn a través del qual es mou. Incorporant intervencions, aquest treball permet recollir dades de situacions anteriorment inexplorades, ampliant la comprensiodels gràfics tant sobre la dinàmica de l'agent com de l'entorn. Tot això proporciona eines capaces de respondre a un ventall de preguntes contrafactuals.