A Human–AI Interaction Model: Leveraging Human-Centred Design for Symbiotic AI
Andrea Esposito · CINECA IRIS Institutional Research Information System (University of Bari Aldo Moro) · 2025
I sistemi di Intelligenza Artificiale (IA) sono sempre più integrati nella vita quotidiana, dalle applicazioni rivolte ai consumatori, come chatbot e motori di raccomandazione, fino ai domini ad alto rischio, come la sanità e la guida autonoma. Sebbene promettano maggiore efficienza, creatività e supporto alle decisioni, questi sistemi sollevano sfide significative legate all’usabilità, alla trasparenza, alla fiducia e all’allineamento con i valori umani. Questa tesi affronta tali sfide avanzando il paradigma dell’Intelligenza Artificiale Centrata sulle Persone (Human-Centered Artificial Intelligence, HCAI) e della sua specializzazione, l’Intelligenza Artificiale Simbiotica (Symbiotic AI, SAI), che concepisce l’IA come uno strumento per potenziare, piuttosto che sostituire, le capacità umane. Il contributo principale è un modello dell’interazione Persona-IA basato sulla “negoziazione”, con radici nelle discipline dell’Interazione Persona-Macchina, intelligenza artificiale, ingegneria del software ed etica. Questo modello riconcettualizza l’interazione come un processo dinamico e adattivo, consentendo agli utenti di mantenere il controllo, condividere il processo di decision-making, e di influenzare iterativamente il comportamento dell’IA. Questo modello è validato attraverso studi empirici in diversi domini su diversi livelli di rischio e paradigmi tecnologici, includendo sia IA tradizionale che generativa. Questi studi mostrano che l’efficacia dei sistemi di IA non dipende solo dalle performance algoritmiche, ma anche dalla loro capacità di lasciar spazio agli obiettivi degli utenti, ai loro flussi di lavoro, e ai loro modelli mentali. I principali contributi includono: (1) una definizione formale di HCAI e SAI, che ne chiarisce i fondamenti teorici; (2) una dimostrazione empirica della necessità del Design Centrato sulla Persona (HCD) nella progettazione di sistemi di IA che supportino realmente l’utente; (3) un insieme strutturato di casi studio per la validazione del modello di interazione Persona–IA, che spaziano da applicazioni a basso rischio fino a scenari ad alto rischio; e (4) l’elaborazione di linee guida operative per la progettazione, valutazione e sviluppo di sistemi di IA affidabili, spiegabili e allineati agli utenti. Esempi di tali linee guida forniscono indicazioni per la progettazione di interventi guidati dalle spiegazioni, strategie per le interfacce utente per le spiegazioni (XUI) e tecniche per allineare il comportamento dell’IA ai modelli mentali degli utenti. I risultati della ricerca discussa in questa tesi evidenziano che né l’automazione né l’augmentazione debbano essere scelte predefinite: le decisioni progettuali devono tener conto delle caratteristiche del compito, degli obiettivi dell’utente e del rischio contestuale. In sintesi, la tesi fornisce un framework completo e validato per la progettazione di sistemi di IA che siano non solo tecnicamente competenti, ma anche trasparenti, affidabili e autenticamente a supporto dell’autonomia e della qualità decisionale umana.