Enhancing security in agent-based systems with honeypot-driven intrusion analysis
Gerard Vilar Gallego · UPCommons institutional repository (Universitat Politècnica de Catalunya) · 2026
Aquest treball aborda el problema de la seguretat en sistemes multiagent d'aprenentatge distribuït, on múltiples agents autònoms entrenen models de machine learning de forma descentralitzada i asíncrona. Aquest tipus d'arquitectures, pròpies de paradigmes com el federated learning, ofereixen escalabilitat i flexibilitat, però també introdueixen noves vulnerabilitats, especialment davant atacs de tipus model poisoning realitzats per agents maliciosos. La proposta presentada introdueix un mecanisme de seguretat basat en la detecció de desviacions en les actualitzacions dels models i en la integració d'un honeypot agent. El sistema inclou un servidor central que monitoritza el comportament dels agents, identifica possibles contribucions malicioses i aïlla els agents detectats. En lloc d'eliminar-los, aquests agents són redirigits cap a un honeypot, que simula una interacció legítima i permet contenir l'atac alhora que s'analitza el comportament de l'atacant. La solució s'ha implementat sobre una infraestructura contenidoritzada amb Docker, utilitzant Apache Kafka com a sistema de comunicació asíncrona entre agents i servidor. Els experiments es duen a terme utilitzant el conjunt de dades CIFAR-10, avaluant diferents escenaris amb agents benignes i maliciosos, diversos tipus d'atac (distribution shift i atacs dirigits), així com la influència del temps de detecció i activació de l'atac. Els resultats experimentals mostren que la proposta permet mitigar de manera efectiva els atacs de model poisoning, mantenint l'estabilitat de l'aprenentatge dels agents benignes. A més, l'ús del honeypot redueix la percepció real de l'impacte de l'atac per part de l'agent maliciós, reforçant la seguretat del sistema sense comprometre el rendiment global. Aquest treball contribueix així al disseny de sistemes multiagent intel·ligents i segurs, alineats amb els objectius de recerca del projecte COPERNICO.