A framework for mitigating Trustworthy AI issues in practice

The speed of the digitalization process, also due to the ongoing pandemic crisis, is leading to an exponential growth of threats to the privacy and security of software systems and a significant widening of the attack boundaries. An additional significant trend is the rise of "AI-enabled systems," referring to software systems heavily reliant on Artificial Intelligence. This encompasses, for instance, autonomous and semi-autonomous vehicles, where vulnerabilities extend beyond application issues to include potential inadequacies of algorithms in accurately handling unusual and unforeseen behaviors. Moreover, vulnerabilities may stem from the integration of software systems with physical components, such as sensors. The objective of this thesis is to propose processes and tools capable of operating in conventional and unconventional scenarios, supporting the software engineer in the development of secure systems. Specifically, the objectives pursued are: - Goal 1: Proposal of guidelines and tools to support the development process of conventional software systems. - Goal 2: Proposal of guidelines and tools to support the development process of AI-enabled systems in a company; - Goal 3: Formularization of a theoretical framework which encopasses all above guidelines and tools and provides support for both technical and non-technical stakeholders who participate in a corporate project.

La velocità del processo di digitalizzazione, anche a causa della crisi pandemica in corso, sta portando a una crescita esponenziale delle minacce alla privacy e alla sicurezza dei sistemi software e a un significativo ampliamento delle superfici di attacco. Un'ulteriore tendenza significativa è l'ascesa dei "sistemi basati sull'IA", ovvero sistemi software che fanno forte affidamento sull'Intelligenza Artificiale. Questo include, per esempio, i veicoli autonomi e semi-autonomi, dove le vulnerabilità si estendono oltre i problemi applicativi per includere potenziali inadeguatezze degli algoritmi nel gestire accuratamente comportamenti insoliti e imprevisti. Inoltre, le vulnerabilità possono derivare dall'integrazione dei sistemi software con componenti fisici, come i sensori. L'obiettivo di questa tesi è proporre processi e strumenti in grado di operare in scenari convenzionali e non convenzionali, supportando l'ingegnere del software nello sviluppo di sistemi sicuri. Nello specifico, gli obiettivi perseguiti sono: - Obiettivo 1: Proposta di linee guida e strumenti per supportare il processo di sviluppo di sistemi software convenzionali. - Obiettivo 2: Proposta di linee guida e strumenti per supportare il processo di sviluppo di sistemi basati sull'IA in azienda; - Obiettivo 3: Formulazione di un framework teorico che comprenda tutte le linee guida e gli strumenti sopracitati e fornisca supporto sia agli stakeholder tecnici che non tecnici che partecipano a un progetto aziendale.