Human-Centered Artificial Intelligence Research Center

L'obiettivo del proposto CRC HCAI è creare una forte collaborazione interdisciplinare tra filosofi, giuristi e informatici, coinvolgendo anche sociologi, economisti, antropologi, tra le altre e molte competenze interessate. Lo scopo è valutare lo sviluppo e l’impiego dell’IA alla luce del loro impatto sui valori sociali, i criteri individuali e i diritti costituzionali, considerando anche la normativa europea. In particolare, la nuova normativa in tema di IA dell’Unione Europea stabilisce regole armonizzate sull’intelligenza artificiale e modifica alcuni atti legislativi dell'Unione, con particolare attenzione per la categorizzazione di rischi, la prevenzione di discriminazioni e la realizzazione di principi etici. Il lavoro di ricerca del proposto CRC mira a coordinare i naturali specifici orientamenti disciplinari dei proponenti in aree tematiche di ampio respiro: -La definizione, implementazione e controllo di interazioni uomo-macchina che siano orientati alla conservazione dell’autonomia e primarietà dei valori umani; -L’analisi della legislazione, in primo luogo Europea, relativa al controllo dei dati e degli algoritmi, anche con riferimento alle ricadute sul mercato interno e sugli ordinamenti nazionali. Verrà anche svolto un confronto con l’analoga disciplina in corso di studio negli Stati Uniti; -La definizione di processi algoritmici non discriminatori e la formulazione di procedure di verifica per il controllo dei bias nei sistemi di IA, in campi quali l’elaborazione di linguaggio naturale, l’informazione visuale e la classificazione; -L’analisi dei processi decisionali automatizzati, e del loro impatto sui diritti dei contraenti deboli (lavoratori, consumatori); -L’analisi delle prospettive offerte dall’autoregolamentazione, in termini di codici di condotta; -L’analisi dei problemi di trasparenza, e lo sviluppo di tecniche e metodologie atte a migliorare la spiegabilità di sistemi algoritmici autonomi altamente complessi; -L’incorporazione dei diritti umani e dei valori fondamentali dell’Uomo nei sistemi algoritmici; -La protezione da decisioni automatizzate con impatti significativi su contratti e sui rapporti di lavoro; -La limitazione ai poteri di sorveglianza e controllo; -La tutela della dignità della persona in contesti di uso di sistemi di IA; -L’applicazione di sistemi di IA nella giustizia penale; -L’applicazione di sistemi di IA nell’evoluzione del diritto tributario Il CRC svolgerà attività di ricerca tramite lo sviluppo di progetti di ricerca a livello nazionale e internazionale sulla definizione, uso, regolamentazione e perfezionamento di strumenti di controllo dell’IA e del relativo policy making con una componente fortemente transdisciplinare e innovativa. Il CRC lavorerà in coordinamento con realtà della ricerca già esistenti in Ateneo, come il CRC PhilTech strutturato all’interno del Dipartimento di Filosofia, integrandone le competenze e il lavoro dei suoi componenti. Il CRC si impegna nell’organizzazione di almeno un evento di ricerca annuale coordinato, servirà la didattica avanzata tramite specifiche attività formative all’interno di corsi di laurea e insegnamenti già esistenti, ma consentirà altresì di dar vita a nuovi insegnamenti di interesse per più Corsi di laurea. Il CRC punterà sui rapporti con le Università straniere, favorendo nuovi accordi di scambio tra docenti e studenti, contribuirà a promuovere la reputazione scientifica dell’Ateneo, anche attraverso lo sviluppo di reti di collaborazione, progetti, attività seminariali e di formazione con omologhi gruppi di ricerca attivi in altri paesi. Nell’ottica di rafforzare Estratto dal Verbale del Consiglio di Dipartimento del 17 luglio 2024 4 le sinergie collaborative e transdisciplinari dei membri, sarà strategico partecipare a bandi competitivi finanziati da istituzioni pubbliche e private di ambito nazionale ed europeo.