Brando Benifei, europarlamentare, illustra i gradi di rischio delle AI e come poter normalizzare i vari casi
“Creare un essere artificiale è stato il sogno dell’uomo fin dagli albori della scienza. Quanta strada abbiamo fatto. L’essere artificiale è una realtà, un perfetto simulacro, articolato nelle membra, articolato nel linguaggio e non carente di reazioni umane”. Era il 2001 quando nelle sale di tutto il Mondo usciva “A.I. intelligenza artificiale” di Spielberg. A quel tempo era un attore umano a farne le veci e da allora non sono passati neanche 25 anni. Eppure oggi abbiamo robot che suonano strumenti musicali al pari di musicisti professionisti, come nella band degli Automatica, a Seul il primo direttore d’orchestra ha già debuttato e le AI generative, programmi capaci di creare nuove informazioni, che siano immagini, testi o altro, in base agli input che ricevono, come chatGPT o il recente Brad di Google, in grado inoltre di auto apprendere e aggiornarsi di continuo, si stanno rapidamente diffondendo.
Nuove opportunità però possono significare anche molti rischi. Il 14 giugno il Parlamento europeo ha adottato il primo regolamento per assicurare che i sistemi di intelligenza artificiale utilizzati nell’Ue siano sicuri, trasparenti, tracciabili, non discriminatori e rispettosi dell’ambiente. Brando Benifei europarlamentare S&D ed ex studente di giurisprudenza di Bologna, nonchè capodelegazione del Partito Democratico al Parlamento europeo dal 2019, è uno dei relatori.
Eurodeputato, in che modo il regolamento aiuterà a migliorare la sicurezza e la trasparenza dell’Ai?
«Andando a identificare vari livelli di rischio che saranno ben definiti con una normazione graduale e che devono essere compresi e capiti anche dai cittadini. Ciò andrà a rendere più sicuro l’ingresso dell’intelligenza artificiale nella nostra società».
Sulla base di che criteri avviene la classificazione del grado di rischio delle AI?
«Il regolamento identifica categorie in base al grado di rischio degli usi e alla loro governance da parte degli stessi sviluppatori, classificando inoltre quali possono essere gli usi pericolosi. Dai sistemi a basso rischio con norme minime di principio, a quelli ad alto rischio ove sono previsti meccanismi di verifica di conformità anche piuttosto stringenti, con il culmine rappresentato dagli usi vietati».
Ci può fare degli esempi di usi vietati?
«Quelli d’identificazione biometrica degli spazi pubblici in tempo reale per esempio (che analizzano
le caratteristiche fisiologiche e/comportamentali delle persone confrontandole con dati precedentemente acquisiti nei database del sistema tramite algoritmi e sensori). Essi sono il classico esempio dove c’è una falsa idea di sicurezza che viene propagandata e che noi non supportiamo. Sappiamo che questi sistemi se non opportunamente limitati rischiano di portare a forme di sorveglianza di massa. Anche la polizia predittiva è vietata».
Quali fattori possono determinare il grado di rischio di un’AI?
«Per definire il grado di rischio vengono considerati diversi fattori: come la possibile discriminazione che possono subire ad esempio le donne sul luogo di lavoro nella selezione dai curriculum compiuta dall’AI, oppure i soggetti a cui si riferiscono, come quelle che interagiscono con bambini, che devono essere tutelati in relazione all’impiego dei loro dati, che potrebbero essere raccolti. Questo per fare due esempi».
Guardiamo ora al futuro di questo regolamento. Cosa è previsto per il controllo della sua applicazione? Quale ruolo avranno i Governi nazionali?
«È prevista l’istituzione di autorità nazionali di supervisione, che saranno coordinate da un ufficio europeo dell’intelligenza artificiale. Tale organo europeo, i cui poteri sono ancora da definire, avrà un potere di coordinamento, di lancio d’investigazioni transazionali per violazioni di particolari entità e avrà una funzione importante d’armonizzazione dell’interpretazione, di sostegno all’autorità e di supervisione».
E quelle nazionali?
«Le autorità indipendenti che verranno istituite a livello nazionale avranno un ruolo importante nel controllo dell’applicazione così da agire similmente a come oggi avviene per il Gdpr, il Garante per la protezione dei dati personali, rispetto a problemi e violazioni nell’interesse dei cittadini».
Per quanto riguarda la ricezione delle AI da parte dei cittadini. Si dovrebbe pensare già a livello scolastico a una preparazione delle nuove generazioni?
«Certamente, è fondamentale dare gli strumenti alle nuove generazioni pensando a una formazione permanente che inizi dalla scuola e che continui lungo tutto l’arco della vita. Allo stesso tempo è necessario un continuo aggiornamento anche per i lavoratori e per le persone più avanti in età».
Riguardo alle imprese produttrici di AI che implicazioni ci saranno per loro? Quali passi dovranno fare per conformarsi al regolamento?
«Le imprese che sviluppano AI dovranno seguire le regole per gli sviluppatori d’intelligenza artificiale quindi, quando si tratterà di sistemi che hanno usi classificati come ad “alto rischio”, dovranno fare una “verifica di conformità” sulla qualità dei dati utilizzati, la governance dei dati, la possibilità di una supervisione umana, di far correzioni al metodo d’allenamento dell’AI e di verificare l’impatto ambientale ad esempio».
Pensa che ci saranno cambiamenti nel panorama competitivo?
«A mio avviso il panorama competitivo non andrà a impattarsi particolarmente in maniera frammentata tra Europa, America ecc… Questa regolamentazione riguarda gli usi ad alto rischio o addirittura vietati e si applicherà a sviluppatori che vogliano entrare nel mercato europeo che siano imprese europee o meno. Non è quindi una norma a favore o a sfavore delle imprese europee ma va a toccare tutti quelli che vogliono stare nel mercato europeo. A mio avviso il panorama competitivo verrà impattato in maniera molto limitata. È significativo quello che accadrà, al di là della normazione, se l’Europa si darà una strategia d’investimento, di sviluppo, dell’intelligenza artificiale all’altezza della sfida con Stati Uniti e Cina che per altri aspetti sono più avanti».
Oramai i livelli di qualità raggiunti da alcuni prodotti dell’AI li rendono equiparabili a quelli dell’uomo, se non ad esso superiori. A vincere il Sony World Photography Awards di quest’anno, uno dei più importanti concorsi annuali di fotografia al Mondo, è stata una fotografia che poi l’autore, che ha rifiutato il premio, ha rivelato essere stata prodotta dall’intelligenza artificiale. Ora è possibile pensare a una tracciabilità dei prodotti AI così da renderne chiara la provenienza?
«È un tema complesso da affrontare tuttavia è qualcosa che il Parlamento europeo ha considerato e nell’AI act abbiamo previsto di rendere riconoscibili e tracciabili i contenuti prodotti dall’AI e questo anche per affrontare i rischi legati alla disinformazione, al riconoscimento delle deep fake impiegate per costruire immagini o testi inventati».
Parliamo di diritto d’autore. Alcune AI generative d’immagini, ad esempio Dall-e, impiegano come addestramento, e riferimento, immagini prodotte dall’uomo messe in rete e raccolte su dei database. Come si potrebbe tutelare il diritto d’autore di queste ultime che sono comunque, in quanto campioni, impiegate nel processo di produzione dell’immagine da parte dell’AI?
«Non si tratta di cambiare le norme esistenti sul copyright, anche perché ciò esula dall’ambito di questa norma. Quello che intendiamo fare è dare uno strumento di trasparenza, di riconoscibilità dei contenuti tutelati da copyright, usati per allenare l’intelligenza artificiale. 
È una tutela che vogliamo dare agli autori, ai creativi, a coloro che sono detentori di diritti, costringendo gli sviluppatori di AI generativa a rendere pubblici e sufficientemente dettagliati i contenuti protetti impiegati per allenarla. Molti di questi contenuti magari saranno coperti da eccezione e quindi non bisognerà dare compenso all’autore, in altri casi invece potrebbe esserci una violazione delle norme sul copyright. Serve un equilibrio, un bilanciamento e possiamo aiutare a realizzarlo con questa opera di trasparenza sui contenuti. Questo sta nelle proposte del Parlamento europeo che dovremo negoziare con gli Stati membri».
Avendo il Parlamento europeo adottato il regolamento il prossimo passo sarà appunto la discussione con il Consiglio, composto dai ministri degli Stati membri, con cui gli europarlamentari dovranno trovare un accordo sulla forma finale della legge.
Andrea Olgiati
Foto © Ceps, Altalex, Brando Benifei
