Dopo mesi di accesi dibattiti, gli europarlamentari si sono alla fine accordati con il Consiglio Europeo in merito all’AI Act, il nuovo disegno di legge vòlto a garantire che le attuali e future intelligenze artificiali in Europa siano sicure e rispettose dei diritti fondamentali della democrazia.
Il testo concordato dovrà ora essere adottato formalmente sia dal Parlamento che dal Consiglio per diventare legge dell’UE. Le commissioni Mercato interno e Libertà civili del Parlamento voteranno sull’accordo in una prossima riunione.
Una mossa che però porterà anche all’introduzione di numerosi paletti, specie per le aziende che vogliono utilizzare l’intelligenza artificiale per crescere ed espandersi.
Cosa NON potrai fare con l’AI Act
Col nuovo regolamento dell’AI Act diritti fondamentali, democrazia, Stato di diritto e sostenibilità ambientale saranno protetti dall’intelligenza artificiale ad alto rischio. Ma sempre a favore della promozione e dell’innovazione. Oltre a stabilire delle opportunità, le norme stabiliscono obblighi per l’AI in base ai rischi potenziali e al livello di impatto.
Riconoscendo infatti la potenziale minaccia ai diritti dei cittadini e alla democrazia rappresentata da alcune applicazioni dell’IA, i legislatori hanno convenuto di vietare l’attuazione di questi servizi AI.
Ad esempio, non si potranno adoperare sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (es. convinzioni politiche, religiose, filosofiche, orientamento sessuale, razza). Così come non sarà possibile la raccolta non mirata di immagini facciali da Internet o filmati CCTV per creare database di riconoscimento facciale.
Non si potrà nemmeno provvedere al riconoscimento delle emozioni sul posto di lavoro e nelle istituzioni educative, né introdurre alcun punteggio sociale basato sul comportamento sociale o sulle caratteristiche personali.
Saranno inoltre vietati tutti i Sistemi AI che manipolano il comportamento umano per aggirare il loro libero arbitrio, o che vadano a sfruttare le vulnerabilità delle persone (a causa della loro età, disabilità, situazione sociale o economica).
Il mancato rispetto delle norme può portare a sanzioni che vanno da 35 milioni di euro o il 7% del fatturato globale a 7,5 milioni o l’1,5% del fatturato, a seconda della violazione e delle dimensioni dell’azienda.
AI Act: eccezioni nell’uso dell’intelligenza artificiale ad alto rischio
Pagina a parte per l’identificazione biometrica. Se è vero che non si potranno utilizzare per andare a individuare caratteristiche sensibili, i negoziatori hanno concordato una serie di garanzie ed eccezioni limitate per l’uso dei sistemi di identificazione biometrica (RBI) in spazi accessibili al pubblico.
Si potranno utilizzare, ma solo per scopi di contrasto nei confronti di soggetti a previa autorizzazione giudiziaria i cui reati rientrino in un catalogo rigorosamente definito. In poche parole, una ricerca mirata di una persona condannata o sospettata di aver commesso un reato grave.
Oltre a ciò, l’RBI “in tempo reale” potrà essere utilizzata, sempre nel rispetto delle condizioni prescritte e in un uso limitato nel tempo e nello spazio, anche per:
- ricerche mirate delle vittime (sequestro, tratta, sfruttamento sessuale),
- prevenzione di una minaccia terroristica specifica e attuale,
- la localizzazione o l’identificazione di una persona sospettata di aver commesso dei reati specifici (ad esempio terrorismo, tratta, sfruttamento sessuale, omicidio, rapimento, stupro, rapina a mano armata, partecipazione a un’organizzazione criminale, reati ambientali).
Gli obblighi e i vantaggi per le aziende AI
Oltre a ciò, le aziende e i provider dovranno seguire degli obblighi normativi per le proprie intelligenze artificiali. Nel caso di sistemi classificati come ad alto rischio, si dovrà procedere con una valutazione d’impatto obbligatoria sui diritti fondamentali, applicabile anche ai settori assicurativo e bancario.
Nel caso di AI utilizzati per influenzare l’esito delle elezioni e il comportamento degli elettori, i cittadini avranno il diritto di presentare reclami e ricevere spiegazioni sulle decisioni basate su sistemi di intelligenza artificiale ad alto rischio che incidono sui loro diritti.
Per quanto riguarda le GPAI, ovvero i sistemi di intelligenza artificiale per scopi generali, esse dovranno aderire ai requisiti di trasparenza come inizialmente proposto dal Parlamento. Questi includono la stesura di documentazione tecnica, il rispetto della normativa UE sul diritto d’autore e la diffusione di riepiloghi dettagliati sui contenuti utilizzati per la formazione.
Se ad alto impatto con rischio sistemico, anche se questi modelli soddisfano determinati criteri, dovranno condurre valutazioni dei modelli, e avranno l’obbligo anche di:
- valutare e mitigare i rischi sistemici;
- condurre test contraddittori;
- riferire alla Commissione su incidenti gravi;
- garantire la sicurezza informatica;
- riferire sulla loro efficienza energetica.
I deputati hanno inoltre insistito sul fatto che, fino a quando non verranno pubblicate norme UE armonizzate, le GPAI con rischio sistemico potranno fare affidamento ai codici di condotta per conformarsi al regolamento.
Va detto che comunque ci sono delle guarentigie per le aziende, in particolare per le PMI. Esse possano sviluppare soluzioni di intelligenza artificiale senza indebite pressioni da parte dei giganti del settore che controllano la catena del valore.
E questo con la promozione dei cosiddetti sandbox normativi e test in realtà (regulatory sandboxes and real-world-testing), istituiti dalle autorità nazionali per sviluppare e formare un’intelligenza artificiale innovativa prima del collocamento sul mercato.
