Un contributo da Mauro Crosato, avvocato esperto in sanità
Un contesto normativo “affollato”
Il nuovo regolamento sull’intelligenza artificiale (AI act: regolamento (UE) 2024/1689) si inserisce in un contesto normativo europeo già molto affollato. A fianco a specifiche normative verticali, ovvero destinate a disciplinare uno specifico settore merceologico, troviamo infatti molte, anche recenti, normative orizzontali, che regolano le attività produttive in modo sempre più stringente.
Per quanto qui interessa, l’art. 2 AI act, dedicato all’ambito applicativo, precisa che “Il presente regolamento lascia impregiudicate le norme stabilite da altri atti giuridici dell’Unione in materia di protezione dei consumatori e di sicurezza dei prodotti”. E’ quindi una nuova normativa orizzontale, che si applica a tutti i prodotti immessi sul mercato europeo, che contengono un componente dotato di “livelli di autonomia variabile … che possono influenzare ambienti fisici o virtuali”, che integra e si aggiunge all’attuale regolamentazione europea.
Tuttavia, anche i sistemi di intelligenza artificiale in sé stessi sono disciplinati dal regolamento, che, in questo senso, può anche essere considerato normativa di tipo verticale. Ogni fornitore di prodotto o servizio, pertanto, deve essere consapevole delle componenti IA che vengono impiegate nella propria catena di produzione.
Oltre, infatti, ad alcune pratiche espressamente vietate (art. 5), il regolamento individua, anche indirettamente, nuove figure e nuove responsabilità collegate all’immissione sul mercato di prodotti o servizi contenenti sistemi di IA. A fianco, infatti, delle figure tipiche di operatori del mercato, come i distributori, importatori, rappresentanti autorizzati, che troviamo già in molte discipline verticali, ad esempio sui dispositivi medici, l’art. 3, n. 4, individua infatti la figura del “deployer”, ovvero colui che, a scopo professionale, “utilizza un sistema di IA sotto la propria autorità”.
Che figura è il deployer?
Secondo AI act, l’utilizzatore professionale di sistemi di Intelligenza Artificiale è tenuto ad assumersi specifiche responsabilità, in particolare in materia di analisi dei rischi e valutazione di impatto che l’adozione di un sistema di intelligenza artificiale comporta. Nell’ambito dei dispositivi medici, ambito ad alto rischio nell’utilizzo di sistemi di AI (all. I), tra i compiti specifici del deployer rientrano, tra l’altro, la verifica della registrazione del sistema di intelligenza artificiale e l’adozione di misure tecniche e organizzative per garantire che i sistemi di intelligenza artificiale aziendale siano sempre utilizzati secondo le istruzioni d’uso fornite dal fornitore.
Non è ancora chiaro, in questo momento, come la registrazione dei sistemi di AI, considerati ad alto rischio in applicazione dell’allegato I, prevista dall’art. 16, si coordini con la banca dati dei dispositivi medici Eudamed.
Ancora più complessa, al momento, la questione relativa all’utilizzo del sistema di IA conformemente alle istruzioni fornite dal fabbricante. Apparentemente si tratta di una specificazione dell’art. 5 del regolamento 2017/745, che già impone tale obbligo agli utilizzatori.
In realtà, trattandosi di sistemi che richiedono un periodo di addestramento, prima del loro possibile impiego, questa regola impone:
- Ai fabbricanti, di predisporre istruzioni precise non solo sull’uso, ma anche sull’addestramento dei sistemi di AI implementati nei dispositivi forniti ed, eventualmente, rendere trasparenti le modalità utilizzate ed i dati forniti per l’addestramento “di fabbrica” del sistema fornito;
- Ai deployer, di raccogliere evidenze sul rispetto delle istruzioni ricevute non solo in fase di utilizzo del sistema di intelligenza artificiale, ma anche sulle modalità e sui dati utilizzati per il loro addestramento preventivo.
Gli artt. 26 e 27 del regolamento contengono molti altri obblighi per i deployer, la cui responsabilità dovrà essere concretamente delineata nei casi pratici che si verificheranno al momento dell’utilizzo di dispositivi medici dotati di sistemi di intelligenza artificiale.
