L’11 settembre 2023, la Commissione Europea ha pubblicato Cybersecurity of Artificial Intelligence in the AI Act, Guiding principles to address the cybersecurity requirement for high-risk AI systems, documento che contiene i requisiti necessari di cybersecurity per i sistemi di intelligenza artificiale (AI) ad alto rischio.
Scarica il documento
Una tappa importante nella regolamentazione dell’intelligenza artificiale rispetto ai rischi connessi alla salute, alla sicurezza dei sistemi AI e ai diritti fondamentali associati. I sistemi AI ad alto rischio devono essere progettati per resistere ai tentativi di alterarne l’uso, il comportamento e le prestazioni e di comprometterne le proprietà di sicurezza.
– Un sistema AI può includere uno o più modelli di AI oppure anche interfacce, sensori, banche dati, componenti di comunicazione di rete, unità di calcolo o sistemi di monitoraggio; tuttavia, i requisiti di cybersecurity devono essere applicati al sistema AI nel suo complesso e non direttamente alle sue singole componenti.
– E’ richiesta una valutazione del rischio, che consideri l’architettura interna del sistema AI e del suo contesto applicativo.
– La protezione dei sistemi di AI richiede un approccio integrato e continuo, con pratiche comprovate e controlli specifici.
– L’attuale contesto evidenzia grande varietà di tecnologie, con diversi gradi di complessità. Ma non tutte le tecnologie sono pronte per l’uso nei sistemi di AI ad alto rischio: occorre affrontare in modo adeguato i limiti in termini di sicurezza informatica.
I sistemi di Intelligenza Artificiale sono in rapida trasformazione, aumentando l’efficacia dei Dispositivi Medici. Tuttavia, l’AI mostra criticità che vanno affrontate, come la sicurezza dei dati sensibili.
