La regolamentazione dell'IA in sanità richiede affidabilità, non solo spiegabilità.
L’uso dell’intelligenza artificiale in ambito sanitario è accompagnato da una normativa europea e italiana altamente specifica, ma il dibattito pubblico e la pratica di implementazione continuano a confondere concetti diversi. L’AI Act, entrato in vigore a settembre 2024, e la legge italiana 132 del settembre 2025 prevedono obblighi complessi, tra cui la gestione sistematica dei rischi, il tracciamento dei dati, la documentazione tecnica, la validazione, la supervisione strutturata e il monitoraggio continuativo. Tuttavia, nel dibattito pubblico e in molti casi di utilizzo, termini come interpretabilità, auditabilità e tracciabilità vengono spesso usati come se fossero sinonimi, creando una confusione su cosa realmente sia richiesto.
Le tappe
- Le norme richiedono un controllo approfondito dei rischi e un tracciamento completo dei dati.
- La spiegabilità non ha un significato univoco e può riguardare diversi aspetti del modello.
- La trasparenza non garantisce affidabilità, soprattutto in contesti delicati come la sanità.
Per la medicina, dove un errore algoritmico può influenzare direttamente la salute, il criterio decisivo non dovrebbe essere la comprensibilità del modello, bensì la sua affidabilità nel contesto clinico reale. La rivista propone un cambio di paradigma: da spiegabilità a affidabilità verificabile, da trasparenza del codice a auditabilità dei processi.
