parte seconda

L’IA ormai ha preso il sopravvento, si diffonde velocemente in tutti i campi ed anche in Medicina. Ma ci stiamo domandando: esistono veramente dei rischi legati all’uso dell’intelligenza artificiale in Medicina, ad esempio per il fatto  che i sistemi utilizzati potrebbero non essere sufficientemente testati e supportati da prove scientifiche che ne attestino la validità, quindi a rischio e non utilizzabili per la diagnosi e cura di malati impegnativi. Andrebbero condotti, come peraltro si è cominciato a fare, Studi clinici metodologicamente più rigidi che coinvolgano più Centri medici, Ospedali e istituti universitari e che valutino gli effetti in maniera casuale (randomizzati, cioè pazienti scelti a caso) su un adeguato campione rappresentativo della popolazione presa in esame, dall’inizio dello studio e fino alla sua conclusione.

Queste sono alcune considerazioni contenute in un documento (Linee guida sull’uso dei sistemi intelligenza artificiale in ambito diagnostico, di cui il Prof. Eugenio Santoro è co-autore) pubblicato dal Ministero della Salute (V sezione) che rappresenta uno strumento importante per chi sviluppa sistemi di IA in medicina e per chi (medici, pazienti, familiari, caregivers) poi li andrà ad utilizzare. I Sistemi di intelligenza articiale, poi, andrebbero istruiti adeguatamente per evitare distorsioni di valutazione, in gergo tecnico bias. In letteratura scientifica, infatti, sono stati documentati casi di strumenti di intelligenza artificiale che hanno fallito nel rispondere a precisi quesiti (diagnostici, prognostici, predittivi) perché i pazienti per i quali si cercava la risposta non erano adeguatamente rappresentati nel campione con il quale il sistema era stato istruito. Occorre poi tenere presente anche il fenomeno della black box, cioè la propensione del sistema di intelligenza artificiale a fornire risposte “difficili”. D’altra parte, non si deve immaginare l’intelligenza artificiale come qualcosa che  sostituirà il medico: gli strumenti saranno anche intelligenti, ma le decisioni finali rimarranno allo specialista per questioni etiche e deontologiche e soprattutto di responsabilità. Inoltre è necessario che anche a livello istituzionale questi strumenti siano regolamentati (a) in accordo con la nuova normativa europea sui dispositivi medici (a cui questi strumenti in gran parte afferiscono); (b) attraverso regole più dettagliate in termini di richiesta di prove di sicurezza ed efficacia, ai fini della loro approvazione prima della introduzione sul mercato. Questo articolo è tratto da una Lezione dell’Illustre Prof. Eugenio Santoro, mio coetaneo, chirurgo toracico e oncologo di fama mondiale ed Editing Raffaella Gatta, ricercatrice c/o Istituto Negri e divulgatrice scientifica.