Intelligenza artificiale, potenzialità e rischi nel settore sanitario: intervista ad Anna Giardini
Grazie alle nuove tecnologie digitali come l’intelligenza artificiale, il settore delle IT ha acquisito oggi una notevole rilevanza. In molti ambiti, compreso quello sanitario, sono sorte diverse questioni e dibattiti relativi ai rischi legati al loro utilizzo. Abbiamo approfondito l’argomento con Anna Giardini, Chief Information Officer di ICS Maugeri, che recentemente ha partecipato al workshop “Salute digitale – Navigare tra opportunità e nuovi rischi” organizzato da Relyens e dall’UEHP (European Union of Private Hospitals). Nel suo percorso professionale si è occupata di ricerca e di progetti europei, e ritiene che sia fondamentale guardare alla visione che l’Unione Europea ha su determinate tematiche.
IA e Human Oversight Principles
“L’evento UEHP è emerso come un terreno fertile per lo scambio di idee e l’acquisizione di informazioni di prima mano dall’Unione Europea: un’opportunità preziosa per professionisti e leader del campo” spiega Giardini. “La presenza di personalità competenti nel settore ha poi reso possibile la condivisione di esperienze a livello europeo e anche l’approfondimento di tematiche specifiche sul progresso dell’IT nel settore sanitario”.
Continua Giardini: “L’UEHP è stata un’opportunità per ICS Maugeri di presentare le innovazioni che stiamo apportando in azienda, ma dall’altra parte è stata anche un’occasione personale importante ed entusiasmante per riflettere sul passato, sul presente e sul futuro prossimo delle attività del mondo IT in sanità. Quando si lavora in questo settore spesso si è costretti a concentrarsi sulle attività del quotidiano, e non sempre si ha il tempo di pensare in prospettiva. L’evento è stato un’opportunità per fermarsi a riflettere con una visione di ampio respiro sui cambiamenti in Europa e di condividere il lavoro svolto in ICS Maugeri con i colleghi IT, i clinici e i referenti delle funzioni centrali.
“L’AI sta entrando nella vita quotidiana di tutti noi e non è possibile negare il cambiamento: è necessario guidarlo”
Anna Giardini, CIO di ICS Maugeri
Particolarmente significativa è stata la discussione sui principi di Human Oversight nell’intelligenza artificiale, un tema di grande rilevanza nell’ambito sanitario. La concettualizzazione di questi principi è essenziale per garantire che la gestione dell’AI sia guidata da un quadro etico e responsabile, soprattutto quando si tratta di decisioni che influenzano la salute e il benessere dei pazienti. Il focus sull’importanza della supervisione umana nell’AI riflette l’impegno del settore verso pratiche che non solo rispettano l’autonomia e i diritti dei pazienti, ma migliorano anche la qualità dell’assistenza sanitaria.
“Questo approccio alla gestione dell’intelligenza artificiale è essenziale per garantire che l’innovazione tecnologica sia sempre al servizio delle persone, e che le decisioni cliniche siano sempre confermate dai professionisti sanitari che ne hanno la responsabilità diretta. Il principio di Human Oversight nell’AI supporta questo concetto, enfatizzando la necessità di un controllo umano effettivo e responsabile su quanto proposto dall’AI nelle attività sanitarie, che ha sempre come fine ultimo la migliore gestione possibile dei pazienti. Questo presupposto pone le basi per proseguire verso la tutela di una sanità etica e sostenibile” sottolinea Giardini.
Gestione etica dell’Intelligenza Artificiale in sanità, quali sono gli aspetti più importanti
Integrare l’intelligenza artificiale all’interno delle pratiche di una struttura sanitaria richiede una grande attenzione – rivolta sia alla tutela del paziente che dell’operatore sanitario –, ma deve necessariamente includere il margine dell’errore umano. “Errore che inevitabilmente ricade anche sull’intelligenza artificiale e sul machine learning, che rispondono a programmazione e input umani” chiarisce Giardini. Il tema dell’errore è delicato e in fase di ampio dibattito a livello europeo.
Il perno degli Human Oversight sulla gestione dell’intelligenza artificiale, quindi, non deve mai essere dimenticato e deve essere anzi codificato. “Durante l’UEHP è stato narrato un episodio su cui ritengo sia importante riflettere: intervistando un gruppo di medici e chiedendo loro se avessero mai usato ChatGPT per eseguire delle diagnosi, è emerso come molti di loro avevano consultato questo strumento di OpenAI” racconta Giardini. “L’AI sta entrando nella vita quotidiana di tutti noi e non è possibile negare il cambiamento, quanto piuttosto è necessario guidarlo. È chiaro quindi che l’IA debba necessariamente essere governata attraverso la consapevolezza del concetto di ‘human in command’: la decisione ultima, in sanità, deve sempre spettare all’essere umano”.
La legislazione vigente in Europa
Questo momento storico, però, per Giardini, è un momento di riflessione, non di giudizi perentori sul ruolo dell’IA in sanità. “Questo, a mio parere, è il momento del dibattito” chiarisce. “L’Unione Europea ha già promulgato un act legato all’uso dell’intelligenza artificiale, ma nonostante ciò, questo è il momento di studiarlo e di ragionarci sopra, così come è stato fatto durante l’UEHP. Ritengo che non si possa pensare di governare un’innovazione e un cambiamento esclusivamente attraverso la promulgazione di una legge. Non è soltanto in questo modo che ci si può approcciare a risolvere i problemi legati a una determinata tematica, anzi: è necessario prendersi del tempo per analizzarne e comprenderne tutte le sfaccettature, in modo da tradurre un concetto astratto in operatività fattiva”.
IT e cybersecurity, un binomio inscindibile
Nel panorama tecnologico attuale, la cybersicurezza emerge come la preoccupazione principale per ogni Chief Information Officer. “L’evoluzione del cybercrimine, che vede la nascita di vere e proprie organizzazioni criminali capaci di investire ingenti capitali e gestire operazioni complesse, ha reso indispensabile per le aziende l’adozione di sistemi di protezione avanzati” spiega Giardini. “In questo scenario, phishing e ransomware rappresentano minacce più pervasive e dannose, che richiedono un’attenzione costante e strategie di difesa innovative”.
Colonna portante dell’infrastruttura digitale in sanità, “l’IT deve interfacciarsi efficacemente con le diverse funzioni aziendali per raggiungere obiettivi comuni. La collaborazione tra diverse figure professionali, inclusi data analyst, cyber risk manager, e altri responsabili della gestione del rischio, diventa quindi fondamentale per promuovere l’innovazione e ridurre il rischio di attacchi. Nel settore della sanità è dunque fondamentale relazionarsi con varie figure che abbiano competenze diverse, perché gli obiettivi devono essere condivisi e costruiti insieme”.
Tuttavia, le sfide non si limitano alla gestione delle minacce esterne. La ricerca dell’innovazione tecnologica, sebbene cruciale, si scontra spesso con ostacoli pratici quali costi e tempistiche di implementazione, oltre a dover considerare gli impatti ambientali, come il significativo consumo energetico associato all’uso di tecnologie avanzate.
“Queste considerazioni portano a riflettere non solo sull’importanza della cybersecurity e della gestione proattiva dei rischi digitali ma anche sul bisogno di adottare un approccio sostenibile all’innovazione” conclude Giardini.
On the same topic
All the posts
Cybersecurity in sanità, un’esigenza di protezione sempre più necessaria
Gestione del rischio cyber in sanità: un approccio su misura per le strutture sanitarie
