Intelligenza artificiale e sanità: i rischi reali oltre la paura da fantascienza
IA e sanità: scopri i rischi reali tra cybersecurity, diagnosi, triage, dati, supervisione e disuguaglianze, oltre la paura da fantascienza.
L’intelligenza artificiale sta trasformando la sanità, ma i rischi più concreti riguardano attacchi informatici, decisioni cliniche automatizzate, gestione dei dati e disuguaglianze.
Nel settembre 2026 la Cina ha aggiornato il proprio quadro per la sicurezza dell’intelligenza artificiale, includendo sistemi di monitoraggio, allerta e risposta alle emergenze. La decisione di Pechino nasce da un timore concreto: modelli più autonomi possono individuare vulnerabilità informatiche, manipolare dati oppure eseguire sequenze di azioni che, in seguito, risultano difficili da ricostruire. Negli Stati Uniti una parte del dibattito continua invece a concentrarsi sul rischio estremo di sistemi in grado di sottrarsi al controllo umano.
In ospedale, però, la distanza tra fantascienza e pratica quotidiana si accorcia in fretta. Quando un algoritmo può accedere a cartelle cliniche, risultati di laboratorio e prescrizioni, un guasto informatico smette di essere soltanto un problema tecnico: può incidere sulla sicurezza delle cure.
Cybersecurity e continuità dei servizi sanitari
Un agente artificiale non deve limitarsi a formulare una risposta. Se viene collegato ai sistemi operativi di una struttura sanitaria, può pianificare azioni e interagire con più archivi. Un chatbot che sbaglia produce un’informazione errata; un sistema autonomo che sbaglia può modificare un percorso, posticipare un esame oppure interferire con dati e procedure. La macchina non deve avere una volontà propria perché il rischio aumenti: contano i permessi ricevuti, gli strumenti a sua disposizione e la scarsa visibilità sulle decisioni che prende.
La sicurezza informatica diventa così anche sicurezza clinica. Occorrono autorizzazioni ridotte al minimo, reti separate e registri completi delle attività. Le decisioni ad alto impatto devono restare sotto supervisione umana, con la possibilità di arrestare subito il sistema.
Servono anche procedure analogiche, in modo da poter continuare a lavorare durante un guasto o un attacco. Le fonti disponibili descrivono il pericolo e le relative contromisure, ma non documentano un singolo episodio ospedaliero riportando durata dell’interruzione, numero di strutture coinvolte e danni clinici verificati. Questi elementi, quindi, non possono essere presentati come accertati.
Quando l’algoritmo influenza diagnosi e triage
Il rischio sanitario emerge anche senza immaginare un attacco informatico. Uno studio del 2026, pubblicato su Communications Medicine, ha valutato un modello linguistico chiamato a scegliere esami radiologici in scenari clinici realistici. In molti casi il sistema proponeva esami non coerenti con i criteri di appropriatezza, compreso imaging non necessario.
Si tratta di una sperimentazione, non della prova di un danno verificatosi in corsia. Il risultato, però, segnala una possibile cascata diagnostica: un numero maggiore di esami può portare a falsi positivi, reperti incidentali, ulteriori visite e nuove procedure.
Una metanalisi del 2026 sulla collaborazione tra medici e modelli linguistici ha rilevato possibili vantaggi in alcuni compiti. Ha anche trovato risultati eterogenei e lasciato aperta l’incertezza sulla trasferibilità alla pratica quotidiana.
Un’analisi del 2025, basata su oltre 1,7 milioni di risposte fornite da nove modelli, ha osservato raccomandazioni diverse al variare delle caratteristiche sociodemografiche dei pazienti. Nei casi associati a redditi elevati aumentavano le indicazioni a esami di imaging avanzato. Sono segnali che devono essere verificati in contesti reali; non costituiscono una stima dell’errore diagnostico complessivo.
Dati, supervisione e disuguaglianze
Un algoritmo validato in un grande ospedale può rendere meno bene nell’assistenza primaria, nelle aree rurali o con gruppi poco rappresentati nei dati utilizzati per svilupparlo. Il model drift, cioè il deterioramento delle prestazioni quando cambiano popolazione, pratiche cliniche e informazioni disponibili, richiede controlli anche dopo l’adozione.
Il prezzo d’acquisto, da solo, non restituisce il costo dell’operazione. Vanno considerati la qualità dei dati, la loro interoperabilità, la cybersecurity e la formazione del personale.
Nel 2026 la FDA, l’agenzia statunitense per farmaci e dispositivi medici, ha proposto una valutazione graduata. Il livello di rigore cresce in rapporto a quanto il sistema è autorizzato ad agire e alla gravità di un possibile errore. Il modello prevede benchmark, conferma clinica e sorveglianza post-market.
Resta da contrastare l’automation bias, ovvero l’adesione automatica all’indicazione della macchina. Per poterla contraddire, il professionista deve avere tempo, competenze e autorità.
La gerarchia dei rischi è meno spettacolare di quella associata alla superintelligenza, ma più urgente. La priorità va alla supervisione clinica, ai dati affidabili, agli accessi limitati e ai piani di continuità. L’AI sanitaria può aiutare a ricostruire una storia clinica o a segnalare un’interazione farmacologica; non deve ricevere una delega indistinta. Un ospedale maturo deve saper spegnere un algoritmo quando non produce un beneficio clinico dimostrato.
