Immaginate di entrare in un ospedale, sottoporvi a una risonanza magnetica e ricevere la diagnosi non dopo giorni di attesa, ma nel tempo di un caffè. Non da un medico stanco dopo un turno di quattordici ore, ma da un algoritmo che ha analizzato milioni di scansioni prima ancora che voi nasceste. È questo il futuro? In parte, sì. In parte, è già il presente. Ma c'è una domanda che pochi si fanno: cosa succede quando l'AI sbaglia, e nessuno se ne accorge?
I numeri che fanno voltare la testa
Cominciamo dai fatti. Nel 2023, uno studio pubblicato su The Lancet Digital Health ha analizzato oltre 20.000 ricerche sull'uso dell'intelligenza artificiale in diagnostica per immagini. La conclusione? In specifici ambiti — come la rilevazione del cancro al seno dalla mammografia o della retinopatia diabetica dalle fotografie del fondo oculare — alcuni sistemi AI hanno raggiunto o superato la precisione dei radiologi umani. Google Health ha sviluppato un modello per lo screening del cancro al seno che ha ridotto i falsi positivi del 5,7% e i falsi negativi del 9,4% rispetto alla lettura umana standard. DeepMind, acquisita da Google, ha creato un sistema per l'analisi delle scansioni OCT (tomografia a coerenza ottica) in grado di identificare oltre 50 patologie oculari con accuratezza comparabile a quella di esperti di livello mondiale.
Ma i numeri più impressionanti arrivano dalla pratica quotidiana. In Thailandia, il Ministero della Salute ha distribuito sistemi AI per lo screening della retinopatia diabetica in oltre 50 cliniche rurali dove non esisteva alcun oculista. Risultato: diagnosi prima impossibili, interventi precoci, vista salvata a migliaia di pazienti. È questo il potenziale democratico dell'AI: portare l'expertise dove le risorse umane non arrivano.
Tuttavia, la precisione isolata non basta. Un algoritmo che funziona magnificamente su dati puliti, etichettati da specialisti del Massachusetts General Hospital, può crollare di fronte a una macchina vecchia di dieci anni in una struttura pubblica italiana. Il problema si chiama "generalizzazione" ed è il tallone d'Achille di molti sistemi approvati troppo frettolosamente.
I tre lati oscuri che i comunicati stampa non raccontano
Per ogni successo mediatico, esiste una controstoria meno celebrata. Ecco i tre problemi strutturali che chi lavora sul campo conosce bene:
- Il bias nascosto nei dati. Nel 2019, un celebre studio ha dimostrato che un algoritmo ampiamente utilizzato negli USA per gestire l'accesso alle cure gestiva in modo discriminatorio i pazienti neri: assegnava punteggi di rischio più bassi a parità di condizioni cliniche, perché i dati storici riflettevano disparità sistemiche nell'accesso alle cure. L'AI ha imparato perfettamente una medicina ingiusta.
- La sindrome della scatola nera in sala operatoria. Quando un medico umano sbaglia, può spiegare il proprio ragionamento — anche se fallace — davanti a una commissione. Quando un algoritmo di deep learning classifica un nodulo come benigno e muore il paziente, chi è responsabile? Il programmatore? L'ospedale che ha acquistato il software? L'azienda che non ha previsto quel caso limite? La normativa europea AI Act sta cercando di tracciare confini, ma la pratica giudiziaria è ancora nebulosa.
- L'atrofia della competenza umana. Questo è il mio timore più personale. Se le generazioni future di medici crescono con l'AI che suggerisce diagnosi, che fine fa l'occhio clinico affilato dalla pratica? Un radiologo che delega sistematicamente le letture complesse all'algoritmo rischia di non sviluppare mai la capacità di riconoscere l'anomalia che l'AI non ha mai visto. Stiamo forse allevando una medicina di "lettori di schermi" incapaci di pensare autonomamente?
Il modello che funziona (davvero): uomo e macchina, non uomo contro macchina
Dopo anni di narrazioni iperboliche — l'AI sostituirà i medici, l'AI fallirà miseramente — sta emergendo un modello più sottile e, a mio avviso, più robusto. Si chiama "intelligenza aumentata" piuttosto che "intelligenza artificiale sostitutiva".
Il progetto MammoScreen, sviluppato da una spin-off dell'Università di Pisa e ora in uso in diverse strutture italiane, non sostituisce il radiologo: lo affianca. L'algoritmo evidenzia le aree sospette, classifica il livello di urgenza, permette al medico di concentrarsi sui casi che richiedono veramente attenzione. I tempi di refertazione si accorciano, la precisione aumenta, ma la decisione finale — con tutto il suo carico di incertezza, empatia e responsabilità etica — resta umana.
Un altro esempio italiano merita attenzione: il gruppo di ricerca coordinato dal Politecnico di Milano e dall'IRCCS Ospedale San Raffaele sta sviluppando modelli di federated learning per l'analisi delle immagini istopatologiche. Invece di centralizzare dati sensibili in un unico server — con tutti i rischi di privacy — l'AI "viaggia" tra gli ospedali, impara localmente, condivide solo i pattern aggiornati. È un approccio che rispetta il GDPR, valorizza la diversità dei dati clinici e non appartiene né a Google né a Tencent.
La vera sfida non è tecnologica: è organizzativa e culturale. Formare i medici a interrogare criticamente l'AI, a riconoscere quando il sistema è fuori dal suo dominio di competenza (il cosiddetto "out-of-distribution detection"), a mantenere il dubbio metodologico anche di fronte a una percentuale di confidenza del 99,7%.
Ecco la domanda che lascio ai lettori: accettereste che una diagnosi grave — cancro, demenza, malattia genetica — vi venga comunicata da un algoritmo senza mediazione umana, se i dati mostrassero che quell'algorit