25 Febbraio 2026

---

---

Una ricerca pubblicata su The Lancet Digital Health segnala infatti che i modelli linguistici, sia open source sia proprietari, accettano più facilmente contenuti falsi se inseriti in testi che imitano comunicazioni mediche ufficiali – come, ad esempio, lettere di dimissione ospedaliera. Il lavoro, guidato da Eyal Klang della Icahn School of Medicine at Mount Sinai di New York, ha valutato il comportamento di venti modelli linguistici esponendoli a tre categorie di materiali: vere lettere di dimissioni modificate con una raccomandazione errata, miti sanitari estratti da Reddit e scenari clinici creati da professionisti della salute.

Dall’elaborazione di oltre un milione di prompt, è emerso che i modelli hanno accettato e riproposto informazioni totalmente inventate in circa un terzo delle risposte. La tendenza aumentava sensibilmente quando la falsità era incorporata in un documento clinico realistico, mentre risultava più contenuta nel caso di affermazioni provenienti da fonti tipicamente informali, come i social network. Secondo gli studiosi, gli attuali sistemi di AI tendono ad attribuire veridicità automatica ai contenuti formulati con un linguaggio medico tecnico e sicuro, anche quando tali contenuti sono errati. Anche il modo in cui viene costruito il prompt condiziona l’esito: un tono autorevole incrementa la possibilità che il modello confermi l’informazione falsa.

La ricerca evidenzia inoltre che non tutti i modelli reagiscono allo stesso modo: alcune piattaforme sembrano essere più resistenti alla disinformazione rispetto ad altre. Gli autori sottolineano che, con l’adozione sempre più diffusa dell’intelligenza artificiale nella pratica clinica — dalla redazione della documentazione ai sistemi di supporto decisionale — diventa essenziale sviluppare strumenti di verifica automatica delle affermazioni mediche e sistemi di controllo che filtrino gli errori prima che le risposte siano presentate come attendibili. Individuare le aree di maggiore vulnerabilità, concludono, è un passaggio imprescindibile per un’integrazione sicura e strutturata dell’AI nei percorsi sanitari.

Se hai trovato utile questo articolo e non sei ancora abbonato ad Odontoiatria33, sostieni
la qualità della nostra informazione
ABBONATI

Copyright © Riproduzione vietata-Tutti i diritti riservati