Health
TrustMED - AI Affidabile per Imaging Medico
Programma di ricerca su AI sicura, robusta e interpretabile per imaging medico: auditing del rischio, robustezza e architetture explainable-by-design
Affidabilità, robustezza, trasparenza, controllo del rischio TBD
Criticità Chiave
Trustworthy AI per imaging medico (ricerca, non prodotto) TBD
Ambito
Tassonomia rischi + framework di auditing + proposta di modello interpretabile TBD
Output Attesi
Calibrazione, incertezza, generalizzazione cross-dataset, comportamento OOD TBD
Focus Valutazione
Panoramica
Visione del Progetto
Il deep learning ha raggiunto performance paragonabili a quelle umane in diversi task di imaging medico, ma l’adozione clinica sistematica è ancora limitata da affidabilità, robustezza, trasparenza e controllo del rischio.
TrustMED affronta queste criticità con un programma di ricerca rigoroso che produce metodologie riusabili e contributi pubblicabili nella Trustworthy Medical AI. Il progetto non è orientato alla realizzazione di un prodotto.
Impatto Atteso
- Framework metodologico per la valutazione del rischio nei modelli di imaging medico
- Studio comparativo potenzialmente pubblicabile
- Proposta di modello interpretabile validata sperimentalmente
Specifiche tecniche
Work Package di Ricerca
- Benchmark SOTA: Analisi comparativa di architetture CNN, transformer e foundation models su dataset pubblici; valutazione di stabilità training, calibrazione e shift di distribuzione.
- Framework di Valutazione del Rischio: Robustezza (rumore, perturbazioni realistiche, variazioni di acquisizione), generalizzazione cross-dataset, uncertainty e calibration, identificazione di failure modes sistematici.
- Studio dell’Interpretabilità: Confronto tecniche di explainability; analisi qualitativa e quantitativa delle regioni informative; coerenza clinica delle decisioni.
- Architettura Interpretabile: Proposta di architettura alternativa con moduli interpretabili, decisione uncertainty-aware e vincoli architetturali per trasparenza e controllabilità.
Partner di progetto
Nessun partner indicato.
Cronologia
WP1
Benchmark modelli SOTA su dataset pubblici TBD
WP2
Protocollo valutazione rischio e framework di auditing TBD
WP3
Analisi interpretabilità e coerenza clinica TBD
WP4
Proposta e validazione architettura interpretabile TBD
Galleria
Nessun media disponibile.