L’intelligenza artificiale entra sempre più profondamente nel settore sanitario e ora punta anche alla prevenzione della violenza domestica. Un gruppo di ricercatori del MIT, di Harvard Medical School e di Mass General Brigham ha sviluppato AIRS, un sistema basato sull’IA in grado di individuare potenziali vittime di violenza da parte del partner attraverso l’analisi delle cartelle cliniche.
Come funziona AIRS e quali dati analizza
Secondo quanto riportato da ZDNet, il modello riesce a segnalare situazioni di rischio fino a diversi anni prima che le persone coinvolte decidano di denunciare o raccontare gli abusi. Una tecnologia che potrebbe rivoluzionare la prevenzione, ma che apre anche interrogativi delicati sul fronte della privacy e della sicurezza dei dati sanitari.
Il sistema sviluppato dai ricercatori si chiama Automated IPV Risk Support (AIRS) e utilizza una combinazione di dati clinici strutturati e note mediche testuali. Da una parte vengono analizzati elementi come diagnosi, farmaci prescritti, frequenza delle visite al pronto soccorso, esami radiologici e condizioni socioeconomiche. Dall’altra, il sistema prende in considerazione le annotazioni scritte da medici, radiologi e assistenti sociali.
Per elaborare queste informazioni viene utilizzato un modello linguistico chiamato Clinical-Longformer, progettato per interpretare il linguaggio medico. L’obiettivo è individuare schemi ricorrenti che possano suggerire situazioni di violenza domestica anche quando il paziente non ha mai parlato apertamente degli abusi subiti.
Secondo i ricercatori, il sistema raggiunge un livello di accuratezza elevato. Nei test effettuati, AIRS ha registrato un punteggio AUC superiore a 0,8, considerato molto significativo nel settore medico. Inoltre, il modello sarebbe riuscito a identificare oltre l’80% dei casi di violenza domestica prima che le vittime decidessero di denunciarla.
La diagnosi precoce può cambiare la prevenzione
Uno degli aspetti più rilevanti del progetto riguarda la possibilità di intervenire in anticipo. Lo studio evidenzia infatti che molte vittime arrivano negli ospedali con sintomi come dolore cronico, ansia, depressione o lesioni fisiche, senza però sentirsi al sicuro nel raccontare la propria situazione.
Paura del partner, dipendenza economica, stigma sociale e problemi legati all’immigrazione sono alcuni dei motivi che spesso impediscono alle persone di chiedere aiuto. Per questo motivo, gli strumenti tradizionali basati esclusivamente sulle dichiarazioni spontanee delle vittime finiscono per intercettare solo una parte dei casi reali.
Il sistema AIRS punta invece a colmare questo vuoto informativo. In media, l’algoritmo sarebbe riuscito a individuare segnali di rischio circa 3,7 anni prima della confessione ufficiale da parte delle pazienti. In alcuni casi, i dati clinici analizzati risalivano addirittura a oltre cinque anni prima della denuncia.
I limiti dell’intelligenza artificiale nella violenza domestica
Nonostante i risultati incoraggianti, i ricercatori e gli esperti invitano alla prudenza. AIRS non è stato progettato per diagnosticare automaticamente una situazione di abuso, ma per fornire ai medici un supporto aggiuntivo durante la valutazione clinica.
Uno dei problemi principali riguarda i cosiddetti falsi positivi. Un algoritmo potrebbe infatti interpretare erroneamente alcuni segnali clinici e classificare come a rischio pazienti che non vivono realmente situazioni di violenza domestica. Per questo motivo, gli studiosi insistono sul fatto che la decisione finale debba sempre restare nelle mani dei professionisti sanitari.
Un altro limite importante riguarda la difficoltà nel riconoscere forme di abuso non fisico, come il controllo coercitivo, la violenza psicologica o quella economica. Secondo diversi esperti, questi fenomeni lasciano tracce molto meno evidenti nelle cartelle cliniche e rischiano quindi di sfuggire all’algoritmo.
Privacy, sicurezza e questioni etiche
La gestione dei dati sanitari rappresenta uno dei nodi più delicati dell’intero progetto. AIRS è stato addestrato utilizzando anni di cartelle cliniche e, una volta introdotto negli ospedali, potrebbe generare valutazioni di rischio senza che i pazienti siano pienamente consapevoli dell’analisi in corso.
Gli esperti sottolineano quindi la necessità di costruire regole precise su consenso, trasparenza e protezione delle informazioni sensibili. Il rischio è che strumenti di questo tipo possano essere utilizzati impropriamente o creare conseguenze indesiderate per persone già vulnerabili.
Le discussioni riguardano anche il ruolo delle istituzioni e dei sistemi di governance. Diversi studiosi ricordano che esperienze precedenti, come il sistema spagnolo VioGén utilizzato dalle forze dell’ordine, hanno mostrato come l’eccessiva fiducia negli algoritmi possa portare a errori gravi se manca un controllo umano indipendente.
Le prospettive future della ricerca
Il team che lavora su AIRS sta già cercando di ampliare il modello per includere categorie oggi meno rappresentate negli studi, come uomini, persone transgender e pazienti non binari. Parallelamente, i ricercatori stanno approfondendo anche le conseguenze a lungo termine della violenza domestica sulla salute mentale e fisica.
Nel frattempo, organizzazioni internazionali e gruppi di ricerca stanno lavorando alla definizione di standard etici e normativi per l’utilizzo dell’intelligenza artificiale nella prevenzione della violenza familiare. L’obiettivo è sviluppare strumenti che possano realmente aiutare le vittime senza compromettere autonomia, sicurezza e dignità personale.
Fonte: ZDNet
