L’intelligenza artificiale eredita i pregiudizi antisemiti del passato

L’intelligenza artificiale promette di superare limiti, errori e pregiudizi umani. Eppure una nuova ricerca accademica israeliana suggerisce che le macchine stanno imparando anche il lato più oscuro della cultura che le ha generate. Lo studio, pubblicato con il titolo ‘From Myth to Model: Representation of “The Jew” in Generative AI’, conclude infatti che alcuni dei principali sistemi di intelligenza artificiale oggi disponibili riproducono schemi che richiamano stereotipi antisemiti radicati da secoli nella cultura occidentale.

La ricerca è stata condotta da Michael Gilead e Gal Gutman, due studiosi israeliani che hanno cercato di capire come i grandi modelli linguistici rappresentino implicitamente la figura dell’ebreo. Il loro obiettivo non era verificare la presenza di insulti o affermazioni apertamente ostili, fenomeni che negli ultimi anni le aziende tecnologiche hanno cercato di limitare attraverso sistemi di filtraggio sempre più sofisticati. I ricercatori hanno invece deciso di indagare un livello più profondo e meno visibile, quello delle associazioni inconsce che emergono quando l’intelligenza artificiale costruisce personaggi, attribuisce qualità o immagina biografie.

Per svolgere l’esperimento, gli studiosi hanno utilizzato ChatGPT-4 Turbo chiedendo al sistema di generare un ampio campione di nomi ebraici e non ebraici appartenenti a cittadini americani di età differenti. Sono stati creati 252 personaggi fittizi, distribuiti in modo equilibrato tra uomini e donne e tra identità ebraiche e non ebraiche. Tra i nomi associati agli ebrei comparivano Ethan Katz, Noah Weiss e Gabriel Horowitz, mentre tra quelli non ebraici figuravano Tyler Johnson, Kyle White e Dylan Wilson.

Successivamente il modello è stato invitato a scrivere brevi biografie di ciascun personaggio, come farebbe un romanziere nella costruzione dei propri protagonisti. In una fase successiva sono stati eliminati i riferimenti religiosi espliciti e i ricercatori hanno analizzato il modo in cui il sistema attribuiva tratti caratteriali, qualità sociali e caratteristiche psicologiche.

I risultati hanno mostrato una tendenza sorprendentemente costante. I personaggi associati a nomi ebraici venivano descritti come più intelligenti, più competenti, più dominanti e più privilegiati rispetto agli altri. Allo stesso tempo risultavano meno simpatici, meno calorosi nei rapporti umani e meno inclini alla cooperazione collettiva. Lo schema si è ripetuto con una regolarità tale da rendere difficile attribuirlo al caso.
L’aspetto più interessante emerge dal fatto che tali risultati non riguardano un singolo sistema. Applicando la stessa metodologia ad altri modelli linguistici, tra cui DeepSeek-V3 e Mistral, i ricercatori hanno ottenuto risultati molto simili. Le figure identificate come ebraiche tendevano a concentrarsi in una categoria definita “alta competenza e basso calore umano”, una combinazione che richiama stereotipi ben conosciuti nella storia dell’antisemitismo moderno.

Per secoli la propaganda antiebraica ha infatti attribuito agli ebrei capacità intellettuali e successo economico, associandoli però contemporaneamente all’avidità, alla freddezza emotiva, alla manipolazione e all’estraneità rispetto alla comunità nazionale. La novità evidenziata dalla ricerca consiste nel fatto che queste rappresentazioni sembrano riemergere anche in sistemi che non sono stati programmati per produrle.

Secondo gli autori, il problema potrebbe derivare dai giganteschi archivi di dati utilizzati per addestrare l’intelligenza artificiale. Libri, articoli, siti internet, discussioni online e contenuti digitali accumulati nel corso degli anni contengono inevitabilmente pregiudizi sedimentati nel tempo. Quando un modello linguistico apprende dai dati disponibili, rischia di assorbire anche le associazioni culturali che accompagnano determinate identità.

Lo studio suggerisce inoltre che l’attuale crescita di sentimenti ostili verso la modernizzazione, il capitalismo globale e l’innovazione tecnologica potrebbe contribuire a rafforzare vecchi schemi antisemiti all’interno dell’ecosistema digitale. Nella storia europea, infatti, gli ebrei sono stati spesso trasformati in simboli di processi economici e sociali percepiti come minacciosi. Quelle stesse connessioni potrebbero oggi riaffiorare nei dati che alimentano l’intelligenza artificiale.

La questione assume un rilievo particolare in un’epoca in cui milioni di persone utilizzano quotidianamente strumenti basati sull’intelligenza artificiale per informarsi, studiare, lavorare e prendere decisioni. Se i sistemi generativi incorporano pregiudizi profondamente radicati, il rischio consiste nella loro diffusione automatica e inconsapevole su una scala senza precedenti.

Per questo motivo gli autori della ricerca sostengono che il controllo dei bias non possa limitarsi all’individuazione di espressioni apertamente discriminatorie. Le forme più persistenti di pregiudizio operano infatti attraverso associazioni sottili, sfumature psicologiche e attribuzioni di carattere che appaiono innocue quando vengono osservate singolarmente, ma che nel loro insieme finiscono per riprodurre immagini collettive costruite nel corso di secoli.

L’intelligenza artificiale viene spesso descritta come uno specchio dell’umanità. Questo studio suggerisce che, osservando attentamente il riflesso, continuano ad affiorare anche ombre che molti ritenevano ormai appartenenti al passato.

L’ora dei dilettanti