Sono bastati sei articoli di un noto giornale dell’area di centrodestra e le capacità analitiche di ChatGPT per scoprire possibili discriminazioni (basate sulla nazionalità) nel modo in cui vengono scritti gli articoli che trattano di omicidi. Quando l’omicida è straniero la possibilità che la sua storia venga trattata in modo “impersonale”, quindi distaccato e non empatico rispetto alla vicenda umana del killer, è più alta rispetto a quando l’omicida è italiano. Il privilegio dei nostri connazionali sarebbe quello di ricevere un trattamento più umanizzante, che non si limita a riportare i fatti della loro azione criminale, ma anche la storia delle loro vite. Questo è un campione limitato, che non permette di trarre conclusioni definitive, ma rappresenta un modo alternativo di usare le intelligenze artificiali generative e c’è chi ha dimostrato possa essere usato per la ricerca in ambito sociale.
Gli algoritmi della AI infatti replicano i pregiudizi degli umani e spesso li amplificano. La ricerca lo ha rilevato da tempo: le macchine sono costruite per emulare il comportamento delle persone e, nel farlo, imitano anche gli atteggiamenti discriminatori che emergono dai dati usati per addestrarle. C’è però chi ha dimostrato in maniera scientifica che è possibile usare l’intelligenza artificiale anche come strumento per riconoscere le discriminazioni.
«Io volevo capire come i media parlano delle minoranze o gruppi svantaggiati, usando l’intelligenza artificiale in modo nuovo», dice Emily Ocasio, 18 anni, studentessa alla New School del Northern Virginia (ma già ammessa alla Stanford University). Emily ha provato che algoritmi e reti neurali possono essere validi alleati per riconoscere i pregiudizi delle nostre società, se usati in un modo intelligente. Le sue intuizioni le sono valse il secondo posto al Regeneron Science Talent Search, il più antico e prestigioso riconoscimento per studenti di matematica e scienze negli Stati Uniti, che prevede un premio da 175.000 dollari.
Il suo progetto ha provato che i minorenni vittime di omicidio ricevevano un trattamento diverso dai giornali a seconda del colore della pelle: i ragazzi bianchi erano più «umanizzati» nel racconto dei giornali rispetto ai ragazzi neri, trattati invece in maniera impersonale. Emily ha analizzato, con l’aiuto delle macchine, oltre un milione di articoli di giornale, tutti quelli pubblicati dal Boston Globe, il quotidiano di Boston, tra il 1976 e il 1984. Dopo una prima selezione, ha confrontato quelli utili alla sua ricerca con i corrispondenti report dell’FBI, nei quali venivano riportati i dati anagrafici delle vittime. Poi ha studiato dei comandi per chiedere a GPT-3, versione precedente di ChatGPT, di analizzare le parole usate nel coprire il fatto di cronaca, dimostrando «come un modello linguistico ideato per generare testi può essere usato anche come strumento di ricerca per analizzarli». Un approccio innovativo e interdisciplinare l’ha portata a essere annoverata tra gli studenti più promettenti di tutti gli Stati Uniti.
Quando alla premiazione ha sentito il suo nome chiamato sul palco non poteva crederci. «Ero scioccata, come mai in vita mia», dice Emily, «oltre che del riconoscimento, sono onorata di aver mostrato che la ricerca sulle scienze sociali è ricerca a tutti gli effetti». Emily amministra un’organizzazione no-profit, la Girls Computing League, che contribuisce a fornire un’istruzione di alta qualità nelle discipline tecnico scientifiche a persone di ogni estrazione sociale. Crede nella giustizia sociale e negli sforzi per rendere il mondo un posto più equo, ma la sua passione nel voler contribuire era soffocata dal fatto che «i gruppi di ricerca in economia, scienze sociali e sociologia in genere non accettano studenti delle scuole superiori», continua la studentessa. «Dovevo essere in grado di contribuire con un’abilità o un’idea nuova, non avevo un dottorato o altre esperienze di ricerca».
Il successo del suo progetto è stato determinato dall’approccio interdisciplinare, dal fatto che sia riuscita a bilanciare l’aspetto informatico-statistico a quello sociologico. Emily ne è consapevole. «L’utilizzo di GPT-3 è stato fondamentale, ma lo è stato altrettanto l’approccio intersezionale e il modo sfumato di esplorare l'”umanizzazione” al di là del linguaggio razzista e dispregiativo». D’altronde lei ha detto alla macchina come effettuare le comparazioni, sfruttando la sua potenza statistica.
Ora spera di continuare la sua ricerca su dati più recenti e in autunno inizierà a frequentare l’università, «felice di essere in grado di coprire quasi tutte le tasse universitarie con i soldi del premio!». Anche per questo dice di sentirsi fortunata, ma soprattutto perché ha avuto l’opportunità di coltivare «due passioni completamente diverse mentre era ancora al liceo, per poi essere in grado di unirle. Temo che la maggior parte dei liceali americani non abbia accesso a un’istruzione di alta qualità, figuriamoci in più campi».
Leggi anche: “AI, l’Unione europea accelera sulle norme”
