Presentazione
Descrizione del progetto
Il Progetto
Durante l’anno scolastico 2024-2025, la classe 5ITIA C dell’ITT Panetti Pitagora di Bari, sotto la guida del prof. Mastrandrea, ha condotto uno studio empirico sui bias presenti nei principali modelli di intelligenza artificiale generativa text-to-image.
L’obiettivo del progetto è stato quello di investigare come questi strumenti rappresentano le diverse professioni, verificando l’eventuale presenza di stereotipi legati a genere, etnia, età e altri fattori sociali.
Metodologia
Gli studenti hanno lavorato seguendo un processo strutturato:
Generazione delle Immagini
Sono state generate centinaia di immagini utilizzando 5 modelli diversi:
- ChatGPT (DALL-E)
- Gemini AI
- Leonardo AI
- Canva
- Bing Image Creator
Per ogni modello sono state richieste immagini di 15 professioni diverse, suddivise in due categorie:
Professioni ad alto reddito: Architetto, Medico, Giudice, Politico, CEO, Ingegnere, Avvocato
Professioni a basso reddito: Cassiere, Lavapiatti, Contadino, Addetto alla ristorazione, Casalingo, Inserviente, Assistente sociale, Insegnante
I prompt sono stati formulati esclusivamente in inglese per evitare condizionamenti legati al genere grammaticale della lingua italiana (es. “un’insegnante” vs “un insegnante”).
Etichettatura e Analisi
Ogni immagine generata è stata analizzata e classificata dagli studenti su 5 dimensioni:
- Sesso (M/F)
- Etnia (occidentale, orientale, estremo orientale, afrodiscendente, africano)
- Tonalità della pelle (scala I-VI di Fitzpatrick)
- Età stimata (bambino/a, ragazzo/a, adulto/a, anziano/a)
- Espressione facciale (felice, neutro, triste)
Risultati Significativi
L’analisi dei dati ha rivelato pattern interessanti. Eccone alcuni:
- Disparità di genere: Le professioni ad alto reddito sono rappresentate prevalentemente con soggetti maschili (CEO: 70.9% M, Giudice: 76% M), mentre le professioni a basso reddito mostrano una forte prevalenza femminile (Casalingo: 87.5% F, Insegnante: 72% F).
- Bias etnico: Le professioni ad alto status sociale tendono a essere rappresentate con soggetti di etnia occidentale (Politico: 62.5%, Giudice: 66.6%), mentre per lavori come “Assistente sociale” emerge una maggiore diversità etnica.
- Età e professione: Le professioni di leadership e più prestigiose (CEO, Giudice) sono associate a età più avanzate, mentre ruoli come Fast food worker sono rappresentati prevalentemente da giovani (65.9%).
Per un’analisi completa si rimanda ad una successiva pubblicazio
Indice di Diversità
Per quantificare il livello di bias presente nelle rappresentazioni generate dai modelli AI, abbiamo calcolato un Diversity Index per ciascun asse di analisi (Sesso, Etnia, Tonalità della pelle, Età, Espressione facciale). L’indice varia da 0 (massimo bias: una sola classe rappresentata) a 1 (massima diversità: tutte le classi equamente rappresentate) e si basa sulla differenza tra la percentuale della classe maggioritaria e quella delle altre classi. Un valore basso indica che il modello tende a generare rappresentazioni stereotipate e poco diversificate, mentre un valore alto suggerisce una distribuzione più equilibrata delle caratteristiche rappresentate. Questo indice ci permette di confrontare in modo oggettivo il comportamento dei diversi modelli e professioni, evidenziando dove i bias sono più marcati. Inoltre abbiamo mediato tutti questi indici al fine di creare un “Diversity Index” per modello.
Divulgazione
Il progetto è stato presentato alla DevFest 2025 di Bari, permettendo agli studenti di condividere i risultati della loro ricerca con la comunità tech locale e confrontarsi con professionisti del settore.
Le slide della presentazione sono disponibili a questo link.
Il dataset con tutte le immagini e le etichettature è disponibile invece a questo link.
Obiettivi
- Sviluppare competenze di ricerca empirica e analisi dati
- Comprendere le implicazioni etiche dell'intelligenza artificiale
- Lavorare con metodologie scientifiche applicando rigore nella raccolta e classificazione dei dati
- Acquisire consapevolezza critica sull'uso delle tecnologie di AI generativa
- Presentare risultati a un pubblico professionale sviluppando competenze di comunicazione
Partecipanti
Gli studenti della 5ITIA-C 2024-25 guidati dal prof. Giuseppe Mastrandrea e dal prof. Antonio Raffaele Iacovazzi.