Training Humans: Fondazione Prada irrompe nell’intelligenza artificiale

Allestita dall’Osservatorio Fondazione Prada di Milano, Training Humans è la prima grande mostra fotografica riservata alle immagini di training, esposta dal 12 settembre 2019 al 24 febbraio 2020. Un’occasione unica per ammirare repertori di fotografie utilizzate dagli scienziati nei sistemi di Intelligenza Artificiale che spiegano come “vedere” e classificare il mondo.

Training Humans e le sue tematiche chiave

La mostra è stata ideata dalla professoressa e studiosa nell’ambito dell’Intelligenza Artificiale, Kate Crawford e da Trevor Paglen, artista e ricercatore. Kate Crawford è una ricercatrice e professoressa universitaria che per 15 anni ha studiato le implicazioni sociali e politiche dell’Intelligenza Artificiale. Mentre Trevor Paglen è un artista interessato alla scultura, al giornalismo investigativo, alla scrittura e all’ingegneria.
I due studiosi percorrono l’evoluzione delle collezioni di training dagli anni Sessanta a oggi. Come afferma Kate Crawford: “Volevamo trattare direttamente le immagini che formano i sistemi di Intelligenza Artificiale e prenderle come parte di una cultura in rapida evoluzione. Per verificare il loro funzionamento, abbiamo analizzato centinaia di set di immagini di training per capire i processi interni di questi motori del vedere”.
Infatti, la mostra Training Humans esplora due tematiche chiave: la codificazione degli esseri umani attraverso dataset di training e le modalità con cui i sistemi tecnologici raccolgono, etichettano e utilizzano questi materiali. Nei sistemi di Intelligenza Artificiale i criteri di misurazione si trasformano in strumenti di giudizio morale. Di conseguenza, quando la classificazione di esseri umani, attraverso l’Intelligenza Artificiale, diventa più complessa, i pregiudizi si presentano più evidenti. Il pubblico potrà quindi osservare le tecnologie di Intelligenza Artificiale che si sono diffuse nella nostra società, tra queste, per esempio, il riconoscimento facciale, l’andatura e la mappatura delle emozioni.

Sistemi di classificazione

Training Humans è stata studiata a partire dalle immagini utilizzate nei primi esperimenti in laboratorio di riconoscimento facciale computerizzato degli anni Sessanta negli Stati Uniti. Il database Face Recognition Technology ha raccolto 14.126 immagini con lo scopo di ottenere un segno di riferimento standard, che avrebbe permesso ai ricercatori di sviluppare algoritmi basandosi su un database comune di immagini.
Tuttavia, oggi, grazie ai social media, il numero delle immagini disponibili è aumentato in modo significativo, a tal punto che i ricercatori nel campo dell’Intelligenza Artificiale hanno smesso di usare immagini di appartenenza del governo e hanno cominciato a raccogliere le fotografie presenti sul web. In breve tempo l’assegnazione di etichette a queste immagini ha prodotto un sistema di classificazione delle persone in base alla razza, al genere, all’età, all’emozione e talvolta ai tratti caratteriali. Tutto ciò, secondo gli autori della mostra, riproduce la continuazione della storia dei sistemi post-coloniali e razzisti di segmentazione demografica.
Come sottolinea Paglen: “Il progetto mostra come queste immagini facciano parte di una lunga tradizione che consiste nel raccogliere immagini delle persone senza il loro consenso, al fine di classificarle, segmentarle e spesso ricondurle a stereotipi attraverso modalità che ricordano il passato coloniale”. Inoltre, un altro centro d’interesse per la studiosa Crawford e l’artista Paglen è stato il sistema di classificazione basato sugli affetti e sulle emozioni. In quanto queste nuove tecnologie riescono a misurare le espressioni facciali delle persone e a valutarne numerosissimi fattori, come la loro salute mentale, l’affidabilità o la tendenza a commettere atti criminali.
Ci si può quindi chiedere quando iniziano i confini tra scienza, storia, pregiudizio e ideologia nell’Intelligenza Artificiale e chi ha il potere di costruire tali sistemi e trarne beneficio. La studiosa Crawford conclude sottolineando che la speranza è che la mostra Training Humans segni il punto di svolta per riconsiderare questi sistemi e per comprendere scientificamente il modo in cui ci “vedono” e ci classificano.
 
di Aureliana Santinato

L'articolo Training Humans: Fondazione Prada e l'intelligenza artificiale proviene da Gilt Magazine.

Training Humans: Fondazione Prada irrompe nell’intelligenza artificiale

Allestita dall’Osservatorio Fondazione Prada di Milano, Training Humans è la prima grande mostra fotografica riservata alle immagini di training, esposta dal 12 settembre 2019 al 24 febbraio 2020. Un’occasione unica per ammirare repertori di fotografie utilizzate dagli scienziati nei sistemi di Intelligenza Artificiale che spiegano come “vedere” e classificare il mondo.

Training Humans e le sue tematiche chiave

La mostra è stata ideata dalla professoressa e studiosa nell’ambito dell’Intelligenza Artificiale, Kate Crawford e da Trevor Paglen, artista e ricercatore. Kate Crawford è una ricercatrice e professoressa universitaria che per 15 anni ha studiato le implicazioni sociali e politiche dell’Intelligenza Artificiale. Mentre Trevor Paglen è un artista interessato alla scultura, al giornalismo investigativo, alla scrittura e all’ingegneria.

I due studiosi percorrono l’evoluzione delle collezioni di training dagli anni Sessanta a oggi. Come afferma Kate Crawford: “Volevamo trattare direttamente le immagini che formano i sistemi di Intelligenza Artificiale e prenderle come parte di una cultura in rapida evoluzione. Per verificare il loro funzionamento, abbiamo analizzato centinaia di set di immagini di training per capire i processi interni di questi motori del vedere”.

Infatti, la mostra Training Humans esplora due tematiche chiave: la codificazione degli esseri umani attraverso dataset di training e le modalità con cui i sistemi tecnologici raccolgono, etichettano e utilizzano questi materiali. Nei sistemi di Intelligenza Artificiale i criteri di misurazione si trasformano in strumenti di giudizio morale. Di conseguenza, quando la classificazione di esseri umani, attraverso l’Intelligenza Artificiale, diventa più complessa, i pregiudizi si presentano più evidenti. Il pubblico potrà quindi osservare le tecnologie di Intelligenza Artificiale che si sono diffuse nella nostra società, tra queste, per esempio, il riconoscimento facciale, l’andatura e la mappatura delle emozioni.

Sistemi di classificazione

Training Humans è stata studiata a partire dalle immagini utilizzate nei primi esperimenti in laboratorio di riconoscimento facciale computerizzato degli anni Sessanta negli Stati Uniti. Il database Face Recognition Technology ha raccolto 14.126 immagini con lo scopo di ottenere un segno di riferimento standard, che avrebbe permesso ai ricercatori di sviluppare algoritmi basandosi su un database comune di immagini.

Tuttavia, oggi, grazie ai social media, il numero delle immagini disponibili è aumentato in modo significativo, a tal punto che i ricercatori nel campo dell’Intelligenza Artificiale hanno smesso di usare immagini di appartenenza del governo e hanno cominciato a raccogliere le fotografie presenti sul web. In breve tempo l’assegnazione di etichette a queste immagini ha prodotto un sistema di classificazione delle persone in base alla razza, al genere, all’età, all’emozione e talvolta ai tratti caratteriali. Tutto ciò, secondo gli autori della mostra, riproduce la continuazione della storia dei sistemi post-coloniali e razzisti di segmentazione demografica.

Come sottolinea Paglen: “Il progetto mostra come queste immagini facciano parte di una lunga tradizione che consiste nel raccogliere immagini delle persone senza il loro consenso, al fine di classificarle, segmentarle e spesso ricondurle a stereotipi attraverso modalità che ricordano il passato coloniale”. Inoltre, un altro centro d’interesse per la studiosa Crawford e l’artista Paglen è stato il sistema di classificazione basato sugli affetti e sulle emozioni. In quanto queste nuove tecnologie riescono a misurare le espressioni facciali delle persone e a valutarne numerosissimi fattori, come la loro salute mentale, l’affidabilità o la tendenza a commettere atti criminali.

Ci si può quindi chiedere quando iniziano i confini tra scienza, storia, pregiudizio e ideologia nell’Intelligenza Artificiale e chi ha il potere di costruire tali sistemi e trarne beneficio. La studiosa Crawford conclude sottolineando che la speranza è che la mostra Training Humans segni il punto di svolta per riconsiderare questi sistemi e per comprendere scientificamente il modo in cui ci “vedono” e ci classificano.

di Aureliana Santinato

L'articolo Training Humans: Fondazione Prada e l’intelligenza artificiale proviene da Gilt Magazine.