L’Intelligenza artificiale rende le macchine razziste. L’analisi

09/06/2017
Dai pregiudizi di chi scrive gli algoritmi agli scherzi ai Chatbot che viaggiano via Twitter, ecco come le intelligenze artificiali diventano razziste.

Una macchina può essere razzista? Da quando si parla di Intelligenza artificiale e di machine learning, questo interrogativo, a volte in modo più sottile, altre volte in modo più evidente, sembra essere una costante.
Ebbene probabilmente la macchina non ha la capacità di essere razzista, ma possiamo dire lo stesso di chi l’ha programmata?

L’intelligenza artificiale, dietro il nome che in qualche modo ne sottende la capacità di autodeterminarsi, in realtà non è altro che unaì insieme di risposte a degli stimoli e in questo senso, anche se la macchina non pensa, certamente impara, in primo luogo da chi l’ha programmata, che, a differenza della macchina, essendo un essere umano, è soggetto a tutta una serie di pregiudizi e abiti mentali.
Detto in altre parole, le macchine non sono razziste, ma gli algoritmi che nutrono la sua intelligenza, sono scritti da esseri umani, che possono, consapevolmente o meno, deviare l’obiettività della macchina stessa.

I pregiudizi delle macchine
I neri tendono al crimine più dei bianchi. Falso! Ma invece è vero che, come riportato dal Guardian, i casi di arresti di neri sono maggiormente pubblicizzati rispetto a quelli dei bianchi. Allo stesso modo sembra che gli annunci per le posizioni di management più elevate, abbiano una maggiore possibilità di venir visualizzate da utenti uomini.

Facendo riferimento ai dati puri, le macchine di per sé sono neutrali, nel momento in cui entra una interpretazione del dataset, entrano anche le distorsioni.

Un chatbot per dominarli tutti
Oltre al pregiudizio, talvolta ci si mette anche l’hacking. Caso esemplare in questo senso è stata Tay, l’esperimento social made in Redmond, che in meno di 24 ore si è trasformato in un bot razzista, misogino e con simpatie per Adolf Hitler. Merito della community degli utenti Twitter, che si è divertita, non senza un pizzico di goliardia, a insegnare e a far ripetere alla ignara intelligenza artificiale una serie di concetti e frasi, decisamente discutibili.

I nostri pregiudizi, i nostri privilegi
C’è di buono, nel caso di Tay, che ci fosse la consapevolezza di quanto si stesse facendo, ma a ben guardare, il problema, quando si parla cognitive computing, è fare proprio i conti con questi bias, che, per la maggior parte, non sono neppure percepiti dal programmatore e che invece hanno una stretta correlazione con quelli che sono i nostri privilegi e quelli della nostra società di riferimento.
Quanto siamo abituati a pagare in Euro, a considerare il maschile come neutro, ad avere una carta d’identità, un documento che sia universalmente riconoscibile?

Il villaggio globale richiede uno sguardo globale
Entrare in contatto con il villaggio globale, programmare per il villaggio globale che è internet, ma, mi verrebbe da aggiungere, pianificare user interfaces che possano tener conto di una esperienza utente ampia, implica avere la responsabilità di dover ragionare in termini globali, diversi e inclusivi.
Rendersi conto dei propri pregiudizi cognitivi è il primo passo per abbatterli e costruire design e prodotti che possano essere apprezzati da tutti, in ogni angolo del mondo.

Flavia Weisghizzi

Fonte:http://startupitalia.eu/73541-20170609-macchine-razziste-e-come-trovarle-limiti-e-sfide-dellintelligenza-artificiale

LEGGI GLI ALTRI BLOG

• < Prec
• Succ >