Intelligenza artificiale e discriminazione di genere

Il tema è l’algoritmo sessista di Amazon, che, secondo quanto riportano le cronache, operava una discriminazione di genere nell’esame dei curricula in fase preassuntiva. Ebbene, sempre secondo i bene informati, o meglio stando alle rassicuranti dichiarazioni di Amazon, “la mela marcia” cioè l’algoritmo “auto creatosi” per uno scherzo della natura sarebbe stato licenziato.
Prendo atto che mi si dice quell’algoritmo non esiste più. Posso crederci? Potete crederci? Quali strumenti ho per crederci, una due diligence?, la mia incrollabile fede?. Chi mi garantisce che non esistano altri algoritmi più raffinati?. Chi mi assicura che non esistano altre forme di discriminazione indiretta? Ho forse accesso alla conoscenza del funzionamento degli algoritmi di Amazon?. Qualcuno di voi ha le chiavi di questa conoscenza?.
Facciamo un piccolo salto. Parliamo di facebook, cioè della piattaforma in cui scriviamo. Se non l’avete vista, vi consiglio di andarvi a vedere l’audizione di Mark Zuckemberg al Parlamento Europeo. Quanti “errori” sono stati scoperti ultimamente e quante volte lo stesso Zuckemberg è stato costretto a scusarsi?
Errare umanum est, perseverare diabolicum. Ma senza scomodare il diavolo, mi prendo la responsabilità di dire, essendo in buona compagnia, che il comportamento antigiuridico delle big tech si fonda su una vera e propria ideologia che non riconosce l’autorità della legge vigente.
Per comprendere appieno questo concetto è necessario fare un passo indietro.
Questo atteggiamento, infatti, trae origine nella controcultura degli anni 60, su cui le società della Silicon Valley posano le loro radici, ma ne ha chiaramente tradito gli ideali di libertà, nello stesso momento in cui si è smarrito il rispetto per la dignità dell’essere umano in nome di quella che io definirei un hybris tecnologica.
La disumanizzazione della persona è coerente con questa, che a mio sommesso avviso, è una vera e propria ideologia tecno-neoliberista in cui gli unici fattori rilevanti sono il profitto e l’efficienza, valori che sono oramai onnipresenti, ritenuti come veri e sistematicamente applicati dall’intelligenza artificiale.
Interrogarsi su quale sia il valore di tali valori non è solo un gioco di parole, nè un esercizio meramente accademico.
E’ evidente, infatti, che in misura sempre più pervasiva, si è deciso di affidare alle macchine il lavoro sporco, consistente nella profilazione e discriminazione dell’individuo, oggi, in base al genere, domani chissà, in base all’analisi del nostro Dna.
Ecco perché il caso in esame non costituisce solo un incidente di percorso, un errore, ma la logica conseguenza di una scala di valori totalmente da rivedere.
Se rimanendo alle questioni di genere, affermiamo che la tecnologia può essere indirizzata tanto al bene che al male e che per tal ragione è neutra, sosteniamo forse un’ovvietà, ma la questione si complica non poco se la neutralità della tecnologia viene intesa come incuranza rispetto alla profonda umanità che sottende ogni differenza.
Non comprendere questo, sempre a mio parere, significa aspirare ad una nuova genesi in cui l’uomo viene creato ad immagine di una macchina che decide ed agisce secondo algoritmi che altro non sono se non la procedimentalizzazione matematica del pregiudizio cioè di quanto di peggio sia mai stato prodotto nella storia umana.