AI a portata di smartphone, ma non con poche polemiche

L’intelligenza artificiale è una tecnologia che sta prendendo piede in svariati ambiti della nostra società, cambiando rapidamente il modo in cui le persone interagiscono con il mondo digitale, con cui le aziende assumono i dipendenti, producono contenuti e prendono decisioni.

Eppure, nonostante la sua diffusione, ancora oggi questa tecnologia è circondata da un alone di scetticismo generale, tra chi pensa che il suo utilizzo andrà a minare gli equilibri dell’attuale mercato del lavoro sostituendo diverse professioni comuni e chi – influenzato anche da qualche film di fantascienza – percepisce una minaccia di tipo etico che ha a che vedere con la presunta incapacità umana di controllare questo tipo di tecnologia.

Questi timori, però, sono stati momentaneamente accantonati dal trend #MagicAvatar. I ritratti che hai visto girare in questi giorni su Instagram, infatti, sono generati con Lensa AI, un’app che utilizza l’intelligenza artificiale per creare dipinti in vari stili, utilizzando gli autoscatti dei vari utenti. Bastano pochi euro, una manciata di selfie e qualche minuto di attesa per vedersi trasformati in personaggi anime, opere di pop art o eroi spaziali. Sono in tanti ad aver condiviso i risultati sui social, raccontando le proprie sensazioni a seguito dell’esperimento. Utenti transgender che dicono di aver provato un senso di euforia, altri che sostengono avrebbero preferito apparire come sono anziché visibilmente dimagriti, persone dalla pelle scura che si sono ritrovate schiarite o con i tratti somatici alterati; altri ancora lamentano che le immagini finali sono troppo sensuali.

Come funziona Lensa AI?

Come volevasi dimostrare, non è tutto oro ciò che luccica e di fatto anche quest’app lascia il fianco scoperto a qualche dettaglio oscuro. Il software di Lensa è collegato al ben noto generatore di immagini AI Stable Diffusion, che basa il proprio lavoro sull'utilizzo di immensi database di file di foto prese dal web (non sempre in modo lecito e con i dovuti consensi) per addestrarsi e modificare oggetti e soggetti, riprendere lo stile di artisti o fotografi e fare da editor automatico in pochi secondi. Ed è qui il primo inciampo di quest'app, che dunque rientra in quei servizi accusati di sfruttamento di opere senza rispetto dei diritti d’autore.

Ma fossero “solo” questi i problemi. Anche perché, per questo processo, non è nemmeno così corretto usare termini come contraffazione, furto d'arte o uso illegale. Il diritto d’autore, infatti, non protegge in generale lo stile artistico. E secondo la legge italiana, è consentito trarre ispirazione da un’opera, riprendendone elementi generici o di carattere non espressivo.

Anche le intelligenze artificiali sono piene di pregiudizi?

Ma che dire allora di bias cognitivi, sessualizzazione dei corpi, distorsione corporea? Una volta caricati i selfie, l’app ti chiede a che genere appartieni. Se donna, ti trasformerà in una principessa fatata, se uomo in un eroe spaziale. Ma non è tutto qui. Selezionando il genere “femminile”, i ritratti spesso includono anche il corpo e in molti casi questo viene raffigurato nudo. I ritratti, nelle varie versioni di avatar, appaiono con visi e colli più magri, muscoli più scolpiti, pelle più bianca e occhi più chiari. I tratti etnici vengono omologati e alleggeriti a favore di quelli caucasici.

Per non parlare delle implicazioni nella creazione di immagini non consensuali. L’app rende estremamente semplice creare immagini osé di chiunque si desideri. Anche se Andrey Usoltsev, amministratore delegato e co-fondatore di Prisma Labs, ha dichiarato che l’utilizzo di Lensa AI per adottare “comportamenti dannosi o molesti” è una violazione dei suoi termini di utilizzo, non è difficile immaginare lo stesso uso da parte di chi vuole creare immagini pornografiche non consensuali. 

Per capire le ragioni per cui l’intelligenza artificiale può essere sottoposta a bias, dobbiamo prima comprendere come questa funzioni. In poche parole: l’AI impara da enormi quantità di dati e poi utilizza quello che ha appreso per prendere decisioni e fare previsioni. Il problema è che se i dati che utilizza sono maschilisti (o prevedono determinati standard di bellezza), allora anche le sue decisioni e previsioni lo saranno. Lensa AI, con il suo obiettivo di “democratizzare” l’accesso all’intelligenza artificiale, ha semplicemente reso più evidenti i suoi aspetti problematici, aprendo la strada a una maggiore sensibilità sull’importanza di risolvere i problemi di rappresentazione per evitare che questi vengano amplificati ulteriormente dalla tecnologia.

Soprattutto prima che questo problema diventi ancora più grande, in un contesto in cui l’AI viene utilizzata sempre di più per prendere decisioni che hanno un impatto sulla vita delle persone, come l’accesso a un prestito o un’assunzione. Insomma, se è alimentata da dati che contengono bias sessisti e razzisti, può causare non poche ingiustizie.