L’adaptive fashion e quel problema con Facebook

Facebook, abbiamo un problema. Lo sostengono diversi marchi americani di adaptive fashion ossia di abbigliamento pensato per le persone con disabilità. A portare alla luce quello che si configura come molto più di un disguido di intelligenza artificiale è un articolo uscito sul New York Times che si interroga sul perché il popolare social network respinga la pubblicità di abiti disegnati per far fronte alle necessità di chi ha esigenze particolari legate alla vestibilità.

Sommario dei Contenuti nascondi

1 LEGGI ANCHE

2 LEGGI ANCHE

Uno dei casi presi in esame è quello di Mighty Well. Il brand ha fatto quello che milioni di aziende fanno ogni giorno: ha pubblicato una sponsorizzata su Facebook che però è stata rispedita al mittente. Motivo? Stando alla risposta ricevuta, l’algoritmo interpretava la felpa grigia con zip con la scritta «Sono immunocompromesso, per favore fammi spazio» non come un semplice capo di abbigliamento ma come un articolo da inserire nella casella «prodotti e servizi medici e sanitari, inclusi i dispositivi medici».

Il brand ha fatto ricorso e dopo qualche tempo è riuscito a farsi pubblicità su Facebook e Instagram ma, per una storia a lieto fine, ce ne sono tante altre che non riescono nell’impresa o che ritengono un dispendio di energie troppo oneroso il farsi comprendere dal colosso di Menlo Park. Nella stragrande maggioranza dei casi, infatti, si tratta di piccole aziende indipendenti che non hanno i mezzi per assumere personale dedicato sul fronte del social media marketing. Il paradosso è che se da un lato «diversità, equità e inclusione» sono diventate un imperativo in ogni policy aziendale, dall’altro Facebook si fa espressione di una visione del mondo anacronistica che vede la disabilità come qualcosa altro da sé.

L’intelligenza artificiale, così per come è programmata, racconta un mondo normalizzato in cui lo standard umano non è riconosciuto come quello di un essere umano disabile. Messa giù così si presenta come una bella gatta da pelare per la tech company anche perché la tematica sociale si sposa con quella commerciale. La moda «adaptive» è molto più che una nicchia di mercato: secondo il Centers for Disease Control and Prevention, negli Stati Uniti 1 adulto su 4 convive con la disabilità mentre si stima che solo questo mercato varrà entro il 2026 più di 392 miliardi di dollari. «Vogliamo aiutare i brand che si occupano di adaptive fashion a trovare prima e a entrare in connessione poi con i propri clienti» ha dichiarato via mail una portavoce di Facebook interpellata sulla questione «molti degli elenchi che ci sono stati presentati non sarebbero dovuti essere segnalati dai nostri sistemi, ora sono stati ripristinati. Ci scusiamo per questo errore. Stiamo lavorando per migliorare i nostri sistemi in modo che i marchi non si imbattano in questi problemi in futuro».

Tuttavia, tra novembre e gennaio il brand Yarrow ha proposto una serie di annunci per un tipo di pantaloni: là dove la modella era in piedi, Facebook non ha avuto nulla da eccepire mentre quando la modella era in sedia a rotelle, l’algoritmo ha detto stop. Attenzione, nessuno dei brand che hanno riscontrato questo tipo di rifiuti pensa che la piattaforma discrimini intenzionalmente. Il problema semmai è che il processo automatizzato dominato dall’algoritmo non comprende la complessità del mondo. Un capo di abbigliamento che potrebbe rendere più semplice e accessibile la vita a persone con disabilità non può rimanere intrappolato nel (pre)giudizio di una macchina. Finché accadrà questo, non potremo considerare l’intelligenza artificiale davvero intelligente.