Twitter diu que els seus cultius d'imatges no eren molt esbiaixats, però de totes maneres els està eliminant
Va fer la investigació
Twitterelimina progressivament l’algoritme de retall d’imatgesa favor de mostrar previsualitzacions més grans iha anunciat la companyiaque ha estat estudiant acusacions de que el sistema era parcial. Va trobar que els cultius estaven lleugerament esbiaixats cap a determinades races i gèneres, però sembla que el principal problema de Twitter és que l'algorisme no dóna control als usuaris.
A partir del 2018, Twitter va començar a utilitzar l'algoritme per retallar imatges perquè encaixessin als seus quadres de previsualització d'imatges. L'algoritme intenta determinar què serà el més interessant visualment per a un usuari perquè pugui incloure'l i incloure'l a la vista prèvia, però alguns l'han acusat deafavorint les cares blanques sobre les negres. Per determinar si aquest és el cas, Twitter va comptar amb alguns dels seus investigadorsprodueix un informeanalitzant les decisions que pren a l’hora de determinar els conreus.
Com retallar una imatge és una decisió que millor prenen les persones
En fer proves per veure si l’algorisme tenia efectivament biaixos racials, els investigadors van trobar que l’algorisme va optar per retallar a dones blanques sobre dones negres el 7% de les vegades i homes blancs sobre homes negres el 2% del temps, amb un total de 4 percentatge de preferència per als individus blancs.
fons de pantalla de l'horitzó
Twitter també va provar el biaix de gènere, intentant veure si l'algoritme optava per retallar més els homes que les dones i si retallava imatges de dones de manera inadequada (llegiu: retallar al voltant del pit o les cames d'una dona en lloc de la cara). Va comprovar que l'algoritme afavoria les dones el 8% del temps, però no semblava retallar-les de manera periòdica: en aproximadament el 3% dels casos en què no es va retallar a la cara d'una dona, es va centrar en coses com el número d’una samarreta esportiva.
Twitter admet que els algoritmes encara poden ser perjudicials per altres maneres que no ha provat, i que confiar en l’aprenentatge automàtic per retallar imatges treu molta agència als usuaris. La companyia va dir que treu la conclusió que no tot a Twitter és un bon candidat per a un algorisme i, en aquest cas, la manera de retallar una imatge és la decisió que millor pren la gent.
Per permetre que la gent prengui aquesta decisió, Twitter ha fet que les previsualitzacions d'imatges siguin més grans a les seves aplicacions per a iOS i Android, de manera que l'algorisme no ha de prendre tantes decisions de retall. Quan hagi de retallar una imatge, com si la imatge sigui molt alta o ampla, es mostrarà a l'usuari una vista prèvia del seu aspecte.
L’algoritme de retallada no ha desaparegut del tot, sobretot en el cas de Twitter per a la xarxa on encara abunden els cultius de previsualització d’imatges, però Twitter sembla esperar que en la majoria dels casos l’aprenentatge automàtic ocupi un segon pla a la intuïció humana.
