Este tema se ha vuelto viral en redes en base a un experimento que han puesto a prueba varios usuarios de Twitter del algoritmo que utiliza la red social para recortar las imágenes en la previsualización que nos enseña antes de abrirla.
En 2018, Twitter explicó en su blog que al momento de elegir una porción de imagen en lugar de otra lo hace con base en el alto nivel de contraste, detalle que podría explicar por qué los algoritmos eligen los rostros de personas de raza blanca.
Tony Arcieri es un usuario de Twitter que llevó a cabo el experimento el cual lo llevó a una conclusión: el algoritmo de Twitter supuestamente favorece a las personas de piel blanca.
El usuario que inició la disputa en redes lo hizo con dos imágenes: una de Mith McConnel y otra de Barack Obama.
Para sorpresa de todos, el algoritmo eligió en ambas ocasiones el rostro del senador republicano frente al del expresidente de Estados Unidos.
Trying a horrible experiment…
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
El experimento se hizo viral y los usuarios querían comprobarla por cuenta propia, dándose cuenta la preferencia de la piel blanca.
Por otro lado, otros usuarios denuncian que la elección se debe a aspectos como el contraste o la nitidez de la imagen.
I wonder if Twitter does this to fictional characters too.
— Jordan Simonovski (@_jsimonovski) September 20, 2020
Lenny Carl pic.twitter.com/fmJMWkkYEf
“Gracias a todos aquellos que habéis sacado a colación este modelo. Examinamos potenciales prejuicios antes de implementar nuestra inteligencia artificial y no encontramos evidencia alguna de discriminación en cuanto a la raza y el género, pero es obvio que tenemos que emprender más análisis».
Publicaremos nuestros trabajos en este ámbito en modalidad «open source» para que otros puedan evaluarlos y replicarlos”, dice Liz Kelly, portavoz de la empresa.
Discursos de odio
Desde hace tiempo, Twitter hizo público que su IA mostraba aquel contenido que más peso y relevancia podría tener para los usuarios de la plataforma. Sin embargo, a muchos se les olvida que detrás de cada inteligencia artificial hay un grupo de humanos aportando datos y programando lo que posteriormente consideramos como automático.
“Las redes sociales están envalentonando a la gente para que cruce los límites y se comporte de manera extrema respecto a lo que está dispuesta a decir para provocar e incitar a otros”, comentó para el New York Times Jonathan Albright, director de investigación en el Centro Tow para el Periodismo Digital de la Universidad de Columbia. “Está claro que el problema está creciendo”.
Fuente: Merca2.0
