Una vez más la polémica se cierne en torno a la inteligencia artificial y los posibles sesgos que presenta: en esta ocasión se ha acusado de racismo a Twitter, específicamente de que su algoritmo de recorte de imágenes prefiere mostrar las personas blancas antes de las personas con color de piel más oscuro. De hecho, muchos usuarios han publicado sus experimentos para saber si el algoritmo de la red social verdaderamente tiene un sesgo racial.
Acusan de racismo a Twitter por su forma de tratar las imágenes de personas
Como sabes el algoritmo de twitter recorta de forma automática las imágenes adjuntas a las publicaciones, y sabemos que muchas veces deja de lado el contenido importante en ellas. Sin embargo este fin de semana se ha acusado de racismo a Twitter ya que varios usuarios notaron que, en imágenes en las que se muestran personas con diferentes tonalidades de piel, Twitter decide mostrar aquellas con piel más clara tras el recorte automático.
A primera vista se verá una imagen normal duplicada, pero al hacer clic en ella, verás la versión sin recortar que puede incluir otros detalles, como personas con tonalidades de piel más oscuras dentro de la misma imagen. En el experimento algunos usuarios han mezclado el orden de las personas para destacarlas como parte central de la imagen, pero los resultados aparentemente son los mismos.
De hecho algunos usuarios han utilizado personajes de ficción, animados e incluso animales, con resultados sorprendentemente parecidos:
I wonder if Twitter does this to fictional characters too.
Lenny Carl pic.twitter.com/fmJMWkkYEf
— Jordan Simonovski (@_jsimonovski) September 20, 2020
I tried it with dogs. Let’s see. pic.twitter.com/xktmrNPtid
— – M A R K – (@MarkEMarkAU) September 20, 2020
Pero ¿es verdad que el algoritmo de Twitter está diseñado para tener un sesgo racial? Algunos usuarios piensan que más bien depende de otros factores que no se enfocan en el color de la piel, ya que han utilizado diferentes métodos encontrando resultados inconsistentes con la acusación de racismo a Twitter:
Does Twitter’s thumbnail-picker algorithm systematically prefer white faces over Black ones?
I did an experiment. It’s not conclusive, but in my experiment with pictures of Barack Obama, Raphael Warnock, George W. Bush and Donald Trump, the hypothesized pattern didn’t appear. pic.twitter.com/2ddcPR5CPi
— Jeremy B. Merrill (@jeremybmerrill) September 20, 2020
Por otro lado, en un hilo de twitter, Bianca Kastl, una desarrolladora de Alemania, explicó que el algoritmo de Twitter podría estar recortando la imagen en función de una prominencia, es decir, un punto o parte importante de una imagen, que es probable que desees mirar primero cuando la veas.
Esta teoría está respaldada por un blog de Twitter que en 2018 explicaba que su red neuronal construida para recortar imágenes estuvo en un tiempo orientada a detectar rostros, pero este enfoque no funcionó para las imágenes que no tenían una cara, así que la red social cambió a un algoritmo basado en la prominencia.
I just recently deleted my quite popular explanation to how twitters algorithm might work.
The reasons are:
I was not precise enough about the way twitter creates a saliency estimation.
And people used it as a political way of «hey look it’s not racist».
— Bianca Kastl (@bkastl) September 21, 2020
No es la primera vez que sucede: ¿son racistas los algoritmos de reconocimiento facial?
Sin embargo, esta no es la primera vez que hay una polémica en torno a un posible sesgo racial en la forma en la que se muestran las imágenes en internet: una de estas denuncias la realizó en 2017 el medio BBC, que compartió el descubrimiento de Johanna Burai, una diseñadora gráfica que en 2015 notó que tras buscar una imagen de manos humanas en los principales buscadores, como Bing y Google, se encontraban en los primeros resultados exclusivamente manos de personas blancas.
Mientras la inteligencia artificial se entrena con menos fotos de gente de piel oscura se seguirán generando estos problemas que pueden derivar en grandes complicaciones.
Por : marketing4ecommerce
