Compartir, , Google Plus, Pinterest,

Imprimir

Publicado en:

Los algoritmos racistas como tendencia, o tal vez solo intentar ver cosas donde no las hay

La tecnología no es y no se espera que sea perfecta, es un complemento que ayuda a profesionales y empresas a ser más productivos pero, al menos no se debería, esperar que por sí sola resuelva todos los problemas.

Al igual que en la vida cotidiana, el uso de la tecnología es un juego de probabilidades.

Los algoritmos se nutren de información de manera constante esperando que el porcentaje de éxito aumente de manera gradual.

Los algoritmos racistas como tendencia

Algoritmos racistas

Que los algoritmos existentes han tenido problemas que derivan en sesgos de distintos tipos es una realidad, que lo hagan con ese fin ya es un tema distinto.

Existen aquellos que intentan predecir con una probabilidad del 80% si alguien cometerá un crimen basados en un análisis aplicado a su rostro.

El problema viene cuando no se conocen a ciencia cierta los elementos que el algoritmo usa como determinantes al momento de realizar su predicción, acentuando sesgos ya existentes en algunos sistemas de justicia.

Puede ser que de alguna manera, los algoritmos estén ayudando a extrapolar un problema ya existente en donde factores como el color de piel, la edad, el género, la situación económica, preferencias sexuales o religión pueden determinar el tipo y nivel de oportunidades a las que una persona tiene acceso.

El algoritmo de Twitter

Twitter utiliza un algoritmo que se encarga de recortar automáticamente una imagen de gran tamaño con el fin de que encaje en el timeline de todos los usuarios, hasta ahí nada fuera de lo común.

Sin embargo, distintos usuarios han realizado pruebas en donde, en una fotografía donde aparecen dos personas, una de tez blanca y otra con piel de color, el algoritmo recorta a este último, mostrando solo a la persona de piel clara.

En el tuit anterior podrás ver a la misma persona en ambos lados de la imagen (en la previsualización), sin embargo si das clic para ampliar la imagen podrás notar el problema.

Relacionado  5 razones por las que usar Neteller o métodos de pago similares

Otro ejemplo similar:

Incluso lo hace con personajes animados:

Uno más, involucrando a Mitch McConnell y Barack Obama:

¿Viendo cosas donde no las hay?

La presión de muchos usuarios haciendo eco sobre el problema fue tema de varios titulares alrededor del mundo, en donde Twitter se disculpó por los sesgos ocasionados por el uso de su algoritmo.

El sitio AlgorithmWatch menciona una verdad innegable:

El comportamiento de un algoritmo está determinado por su código, pero también por los datos con los que se entrena.

El algoritmo de recorte de imágenes que utiliza Twitter toma un conjunto de datos y crea reglas para determinar como cortar la imagen.

Aunque es un grupo de humanos el que determina que conjunto de datos se utiliza para el entrenamiento.

Hasta ahora la mayoría de algoritmos, de varias redes sociales se han entrenado utilizando conjuntos de datos de personas de piel clara.

La solución podría estar en aumentar la variedad en el conjunto de datos necesario para entrenar un algoritmo.

Aunado a esto, el diseñador en jefe de Twitter menciona que la elección del recorte de las imágenes toma en consideración otros factores como el color del fondo.

Además, el algoritmo podría estar aprovechando para su funcionamiento un efecto conocido como prominencia (saliency) que consiste en detectar los elementos que más llaman la atención de una imagen o fotografía.

Se utiliza en publicidad para determinar que elementos debería poder mirar una persona incluso si da un vistazo rápido, y por supuesto en la detección de objetos dentro de las fotografías.

Un artículo de Twitter explica la forma en como funciona la red neuronal que recorta las imágenes.

No, los algoritmos no son por sí mismos racistas.

¿Necesitan mejoras? Por supuesto, incluso las personas mejoramos de manera constante ¿porqué los algoritmos no tendrían que hacerlo?

Tal vez sea hora de dejar de intentar ver cosas donde no las hay.

Compartir, , Google Plus, Pinterest,

Written by Cristian Monroy

Consultor en Marketing, Tecnología y Social Media. Más de 8 años desarrollando negocios y capacitando profesionales. ¿Tienes una idea? Te ayudo a hacerla realidad. Te proporciono información accionable y basada en la experiencia. La información es poder y yo te enseño a sacarle el máximo provecho.

Mi curso más reciente: Psicología social aplicada al marketing

Contrata artículos patrocinados en: Contacto

2473 posts

45 comentarios

Responder

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.