Compartir, , Google Plus, Pinterest,

Imprimir

Publicado en:

La inteligencia artificial es racista pero… espera, siempre hay alguien detrás de estos sistemas

Imagina esto…un algoritmo que es capaz de predecir si alguien cometerá un crimen solo analizando la fotografía en donde se distinga el rostro de alguna persona.

Prometiendo además un 80% de probabilidad de éxito.

La buena noticia es que no tienes que imaginarlo porque ya existe.

La mala noticia es que no tienes que imaginarlo porque ya existe.

El debate se produce a raíz de un documento a publicarse por la compañía editorial Springer que muestra el proceso a través del cual una Red Neuronal Profunda puede predecir la criminalidad analizando una fotografía.

Más de 1,000 expertos relacionados con la inteligencia artificial, expertos en tecnología y académicos, han firmado una petición alegando que dichos estudios refuerzan los sesgos pre existentes en el sistema de justicia criminal.

La inteligencia artificial es racista pero... espera

El racismo como tema central

En la actualidad se vive alrededor del mundo en un período de infelicidad generalizado.

El hedonómetro es una herramienta creada en 2008 que permite medir la felicidad o tristeza relativa en múltiples lenguajes analizando las publicaciones en Twitter.

En esencia toma una muestra aleatoria sobre el 10% de los tuits que se envían en un determinado lenguaje en un día específico.

Las palabras se comparan después con una base de más de 10,000 palabras para analizar entonces la escala de felicidad o tristeza.

Palabras como “murder” (asesinato), “racist” (racista) y “sad” (tristeza) han sido constantes en Estados Unidos y algunos otros países.

Se trata de un tema efervescente que se ha viralizado e intensamente ligado a la tecnología, y por lo visto también a la tristeza de las personas.

Lee también  ¿De qué manera la robótica y las nuevas tecnologías han impactado en las industrias?

Hay estudios que intentan demostrar que incluso el COVID-19 ha afectado en mayor medida a ciertas minorías como americanos de color. ¿Virus racista?

El papel de los algoritmos

El tema resurgió, ya en 2017 se dio a conocer un documento en el cuál los autores apelaban a la habilidad de predecir un comportamiento criminal futuro entrenando a un algoritmo con las caras de ex convictos.

La pregunta en este punto es: ¿qué convierte a una persona en un criminal?

¿El hecho de haber cometido un crimen o la probabilidad de cometer un crimen en el futuro?

En el siglo 19, el criminólogo italiano Cesare Lombroso propuso la teoría de que los criminales de nacimiento podían ser identificados por defectos congénitos. Claro, en ese momento no había inteligencia artificial.

Incluso acuñó el término criminaloide para referirse a aquellas personas que cometían crímenes de manera ocasional aún sin tener los rasgos de un criminal de nacimiento.

Momus Analytics es una empresa que ofrece el servicio de selección de jurados en Estados Unidos utilizando un sistema de puntuación predictiva, asignando una calificación en base a rasgos o cualidades ambiguas como el liderazgo o la responsabilidad personal.

La técnica de puntuación predictiva es la misma que se usa en la mercadotecnia para conocer la probabilidad de que una persona responda a una oferta o mensaje promocional.

La empresa tiene una patente pendiente aún cuando no se ha demostrado una correlación válida entre los elementos que involucra en su proceso, sin contar con el hecho de que excluir jurados en base a su raza o sexo va contra la ley.

Habilidades como el manejo de modelos predictivos han tenido un ascenso exponencial en su demanda durante los últimos años, aunque intentar predecir una intención de compra es útil, jugar a ser Dios, eso ya es otra historia.

Compartir, , Google Plus, Pinterest,

Written by Cristian Monroy

Consultor en Marketing, Tecnología y Social Media. Más de 8 años desarrollando negocios y capacitando profesionales. ¿Tienes una idea? Te ayudo a hacerla realidad. Te proporciono información accionable y basada en la experiencia. La información es poder y yo te enseño a sacarle el máximo provecho.

Mi curso más reciente: Psicología social aplicada al marketing

Contrata artículos patrocinados en: Contacto

2443 posts

77 comentarios

Responder
  1. En mi opinión, estamos en una época donde la sociedad es más susceptible y mas delicada en cuanto a ciertos temas, como lo es el racismo y con la TECNOLOGÍA aunada, hay mucha controversia con la cual nos encontramos día con día, manifestada principalmente en redes sociales, de entrada sabemos que las máquinas pueden aprender a hacer rápidamente cosas que a los humanos nos cuestan años de trabajo, estudio y aprendizaje y además las pueden hacer de mejor manera y con más precisión que cualquier persona, con esto y con la información con la que se alimenta un sistema de inteligencia artificial también se contagia y aprende acerca de lo que reflejan los humanos, un sistema de inteligencia artificial aprende cosas ya existentes que se impregnan de los mismos prejuicios raciales y también en ciertos casos de género. A mi ver la inteligencia artificial es el reflejo de lo que somos los humanos, la transmisión de los prejuicios se debe no solo a los programadores de los sistemas sino a los datos con los que se alimentan y a textos procedentes de las redes sociales, es decir lo que la gente escribe en internet.

  2. Resulta una contradicción fundamental que México, un país fundado en la mitología de que el centro de la mexicanidad, el corazón de nuestra identidad, es la negación de las razas por virtud del mestizaje, sea al mismo tiempo una sociedad tan racista. Pero lo somos, tenemos a la mano evidencia de este racismo en todos los ámbitos de nuestra sociedad.
    En el lenguaje en las categorías que usamos para definir la belleza de las personas, en los chistes degradantes, en la forma diferenciada como tratamos a los demás tomando en cuenta aunque sea de forma inconsciente el color de su piel.
    Una de las cosas que son más difícil de comprender acerca del racismo y de su complejidad, es que no se trata de un defecto de personalidad que sufrimos algunos, como puede ser la patanería, la ausencia de modales o la propensión a insultar, vicios que pueden corregirse mediante la educación. Una gran mayoría de nosotros, especialmente los mexicanos, ilusionados con el mito del mestizaje, que nos lleva a imaginar que somos ciegos ante el color de piel de las personas, no nos consideramos racistas. Sin embargo, habría que revalorar nuestras actitudes, porque el racismo no es un problema de personalidad o de falta de educación, se trata de un fenómeno estructural, profundamente entretejido en nuestras ideas, cultura, formas de convivir y en nuestras políticas públicas.

  3. Considero que el racismo es lo primordial en este tema de inteligencia artificial. Creo que incluye el hecho de juzgar a alguien sin conocerlo, algo tópico, pero entonces es conocer en donde queda el hecho de conocer a las personas? es cierto que la inteligencia artificial y todos los avances tecnológicos fueron y están siendo creados para ahorrarnos tiempo y agilizar procesos, pero que tan seguro es esto? podemos confiar al 100% en dichos resultados? las maquinas ya pueden pensar como los seres humanos? es decir pueden sentir también y a partir de eso generar conclusiones acerca de algo o de alguien?

    No estoy muy convencida de esta herramienta en especifico a esta actividad. Y si alguien es muy bueno y capaz para algo, pero por los rasgos que tiene esta persona, no son reconocidos? y peor aun no se les da la oportunidad de demostrarlo, entonces que pasara con todas esas personas? y al contrario, si alguien tiene rasgos aceptados por la sociedad, pero no las habilidades necesarias, como va a fluir esa labor a su cargo?

    • Para mi parece que en el futuro estaremos rodeados de máquinas, robots, androides y con una inteligencia bastante superior, pero que a pesar de ello continúan siendo esclavos artificiales del ser humano para que les sustituyan en el trabajo. De momento, poco se parece a la realidad actual; la inteligencia artificial sigue siendo más “humana” que artificial, pues son miles de trabajadores humanos los que controlan las máquinas desde la distancia para que no fallen. Los científicos y expertos en robótica continúan con el desarrollo de las máquinas, pero podría comenzar a darse un pequeño problema: al crear a los robots a la imagen y semejanza del ser humano, ya hay algunos que critican que los robots estarían adoptando las costumbres y defectos humanos, como por ejemplo, actitudes como el machismo o el racismo.

  4. El ser humano siempre ha buscado saber cómo actuará su prójimo ante determinada situación, con la finalidad de prevenir su comportamiento. Con la creación de la inteligencia artificial, los estudiosos del comportamiento humano, han considerado que, al integrar la información en sistemas informáticos, éstos influyen en el diagnóstico como lo son la forma de vida, valores, vivencias, en el que los resultados obtenidos no siempre reflejan lo que se desea, ya que el porcentaje o margen de acierto y error es, por ejemplo, de un acierto de un 80 % y con un 20 % de error, por lo que se puede demostrar que, en muchas de las ocasiones este tipo de tecnología no es cien por ciento confiable.

    Se ha demostrado a lo largo de la historia que se han realizado múltiples investigaciones acerca del comportamiento criminal para prevenir delitos, y que no han funcionado y, por lo tanto, la inteligencia artificial aún no es factible utilizarla en el sistema penal. Para el área de la mercadotecnia, la inteligencia artificial puede auxiliar bastante a las empresas, como el hecho de estudiar a cierto grupo de personas, en principio, por sus gustos, que se refiere a la herramienta metodología de las 4P de marketing que se refiere al uso de la plaza, producto, precio y promoción.

  5. Hoy en día la sociedad busca saber que hacer antes de que error sea cometido, esto para prevenir situaciones de alto riesgo, pero se necesita que este método sea muy confiable y realmente asertivo para que no existan errores y sub estimaciones en vano. Conforme pasa el tiempo estos métodos se van haciendo mas y mas confiables y tienden a ser eficientes en la toma de decisiones de grandes corporativos y organizaciones que trabajan en miles de bases de datos.

  6. En una era tan digitalizada es sorprendente que ya existan este tipo de algoritmos que te pronostiquen posibles sucesos de crímenes pero bien esto puede ser contradictorio al estar estudiando el comportamiento de un ser humano , como bien todo tiene y posee un margen de error a pesar de que sea un sistema con la mas reciente tecnología no garantiza una 100% de confiabilidad en sus resultados o interpretaciones.

  7. Al tener el conocimiento de que existen estos sistemas operativos y que analizan el comportamiento constante de un ser humano resulta ser una idea un poco tenebrosa a decir verdad en estos tiempos donde solo al alcance de un click se tiene toda la información de cualquier persona del mundo, me encuentro en un ligero desacuerdo por el hecho de que ya no se cuenta con la suficiente privacidad y más con el hecho de que si me encuentro en constante evaluación u observación y me dicen que puede que esté tentado a cometer un crimen y esto sea un error del sistema. No cabe en mí que yo pueda permitir que estos sistemas o algoritmos este por implementarse en los departamentos de seguridad.

  8. Me gusto demasiado este artículo, ya que lo que nos dice es muy cierto, actualmente ya no sabemos en quien confiar y quien no, entonces el saber si una persona es fiable o no solamente con una foto es demasiado bueno y eficiente, además de que sabemos que con otros tipos de datos también se puede saber cómo es la persona o no, aunque se debería de asegurar que si sea muy confiable, ya que a veces se juzga a las personas por la apariencia cuando no debería de ser así, menos en la actualidad, es impresionante como ahora un algoritmo dice que porcentaje tienes de ser un criminal, algo que es sin duda bueno pero también malo porque puede tener ciertos errores, nada de esto nos garantiza confiabilidad, pero la tecnología cada vez más va avanzando más y es increíble todo lo que va sacando.

  9. Me parece en lo personal una muy interesante nota, ya que nos explica algunos pros que la tecnología ha estado teniendo a lo largo de su vida, sin embargo considero que una herramienta de este tipo podría estar jugando un papel muy malo en juzgar sin conocer a la persona, ya que al ser inteligencia artificial, no tiene ese lado humanitario, no se debe ser racista ni tachar de ser una persona que comete crímenes, sin antes conocerla y conocer sus antecedentes. Considero que las empresas que tienen esta parte de herramientas, hagan evaluaciones antes de manchar la integridad y personalidad de alguien, porque se trata de un ser humano, no de un robot.

  10. Creo que tratar de predecir el comportamiento humano es muy complicado y lo hace todavía más difícil tratar de hacerlo a través de una maquina con una fotografía, pienso que es una actividad clasista y racista, pero si lo vemos de manera objetiva, siempre la persona que roba, asesina y comete un delito, tienen características en común.
    Creo que, si esta tecnología se llegara a aplicar en el mundo real, habría muchos descontentos por la mayoría de personas, desde un político que roba y lava dinero hasta por una persona común. Los humanos no reaccionamos bien al ser juzgados y mucho menos cuando todavía no cometemos una infracción o un delito.

  11. Desde un cierto punto de vista me parece incorrecto la manera de desarrollo de esta nueva tecnología, no encuentro viable el juzgar a una persona en base a un simple reconocimiento facial o una serie de algoritmos que a simple suposición se basan en patrones predeterminados, no veo gran diferencia con todo y tecnología en cuanto a lo que el italiano Cesare Lambroso propuso en aquel tiempo.

  12. Se me hace un tema delicado que ha estado presente desde mucho tiempo atrás y que no hemos sabido o no somos conscientes de lo que todo esto ocasiona, para mi, en lo personal pienso que si es una mala noticia que ya exista esto, porque estaría implantada toda la injusticia en las personas, si bien es importante la automatización y lo importante de la inteligencia artificial, pero siempre debemos tener nuestra ética y principios en todo lo que realizamos.

  13. Me parece muy buena alternativa para cuando estas reclutando gente y necesitar personal capacitado pero No tienes tiempo para entrevistarlo, entonces Utilizas esa tecno para reclutar a alguien capacitado y con la experiencia que tu necesitas para el puesto.
    Pero a la vez es muy malo que te nieguen una oportunidad de empleo solo porque una app sale con ese resultado.

  14. En lo personal se me hace muy interesante esta nota, ya que nos da referencia ah como ah evolucionado la tecnologia y sobre todo como la sociedad ah ido captadola y siendo parte de su vida, y dia a dia, actualmente en la sociedad la tecnologia y las redes sociales son parte de nosotros y es por eso que pasen este tipo de cosas para informarnos, y lamentablemente no somos tan consientes de las cosas para hacer una mejora.

  15. La perfilación no es un tema nuevo o actual sin embargo lo que lo hace, novedoso es la implementación de la tecnología, como seres humanos siempre estaremos buscando ejercer el control sobre aquello que nos representa un riesgo, casi sin querer admitir que el máximo riesgo somos nosotros mismo.
    Desde la época de Cesar Lombroso el padre de la criminología se buscó la manera de inferir en el comportamiento humano o incluso predecirlo sin embargo para la época aun los medios para hacerse de tal información eran demasiado toscos y aun con la interferencia del criterio humano, en la actualidad la perfilación se ha unido a la tecnología para poder predecir aquellos comportamientos erráticos de los seres humanos que representan un riesgo a la sociedad, no debemos olvidar que en estudios de Lombroso el no buscaba etiquetar a las personas por la apariencia, el entendía que una maquina tan perfecta como lo es el cerebro segregaba sustancias que hacían que el comportamiento humano se direccionara hacia un lado u otro, y que la segregación de estas sustancias dejaban rastro en la apariencia física de un individuo, si bien la idea de Lombroso no era descabellada aun le faltaban muchos mas elementos para completar el mapa de la criminalidad del ser humano.
    Hoy con la evolución de criminología se entiende que no es solo una cuestión endógena, sino que existen muchos otros factores como lo son los exógenos, los predisponentes, los preparantes, desencadenantes, detonantes y los mixtos para que el individuo se conduzca por el camino de la criminalidad. Lo que es destacable de esta investigación es que es cierto que en la fisionomía del individuo se encuentra un mapa de las posibles conductas que un ser humano puede cometer, pero que también dependerá del ambiente biopsicosocial en el que se halla desarrollado.
    Es por ello, que se puede deducir que el algoritmo de una maquina sin duda puede determinar conductas a las que cada sujeto esta mas propenso a realizar, sin embargo, el sistema no esta emitiendo un juicio, el solo sigue las ordenes de sus comandos y que la verdadera discriminación no es del sistema sino del ser humano que recibe la información de este sistema.
    Entonces el sistema solo emite la información que bien puede ser tomada desde dos posturas la primera:
    La persona es lo que el sistema dice ser por el simple hecho de tener tendencia a realizar ciertos actos delictuosos
    Y la segunda:
    La persona puede ser lo que el sistema dice ser, sin embargo, al conocer a lo que es propenso trabajar con el individuo para el manejo de las situaciones que pueden hacerlo delinquir.
    Por lo que se puede apreciar que la discriminación no está en el sistema que analiza datos sino en las posturas que las personas toman ante la información que el sistema les arroja, y que el famoso gen del mal depende no solo de la predisposición sino de la preparación y el detonante.

  16. En mi opinión a nivel mundial el racismo es un tema muy complicado hoy en día, en especial relacionado con la tecnología artificial, aunque es cierto que gracias a esta tecnología nos facilita la vida, y la mejora en ciertos aspectos, también fomenta la discriminación social, como se menciona en el artículo, detrás de estos sistema hay alguien, y puede ser que las personas detrás de esto tengan prejuicios racistas e incluso de género, a lo cual estos sistemas le ingresan datos y textos basados en estas ideologías, lo cuál puede representar una desventaja o amenaza para la crítica final que este sistema determina acerca de una persona, en mi opinión deben de realizarse más estudios acerca de la fiabilidad de estos sistemas que podrían condicionar incluso la libertad de las personas.

  17. A lo largo de la historia nos hemos empeñado en discriminar a las personas por tener cualidades o características distintas a las nuestras, una de las causas más comunes por la que surge el racismo es por el miedo, desconocimiento, prejuicios o falta de información.
    El algoritmo existente para predecir si una persona cometerá o no un crimen, a mi parecer no es una herramienta confiable ya que como todo sistema debe tener alguna falla, y no puedes juzgar o incriminar a una persona solo por tener rasgos parecidos al de un criminal. No cabe duda que la tecnología avance rápidamente y ayuda a eficientar algunas cosas o actividades pero como bien se menciona en el artículo, la tecnología no puede jugar a ser Dios.

  18. Excelente articulo, todo lo mencionado es muy cierto, me agrado mucho, y en lo personal es muy interesante ya que hoy en día no se sabe con exactitud en que personas debemos confiar, pero me pongo en los zapatos del individuo y seria muy mala idea juzgarlo de manera inmediata sin conocerlo, o analizar todo el pasado de este mismo, como toda esta inteligencia ya es muy avanzada y en su punto artificial no se fija en las personas en cuanto a físico, sino que como se menciona el algoritmo se encarga de determinar cada característica y cada pensamiento para ver su porcentaje de criminalidad, todo esto en serio me deja mucho de que hablar y un tanto impresionada ya que es sorprendente que con un solo algoritmo se pueda determinar que tan criminal sera la persona, y ahora una ventaja que menciono es que si ayudaría ah bajar los indices de inseguridad y hasta incluso de muertes, ya que lo que haría es una predicción para prevenir estos casos.

  19. Es de esperar que la humanidad trate de anticiparse a sucesos que pueden representar un trauma, obviamente en la medida del suceso. El crimen no es un tema menor, desde hace ya miles de años se ha combatido sin poder ser erradicado, tema racial o no, representa una lucha constante contra la propia naturaleza humana, y para reforzar un poco este argumento me permitiré citar a filósofos y escritores que se contraponen en el concepto del hoombre:

    “el hombre es bueno por naturaleza” y que es la sociedad la que lo corrompe, es una afirmación autoría del eminente escritor e intelectual del periodo de la Ilustración Jean-Jacques Rousseau, ideología que confirma Karl Marx al asegurar que la sociedad capitalista corrompe al hombre.

    Por otra parte Nicolás Maquiavelo tiene una idea muy diferente al afirmar que “hombre es por naturaleza perverso y egoísta”, concepto que es confirmado por Thomas Hobbes, quien afirma que “el hombre es un lobo para el hombre” y es malo por naturaleza, pues siempre privilegia su propio bien por encima del de los demás, concepto que también

    Sin el ánimo de entrar en un debate moralista sobre alguna de las ideologías, me atrevo a pensar que difícilmente (por lo menos en la actualidad), los rasgos faciales puedan determinar la predisposición a cometer crímenes, y optaría más por entrar o tratar de analizar la psique de los individuos, suena difícil, sí, suena demasiado entrometido, también, pero hace años no imaginábamos muchas cosas que ahora están pasando y por el bien de la mayoría se toman decisiones muy drásticas, igual y en un futuro entregaremos nuestra privacidad a cambio de sentirnos seguros.

  20. En la actualidad, la innovación e implementación de nuevos software´s nos siguen sorprendiendo día con día, tal es este caso del uso de un software que determina la probabilidad de un comportamiento criminal de un individuo, situación que tiene sus ventajas y desventajas, esto debido a su nivel de aaertividad y efectividad, menciono esto por la frase de “nos juzgues por la apariencia de las personas” y es que así es como imagino que funciona, al escanear la apariencia del rostro de un individuo no asegura que este vaya cometer algún crimen, sin en cambio se podría complementar con otros factores como algún examen de perfil psicológico de manera breve.

    Sin en cambio creo que es mas probable que sea más acertado el software que detecta cierto nivel de tristeza o depresión, basándose en palabras que un individuo plasma gracias a un pensamiento o sentimiento, porque es bien sabido que somos lo que pensamos y lo que decimos.

  21. Me parece muy buena alternativa para cuando estas reclutando gente y necesitar personal capacitado pero no tienes tiempo para entrevistarlo, entonces utilizas esa tecno para reclutar a alguien capacitado y con la experiencia que tu necesitas para el puesto.

    Pero a la vez es muy malo que te nieguen una oportunidad de empleo solo porque una app sale con ese resultado.

  22. Sin duda alguna pienso que la utilización de la inteligencia artificial en distintos ámbitos de nuestra vida también tiene efectos negativos.

    Nuestro rostro se convertirá en nuestra contraseña y, cuando entremos a una tienda, esta nos reconocerá e investigará datos como si somos clientes nuevos o asiduos, o en qué lugares hemos estado antes de cruzar la puerta. De toda la información que recabe, dependerá el trato que nos dé esa empresa.

    Opino que aspectos como nuestro género o color de piel formen parte de los criterios que esas compañías evalúen a la hora de decidir si merecemos un descuento u otra atención especial. Algo que puede suceder sin que las mismas firmas se den cuenta.

    La inteligencia artificial no es perfecta: incluso si no es programado para hacerlo, el software puede aprender por su cuenta a discriminar

  23. El avance de la tecnología así como la ciencia son de gran importancia para el ser humano, ambas siendo fundamentales para la subsistencia, sin embargo con el paso del tiempo estas tecnologías son utilizadas y adaptadas con otro fin. El propio ser humano es el responsable y encargado de programar, crear y utilizar algunos algoritmos y sobre todo cuan ético puede ser para la sociedad.

    Considero que se están violando los derechos de las personas sin consentimiento alguno, poner cámaras por las calles para tener a los ciudadanos vigilados, redes sociales para conocer tu personalidad (reconocimiento facial) y ahora por la apuesta de un software que puede predecir tu comportamiento criminal aunque habla de una probabilidad bastante efectiva, “los humanos hemos tenido que matar para sobrevivir: matando plantas y animales para comerlos, desde tiempos ancestrales nos matamos los unos a los otros cuando nos sentimos amenazados o tenemos algo que ganar, según psicólogos”. Así que apostar por una maquina es bastante interesante, pero preocupante a la vez, quien dice que no puede tener errores, así que estoy en desacuerdo con el uso que se les da a algunos sistemas.

    Por lo anterior, las innovaciones deben ser utilizadas de manera ética, me queda claro que se pueden encontrar otros usos, pero que sean para bienestar de la sociedad.

  24. Actualmente la tecnología ya está muy avanzada desde mi perspectiva, y claro seguirá avanzando. La inteligencia artificial me parece una buena herramienta para poder entender mejor la conducta del ser humano, aunque no al 100%, pero no entiendo el porque de que exista cierta división entre la gente de acuerdo a su género, color de piel, cultura, ETC., si al final es algo en lo que la tecnología ya debería tomar como por igual a todos los usuarios e individuos.

    No creo que la Inteligencia Artificial sea racista, más bien quien la crea, o sea el ser humano, es quien hace que sea racista. Y peor aún, para la era en la que ya estamos, el racismo ya no debería de seguir, o más bien el pensar que ser una persona de color negro o blanco es cuestión de superioridad o inferioridad. El ser humano es quien construye la tecnología, por lo tanto, la tecnología aplica o aprende lo que uno le transmita o programe. Ya no es cosa de la tecnología, sino del mundo real en el que estamos.

  25. Podemos observar que al parecer no todos los logaritmos son malos, como bien dice, la buena noticia es que existe un logaritmo que puede ayudar a la perfilación de una o varias personas, la tecnología ayuda y ayuda bastante con el hecho de poder redefinir y direccionar los sentimientos de las personas, evitando a tiempo que alguna catástrofe ocurra en momentos futuros.

    Nosotros no medimos la dimensión de lo que una aplicación o una red social puede sacar a relucir de las personas, y por eso que es tan fácil poder perfilar a una persona que sea un daño a la sociedad, el hecho de que el ser humano no tenga barreras ante la tecnología es beneficioso y perjudicial a la vez siempre y cuando las personas no tengamos un control sobre nuestras decisiones.
    Como es bien cierto, todas las personas en un momento de su vida son “criminaloides” ¿por qué?, quien de niño o de adolescente se ha robado un chicle, a forma de juego o de reto entre colegas o compañeros, pero al menos un 70 u 80 por ciento de la sociedad lo hace, pero eso no significa que sea un criminal de nacimiento. Es solo cuestión de madurar y de valores inculcados desde casa en la mayoría de los casos, la otra parte desgraciadamente, son criminales en potencia.

  26. Me parece muy interesante, porque es cierto que la tecnología va avanzando día día, pero como estamos muy seguros de que los resultados que nos arroje en su totalidad sean correctos, aunque se nos tendría que dar la confianza porque hay veces que se juzga a las personas antes de conocer y no debería de ser así.

  27. Es un excelente tema a debatir ya que en lo particular me llamo demasiado la atención el echo de que ya en la actualidad quieren ahorrarse demasiado tiempo y con un simple algoritmo determinar tanto el estado de animo de una persona (triste, feliz, etc…) Hasta saber si de cierta forma es un criminal o en su defecto un peligro para la sociedad tan solo por sus rasgos, cabe destacar que es una herramienta la cual tiene demasiados pros y contras ya que una persona a simple vista diría que ridiculez el echo de que literal te juzguen tan solo por tu apariencia (física) en cuanto para algunos otro dirían que es una maravilla por el tiempo que les puede ahorrar y su efectividad del 80%, y en cuanto al racismo es algo tonto o al menos en lo personal así lo pienso, que una maquina pueda llegar a discriminar (sea tanto por raza, sexo etc..)

    A menos que el creador lo haga con esa intención aun que si es así estarían cometiendo un grabe error ya que en vez de beneficiarnos nos perjudicaría el doble, pero como reitero siento que aun no estamos preparados para este tipo de cambios tecnológicos antes de saltar a este paso primero la humanidad debería tener bien desarrollados sus valores, y no tener ningún tipo de distinción ni preferencias, cero racismo, cero discriminación de genero o de cualquier tipo.

  28. Este articulo se me hace muy interesante, ya que como se menciona, estamos en una era completamente diferente, una era tecnológica, la cual nos da muchas alternativas y soluciones a muchas, sin en cambio no se me hace que la información o las nuevas tecnologías sean del todo cierto, ya que apenas están iniciando y puede que en algunos casos no sea correcto o puede que sea mejor de lo que se espera.

    Sin en cambio se me hace un buena alternativa el tener esta herramienta, ya que así se puede tener un “mejor” control de la sociedad sin juzgar directamente.

  29. Es claro que la inteligencia artificial ya no es un tema de futuro, es el presente mismo, con todos los avances que vemos en tecnología es difícil imaginar lo que no podemos realizar hoy en día con todas las herramientas que se presentan gracias a la combinación de internet y la inteligencia del ser humano, vaya, no alcanzamos a captar todo lo que está en nuestras manos para poder obtener información de las personas y todo lo que conlleva a su personalidad.

    Este tipo de herramientas que presentan algoritmos de predicción de comportamientos, se determinan a través de un sistema creado por humanos, es decir que si el sistema aprende a determinar las características de una persona que puede adquirir un producto y a su vez, determinar las acciones que puede realizar como un delito, es porque el ser humano programa este tipo de aprendizaje para el sistema.

    Este tipo de tecnología es verdaderamente útil siempre y cuando se utilice para fines que proporcionen un beneficio tanto para empresas como personas que quieran potencializar algún proyecto o compañía, sin embargo, el quererlo utilizar para detectar un probable criminal, es como querer adivinar exactamente el futuro y es algo que el sistema no puede ofrecer al 100%; abarcando el tema de discriminación o racismo existente en estos programas, se pude decir que nosotros mismos estamos dando la base de la información requerida para que aprenda el sistema a identificar a personas como probables criminales, sin embargo a mi parecer, para erradicar el tema de la discriminación en todos los sentidos o ámbitos, debemos crear una sociedad con principios y valores a los cuales se enfoque la inclusión a las personas de color, religión, clase social, sexo y demás personas que por su condición han sufrido la desigualdad por una sociedad con complejos.

  30. Hoy en día la tecnología ha ido evolucionando y el tema antes mencionado nos sorprende ya que parece un tema de alto interés porque si ya estuviera implementado como tal el sistema en cualquier parte del mundo nos ayudaría a prevenir muchas cosas de las cuales en estos momentos a lo mejor están pagando una condena, yo creo que con todos los estudios que se han realizados otras ramos podrían entrar y atacar el problema también es importante resaltar que esto lo debemos de ver como una oportunidad de crecimiento para la sociedad y seamos capaces de hacer las modificaciones suficientes para ser una mejor tanto para la sociedad como para la familia que nos rodea.

  31. Excelente artículo, me parece muy interesante el papel que tienen los algoritmos del internet y la vinculación con el racismo como un tema central. La inteligencia artificial (ia) es una expresión técnica referida a artefactos empleados para detectar contextos o llevar a cabo acciones en respuesta a contextos detectados. Nuestra capacidad de construir dichos artefactos ha aumentado y, con ello, el impacto que tienen en nuestra sociedad.

    ¡Hagamos conciencia del futuro que queremos construir, vivimos momentos históricos, no tenemos tiempo que perder!

    Gracias por compartir éste artículo.

  32. Me parece un artículo un tanto interesante ya que en la actualidad la sociedad en general esta conectada de una manera inmensurable con la tecnología prueba de ello es que aun con avances tecnológicos, la tecnología tiene presencia humana en la manera de operar tal y como lo redacta este artículo. No es sorpresa que las convicciones personales de quienes se encargan de la creación e implementación de sistemas de esta índole se hagan del control de la manera del funcionamiento así como los propósitos y objetivos de los mismos.

    Sin embargo este tipo de detalles que podrían pasar desapercibidos en su contexto así como entorno ya sean sociológico o de la psicopercepción de su contexto puede ser variable así como todo un fenómeno cultural. Ya que en la actualidad con los avances tecnológicos se han qué hecho que la sociedad acuñe la idea o relación de la tecnología con una perfección neutral sin dejar cabida a que un personaje secundario haga antagonismo en este reflejo de una ideología que pertenece a un ingente segmento de la población. Como lo menciona este documento siempre hay alguien detrás de todo lo que podemos delimitar como exacto, casi perfecto y no nadie más que el mismo hombre.

  33. Aunque es muy innovadora la propuesta de esta herramienta, deja de lado muchos años de investigación realizada por expertos en psicología criminal.
    El ser un criminal en potencia va más allá de tus rasgos faciales, involucra una historia de vida, tus experiencias, creencias, etc., no solo el como te ves, en las cárceles hay gente de todo tipo, blancos, negros, de ojos grandes, pequeños, narices gruesas, delgadas, chuecas, bonitas… esto puede llevar a, en pocas palabras, un acoso, la policía y los encargados de esta herramienta, pueden dedicarse a seguir tus movimientos en espera de que hagas algo mal ¿hasta que punto esto no merma nuestra (ya limitada ) privacidad?

  34. Es muy asertivo lo que se comenta en este articulo, ya que me uno a las personas que normalmente usa twitter todo el tiempo y donde expresamos la manera en como nos sentimos diariamente, bueno sin duda alguna yo si lo hago. Sin embargo algo que me llama demasiado la atención es que el racismo aumento de la noche a la mañana brutalmente y mi pregunta es el por que sucedió eso, o sea si existía pero se desato demasiado. Espero que los nuevos métodos tecnológicos sean asertivos por que no estaría agradable que juzgaran a una persona simplemente por su físico.

  35. Siento que últimamente las personas confunden mucho el termino de aceptación y tolerancia, este ya sea refiriéndose a gustos de una persona, estilos de vida, preferencias sexuales, etc. Ya que por ejemplo varias personas dicen ser muy “open mind” y no pueden respetar las ideas una persona que opinan lo contrario e ella o el. Este tipo de percibir si una computadora o un algoritmo es racista, se me hace una reverenda tontería, por que el algoritmo de una red social o tienda en linea se rige por un movimientos que las personas hacen en el mismo, esto para que después ya basados en esos movimientos el programa ejecuta las acciones en base a los datos recabados.

  36. Los sesgos presentes en los datos con que se entrenan los algoritmos hacen que la inteligencia artificial replique y maximice el racismo humano. La muerte de Floyd es el resultado de décadas de racismo inherente a la cultura y la política.

    Al mismo tiempo, reabre el debate sobre estas actitudes en todo el mundo, ya que la discriminación por raza sigue siendo una constante a escala global, como se ha constatado con el resurgir reciente de los movimientos de ultraderecha y xenófobos. Pero no podemos olvidar un detalle clave en los tiempos que corren: ese racismo no es exclusivo del plano físico del ser humano, sino que lo hemos extendido y amplificado a través de la tecnología. No en vano, las redes sociales han servido para agitar y movilizar ideologías contrarias a la igualdad racial durante muchos años. Y lo que es más relevante: la inteligencia artificial adolece de sesgos que favorecen esa discriminación de manera constante; en muchos casos incluso de forma inconsciente para los creadores de los algoritmos.

    Sabemos que las maquinas pueden aprender a hacer rápidamente cosas que los humanos nos cuesta años de estudio y aprendizaje, y además las pueden hacer mejor y con más precisión que cualquier persona, ahora la inteligencia artificial también se contagia y aprende de nuestros defectos , cuando su sistema aprenden un idioma a partir de textos ya existentes se impregnan de los mismos prejuicios raciales incluidos en el lenguaje, esta termina por asumir los sesgos humanos que están incluidos implícitamente él, es decir, las maquinas basadas en aprendizaje automático se vuelven raciales al aprender un lenguaje, porque el lenguaje ya contiene ese tipo de sesgos humanos, los modelos de aprendizaje automático que están entrenados a partir de datos humanos a gran escala pueden desarrollar estereotipos, ya que a partir de estos datos son capaces de representar con precisión hechos sobre el mundo y la cultura humana, lo que inevitablemente incluye sesgos, las maquinas son el espejo de lo que nosotros somos.

  37. La inteligencia artificial y el uso de estas herramientas, que se han convertido en una realidad esto se ve reflejado en china ya que hace mas de un año se implemento esta tecnología, mientras son vigilados permanentemente por cámaras inteligentes de reconocimiento facial capaces de establecer una identidad en tiempo real, ahora es capaz de calificar el comportamiento social , esto nos crea una conciencia propia sobre nuestra libertad y como día con día esta disminuye en como la tecnología avanza tan rápido y como el internet sabe mas de nosotros de lo que nos imaginamos,esto lo vemos mas como un asunto lo veo negativo de acuerdo a principios morales, pero para el gobierno puede significar la protección y seguridad de cientos de personas, pero es obvio que el mundo ya se encuentra dentro de un circulo de racimo y falta de equidad . Pero es una realidad que esta mas cerca de nosotros.Pero esto podría regular el comportamiento social y evitar la violencia, inseguridad e injusticias.

  38. Es muy interesante ya que hoy en día vivimos completamente diferente a como lo hacían las generaciones pasadas y esto a traído como consecuencia cosas tanto buenas como malas y no debe de ser así, y las tecnologías son herramientas que están muy avanzadas pero no somos los suficientemente capaces de darles un buen uso entonces este artículo hace reflexionar que tanto como las tecnologías y las redes sociales se les pude dar un buen uso.

  39. Es interesante los puntos de vista en favor y en Contra, existe un debate interesante y mucho flojo de opiniones, por una parte es increíble cómo con el paso del tiempo la tecnología se ha desarrollado a tal grado que se han creado softwares, algoritmos y programas que pueden predecir la potencialidad que tiene una tiene una persona para se propensa a cometer crímenes, se puede usar como una herramienta secundaria y de mucha importancia Para las autoridades, facilitaría en cierto punto sus labores y servirá como punto de partida para la toma de Decisiones. Sin embargo existen sectores en contra, que no están de acuerdo en que sea una medida Sana, ética y moralmente Hablando. Pienso yo, que en medida que se regule el uso de esta herramienta en el marco de la legalidad se llegará a puntos de acuerdo y cada vez será más aceptado por los sectores de la sociedad que están en desacuerdo.

  40. Al incorporar la tecnología en nuestras actividades del día a día, sé que algo más proporcionara, porque todo bien y/o servicio se deriva de una necesidad o un problema que se esta acrecentando, aunado a ello el control por un grupo determinado.

    Si bien, existe un estudio realizado por el Instituto Karolinska de Estocolmo (Suecia), en donde manifiestan que existen “dos genes concretos están relacionados con la propensión a cometer crímenes violentos … uno de ellos llamado CDH13, contribuye al desarrollo de las conexiones neuronales del cerebro y esta asociado al Trastorno de Déficit de Atención e Hiperactividad (TDAH), y el segundo gen MAOA, se encarga de metabolizar la dopamina, sustancia relacionada con las emociones fuertes como el amor y la violencia”.

    Retomando la presentación, la inteligencia artificial considera los aspectos anteriores o solo está ejecutando una teoría, en donde posiblemente identifique a un criminal o dañe la identidad de un ser, ¿cuál será la dirección de estos?, ¿cuál es o será el mejor sistema de justicia penal?, ¿será importante conocer la motivación?, ¿el sistema se interrelacionará con otros países y quien tendrá el control?, entre otros.

    Finalmente, nosotros somos los responsables de nuestro destino que tanto quiero compartir de mí.

  41. Se me hace sorprendente como la tecnología puede lograr muchas cosas para poder lograr y cambiar los estereotipos de este tema del racismo para así poder conocer la mentalidad del ser humano por su opinión aunque tenemos que darnos cuenta en las personas en las cuales podemos confiar porque la gente juzga sin conocer.

  42. En mi punto de vista la evolución que va tener este tipo de situación va ser critica sin embargo tiene muchísimas posibilidades para la seguridad de las personas, muchas veces pensamos que esto es malo pero como toda situación tiene sus ventajas y desventajas, posteriormente tenemos que ver la frecuencia de esta nueva modalidad y ver el riesgo que esto puedo ser en la sociedad que esta muy sensible al tema de la discriminación.

  43. Basado a mi criterio puedo decir que la inteligencia artificial prueba diferentes ecuaciones para que el resultado sea lo más cercano posible. Su único problema es que su trabajo es muy preciso solo que para el punto de vista humano esto resulta frío.

    Si una inteligencia artificial es sexista no significa que no sea abierta y que odie a un género, si no que al conocer las características de cada uno sabe cuál resulta mejor para cada tarea asignada y como es una computadora que trabaja para humanos tiene que tener en cuenta ciertas estadísticas que si pueden resultar racistas pero eso es problema de los humanos no de la computadora, si esta trabajara para otra computadora estaría más concentrada en otra cosa en lugar del color de piel de un humano o el género de este.

    Las máquinas simplemente aprenden lo que se les enseña ya que al final la inteligencia artificial siempre tendrá como base la inteligencia humana. Ya que de no ser así no podrían operar al máximo. Considero que es un tema delicado porque existe mucha gente que juzga a las personas sin conocerlas y en verdad eso es.

  44. Es muy evidente que cada vez más los sistemas creados con anterioridad para identificar a las personas, ha ido evolucionando de una manera descomunal, sin embargo, ¿Hasta dónde son realmente confiables dichos sistemas?, desde la perspectiva tecnológica pueden ser realmente útiles, y en algún momento dado eficaces, pero desde el punto de vista social podría llegar a ser algo injusto, al determinar por medio de un algoritmo ciertas actitudes o patrones que incluso las mismas personas aún no han identificado.
    Sobre todo, si estos algoritmos indican que cierto sector de la sociedad, determinado por cultura, color de piel, educación, economía, etc., son más propensos a incurrir en este tipo de acciones, siendo este el caso, indudablemente este sistema está siendo racista, al estarse predisponiendo aun cuando no conoce en su totalidad la vida de estas personas, y estar generalizando solo ciertos aspectos.

    Sin embargo, no son estos sistemas tecnológicos los culpables en su totalidad de la discriminación o el racismo, sino que la misma sociedad ha ido construyendo este pensamiento o actitud de las personas con el paso del tiempo en muchos de los sectores de la sociedad e incluso llegan a afectar a gran parte de nuestra cultura como mexicanos.

  45. El propio ser humano es el responsable y encargado de programar, crear y utilizar algunos algoritmos y sobre todo cuan ético puede ser para la sociedad.
    Es cierto que gracias a esta tecnología nos facilita la vida, él trabajo diario y la mejora en algunos casos, estos sistemas le ingresan datos y textos basados en estas ideologías, lo cual puede representar una desventaja o amenaza para la crítica final que este sistema determina acerca de una persona,
    Yo opino que deben de realizarse más estudios acerca de la fiabilidad, confianza de estos sistemas que podrían condicionar incluso la libertad de las personas.

  46. En mi opinión la tecnología ha ido avanzando mucho por lo tanto la sociedad se ha hecho muy susceptible a los cambios esto ha sido bueno pero también ha perjudicado a la sociedad en particular a los niños, si vemos la tecnología desde el punto positivo es buena ya que ha habido muchos descubrimientos como lo menciona en la nota el poder identificar criminales cabe mencionar que el hecho de que no se detecte el color la sociedad lo podría tomar como un tema de racismo en México y en todo el mundo se ha visto por muchos años el racismo, esta parte es un tanto compleja ya que todo en algún momento hemos sido racistas en ocasiones sin darnos cuenta debemos ser conscientes de la falta de valores que tenemos como sociedad son racistas no solo con la gente de color sino con las personas en general no hay respeto con las personas el cambio está en que como personas hagamos conciencia y entendamos que todos merecemos el mismo respeto

  47. La tecnología avanza a pasos agigantados, si bien es cierto que en gran medida representa un avance para ofrecer beneficios al mundo y hacer las actividades mucho más sencillas, por otra parte, también ha provocado desconfianza o malas prácticas por muchos usuarios.

    Hoy en día se ha presentado otro avance, se trata de un algoritmo que es capaz de determinar si una persona podría cometer algún crimen solamente con analizar una fotografía, es sin duda un gran progreso que podría beneficiar enormemente a la población, claro, si el análisis tuviera una certeza del 100%.

    Sin embargo, maneja una probabilidad, que en muchas ocasiones hemos descubierto que por muy pequeña que sea puede dar un cambio radical a determinado hecho o suceso. Si el algoritmo se equivoca y arroja que una persona tiene altas probabilidades de cometer algún crimen y nunca lo comete, pero el resultado está allí, ¿Qué pasara con la persona que ha sido señalada?, ¿Cómo se puede reparar el daño que se pueda causar por este hecho? Vivimos en una sociedad en la que se recrimina a cada persona por las cosas que ha hecho, y deberíamos detenernos a pensar en que pasaría en la sociedad si alguien se entera que está conviviendo con personas que tienen probabilidades de cometer algún crimen, ¿Cuál sería el impacto en la sociedad? ¿Cambiaría la forma de convivencia?

  48. Si bien sabemos la tecnología en estos tiempos es inmensa y así nos lo describe este artículo que nos menciona sobre la capacidad de predecir si alguien cometerá un crimen solo analizando sus rasgos físicos en una foto, me causa gran impacto el cómo se basan para saber dicha información y con qué porcentaje de credibilidad se cuenta, por lo que estos algoritmos en estos tiempos son de mucha ayuda para cualquier negocio pues se puede detectar el tipo de persona con el que se está tratando.

    Pero qué pasaría si en cierto caso este algoritmo detectara a una persona con alto porcentaje de criminalidad y no lo fuera en realidad, muchas empresas no lo contratarían o lo ficharían con el índice de alto grado en criminalidad, aquí se vería reflejada la parte de racismo, si bien es verdad que esta tecnología cuenta con el 80% de certeza, pero puede ocurrir un error al determinar ciertos caracteres físicos de las personas con el 20% de FALLAS.

    La información del conocimiento está transformando el mundo en el que vivimos, gracias a las tecnologías de la información y de las comunicaciones, nos encontramos ante una nueva revolución. Esta nueva revolución basada en el conocimiento, se basa en compartir y transmitir la información y conocimientos con la finalidad de hacernos más competitivos y productivos, por lo que estas tecnologías están hechas para el bienestar de la comunidad y para una mejor satisfacción al momento del trato con las personas.

  49. Desde mi punto de vista la tecnología esta avanzando de forma muy eficiente y seguirá sorprendiéndonos cada día mas. Esta herramienta de la inteligencia artificial es muy buena para la sociedad, pero existe una division con la que no estoy de acuerdo, ya que no tendría porque dividir a la sociedad por su color de piel entre otros rasgos físicos, creo que este es un problema que siempre ha existido en nuestro país. Gracias a esta tecnología nos mejora o facilita en algunos aspectos de nuestra vida diaria. Lo que si me queda claro es que las personas que crean este tipo de herramientas es quien fomentan la discriminación y siento que no debería ser así, debería existir el mismo trato el mismo respeto para la sociedad.

  50. Conforme pasan los años más personas tienen acceso a redes sociales y es bien cierto que a través de lo que se comparte podemos distinguir y saber los gustos y preferencias de cada individuo, así mismo lo que se comenta en este artículo es muy interesante, ya que para cuestiones de seguridad, considero nos es benéfico el que se realicen este tipo de acciones para poder identificar ciertos rasgos en las personas, sobre altos índices de criminalidad con tan solo una imagen, esto ayudara a disminuir actos delictivos, así como éste también se deben seguir implementando algunos otros que al final de cuentas sirvan en beneficio de toda la sociedad.
    Facebook: pau-pau Ramírez
    Instagram: pauxis20

  51. Siento que la tecnología cada vez nos facilita más algunas tareas y o actividades y cada vez más está al alcance de nosotros , en este caso este tipo de tecnologías está tratando de facilitar el trabajo a instituciones de seguridad desarrollando estos datos estos algoritmos, el problema es que en estos tiempos de desintegración social el racismo predomina en la mayoría de las personas aunado esto con la tecnología y la inteligencia artificial y quién está detrás de esta, puede ayudar a generar estos problemas sociales y la tecnología por sí sola no es capaz de resolver estos problemas sociales como el racismo.

  52. En la actualidad estamos inmersos en la tecnología y es parte importante en nuestra vida diaria ya que la sociedad cada día depende más de ella, pero en cuestiones de prejuicios la humanidad no ha avanzado mucho y aun seguimos clasificando a cuanta persona conocemos ya sea por su color de pie, posición económica o su condición social y no nos detenemos a conocernos, y de alguna manera eso ocasiona que ciertos programas de inteligencia artificial cometa este tipo de clasificaciones pues independientemente de que solo sea un programa de identificación los datos que adquiere son proporcionados por un grupo de personas que pueden tener ciertas preferencias por algún grupo de personas en especifico, por lo cual no se debería de culpar a la tecnología de racismo ya que esta solo sigue el algoritmo que se le otorga. El uso de la tecnología para el reconocimiento de un posible delincuente es muy interesante pero como mencione con anterioridad solo sigue un algoritmo y en algunas ocasiones este puede ser influenciado por los prejuicios del humano que lo controla.

  53. Con todos los avances tecnológicos es importante destacar la manera en que estamos comportándonos en el mundo ya que varias personas con esta información están al tanto de nuestros movimientos y aún más haya como les sirve este tipo de información en contra de nosotros.

    Este tipo de prototipos tecnológicos son bastante buenos, pero siempre y cuando se puedan utilizar con mucho cuidado y en las manos correctas ya que nunca se sabe qué tipo de redes estén utilizando esta información.
    Como en el tema de seguridad es demasiado bueno, pero para obtener datos nuestros solo con nuestros comportamientos es demasiado y daña totalmente nuestra privacidad.

  54. Desde mi punto de vista, a nadie le gusta ser juzgado de acuerdo a su apariencia, nuestra personalidad no se ve reflejada al 100% en nuestros rasgos físicos, entonces, al usar este tipo de tecnología para analizar el comportamiento humano y con ello pronosticar posibles criminales no es completamente confiable, además de que esto atraerá que el racismo incremente significativamente, y eso una cuestión complicada a nivel mundial, por lo cual se tendría que disminuir la discriminación y el racismo, no fomentar a que se siga practicando.

  55. Los algoritmos que son diseñados para identificar si una persona es o podría ser criminal, se me hace muy interesante porque puede ser conveniente para la sociedad, se podrían disminuir robos, asaltos o secuestros.

    Cada vez me convenzo más de la tecnología sigue superando al hombre, porque con el hedonómetro, es posible detectar mediante una fotografía o los tuits de una persona, la felicidad o su tristeza en cuestión de segundos.

    Por otro lado, la mercadotecnia de las empresas, emplean distintas técnicas para atraer sus clientes, por lo regular emplean la psicología para conocer la probabilidad de que una persona responda a una oferta o mensaje promocional, por lo tanto, considero que es una buena estrategia pero que se debe saber cómo emplearla para no influir directamente en las decisiones de los usuarios.

  56. La tecnología siempre atraerá ventajas y desventajas en una sociedad, pero lo que sí se esta volviendo, es que es una necesidad su uso para facilitar cualquier proceso o cosa que las personas realicemos. Resulta interesante el saber en cómo a una persona se le podría identificar como criminal a través de algoritmos, aunque obviamente tendría su margen de error debido a que casi nada es perfecto y menos en estos temas tan delicados.

    Así como usan dichos algoritmos para que una persona tienda a realizar compras, ahora lo realicen para que tengan una predicción criminal.

    Esto puede ayudar mucho en la sociedad para facilitar la captura de personas que realmente realicen actos ilícitos o estén bajo sospecha, pero son cosas que por supuesto en un futuro mejoraran de manera impresionante, ya que así como este, hay varios temas que la tecnología a hecho de lo irreal a lo real.

  57. Desde mi punto de vista la inteligencia artificial no existe, es más bien la recolección de datos y estadísticas almacenados y agrupados en un procesador el cual tiene la capacidad por medio de la estadística y el azar predecir o elegir alguna respuesta previamente cargada y agrupada de igual forma permite resolver situaciones varias, una vez aclarado esto pasemos a el punto importante según mi persona que es el hombre que diseña los algoritmos de programación que aun cuando diga ser imparcial el subconsciente juega un papel primordial a la hora de impregnar esos prejuicios o racismo propio del hombre en su trabajo en este caso la programación de la I.A. como diría la biblia dios creo al hombre a su semejanza en este caso el programador programa a su semejanza, en conclusión “SI LA I.A. SI ES RACISTA”

  58. Me agrada la idea de jugar a predecir el futuro. Me agrada la idea de poder identificar a una persona que posiblemente pueda cometer un crimen y anticiparme. Me agrada saber que puedo poner una marca de refresco y saber que estará en la mesa de una familia porque lancé una publicidad acertada en el momento justo.

    Pero…El verdadero reto es tener contentos a todos. Que mejor sería que con mi campaña o mi algoritmo no ofendiera a persona alguna, es decir, claro que me va a ofender que me digan que tal vez cometa un crimen o las personas de color que entran en el sesgo del algoritmo, es una herramienta que puede ser usada para muchos tipos de contextos pero aún nos falta trabajar la parte sensible y empática con la demás gente que tal vez ofendamos en el proceso. ¿La solución? aún no la sabemos con certeza pero una vía si es segura: podemos comenzar con el respeto al prójimo.

  59. Es evidente como la tecnología se ha vuelto parte de nuestra vida cotidiana, y sobre todo la adaptación y aceptación con la que la recibimos, aquí la compleja situación es el uso que le damos, porque buscando desventajas y conflictos que se generan por el uso de la tecnología son muchos los enumerados pero, debemos tomar en cuenta que la tecnología nunca será culpable de nada, el hombre, su creador, es el responsable de que en este caso la inteligencia artificial no se tan bien recibida por la sociedad, pues desde mi punto de vista ¿Cómo es posible que un proyecto tan importante y minucioso se lance al mercado para usarlo solo con un grado de confiabilidad del 80%? Estamos hablando de un tema sumamente importante, de mucha delicadeza es juzgar a alguien por solo ver su rostro. Tuvo que haber sidas más rigurosos analizar las posibles consecuencias de este sistema en la actualidad, cuando el racismo, los malos hábitos y tratos hacia cualquier persona han sido, lamentablemente, parte de la sociedad.

    Imaginemos el caos que se puede provocar, con el solo hecho que una persona con un tatuaje por ejemplo entra a un restaurante y lo acapara la policía porque asegura que eres un ladrón, y lo llevan preso solo porqué su rostro “lo dice”, estarían jugando con la integridad de una persona por “un error de sistema” un error del 20% predecible para ser exactos.

    Nunca estaré en contra de la tecnología, de su uso y la facilidad con las que en estos tiempos resolvemos problemas, agilizamos procesos, pero opino que es de mucha importancia que si de personas se trata los prejuicios y el racimo no sea un problema que enfrentar. Claro que estos avances tienen su lado positivo, ventajas extraordinarias para toda la sociedad, muchas tiendas, hospitales, departamentos de servicios, cuantas facilidades y eficiencias no harían con avances así; pero siempre diré que todo es responsabilidad del propio hombre y el buen o mal uso que se le de al avance agigantado que lleva la tecnología.

    … aunque es importante para mí mencionar que no seré enemiga de la tecnología, ni ella de mí nunca hasta que mi propia persona sea la que dé el siguiente paso a renovar mi persona, mis actitudes y comportamientos, pues no niego que por mi mentes o boca ha pasado un insulto, ha salido un prejuicio o comentarios fuera de lugar, no podemos exigir respeto de un aparato si somos nosotros los que actuamos mal.

  60. En la actualidad nos hemos encontrado con infinidad de tecnologías para el bien de la humanidad, pero como se menciona en este artículo, ya existe un sistema de inteligencia artificial que se basa en identificar a las personas que en el futuro pueden cometer crímenes de acuerdo a su comportamiento que desarrollan, es gran alternativa para vivir en un mundo fuera de crimines, y hacer que disminuyan las injusticias por esas personas que son encerradas por crímenes que no cometieron solo por su color de piel, este es uno de los principales crímenes que se viven hoy en día por la ignorancia de personar de las personas.

  61. La tecnología está avanzando de una manera acelerada que no se está deteniendo a pensar más en las desventajas que está generando. En estos tiempos desafortunadamente el tema del racismo es un tema vulnerable que se debe tener tacto para poder hablar de ella y que no se mal interprete, pues, aunque el fin no sea agredir ni faltar el respeto a nadie se puede prestar a que sea lo contrario.

    En este punto en específico, no estoy de acuerdo ya que no se puede confiar en este tipo de tecnología para dar por hecho si alguien va a cometer algún delito, máxime si no se conocen las situaciones por las que han pasado las personas, ya que existe un 20% de margen de error.

  62. Se vuelve un tema muy complicado el intentar programar un recurso que sea 100% libre de cualquier prejuicio, esto por el simple echo que hay una persona que tiene que programar lo cual tiene implícito su criterio personal, si no que, para poder obtener un algoritmo de este tipo, se tiene que utilizar una base de hechos históricos, los cuales, desafortunadamente, tienen un sesgo sumamente racista, no cabe duda que buscamos mejorar nuestro sistema judicial, para evitar que los criterios de las personas puedan interferir con la justicia, pero, veo que es un tema totalmente subjetivo al raciocinio humano.

    Pero entonces, ¿Que podemos realizar?, ¿Como avanzar en poder predecir que puede pasar con una persona para que no se convierta en criminal?, bueno, a nuestras posibilidades, con estudios médicos o psicológicos, es un tema que aun no nos ha sido posible resolver, sin embargo, si recordamos cuando las computadoras comenzaron a utilizarse, nos ayudaron a realizar operaciones sumamente complejas en cuestión de segundos, por lo cual, si bien al principio puede ser tendencioso el enfoque del resultado que nos de este sistema, con el tiempo, se puede perfeccionar y tal vez un día, nos pueda apoyar a prevenir muchos de los delitos que se dan hoy en día.

    Twitter @antoniolm73

  63. La tecnología rebasa nuestras expectativas, lo importante de tener a la mano estos avances es el enfoque hacia el cual las direccionamos y la aplicación que le damos, sin lugar a duda me parece que si es una cuanto discriminatorio juzgara a alguien por sus rasgos físicos para poder así garantizar el indice delictivo que podría tener esta persona porque si no pensaba realizar una actividad mala tal vez se puede inducir a llevarla a cabo, me causa duda de la efectividad de esta tecnología , sin embargo por la referencia del autor y la trayectoria del estudio me deja mas convencida de sus resultados, en cambio me gustaría focalizarla a cuestiones mas productivas como el estudio de mercadotecnia y estas aplicaciones que tienen un mejor uso y no afectan en lo absoluto.

  64. Hoy en día nos esta tocando vivir un cambio significativo en cuanto al racismo en todos los países del mundo hoy en día este tema es muy delicado y creo nos hemos equivocado en la forma de alimentar a los algoritmos de reconocimiento para criminales con LOS datos que estamos proporcionándole ya que no sabemos realmente que datos se le este dando, tal vez solo se le proporcione datos de que un criminal siempre va a ser una persona de color y que va a creer el algoritmo siempre que vea una persona de color? Exacto, creo que se debe tener más cuidado con que tipo de datos alimentamos a los algoritmos ya que han llegado para quedarse nos pueden facilitar la vida a niveles nunca antes visto pero primero los debemos de alimentar de información para que estos puedan aprender lo que necesitamos.

  65. La inteligencia artificial, ya no es algo que desconocemos, o que visualizaremos como un futuro lejano, en realidad la tecnología a avanzado demasiado que ya no es algo nuevo para nosotros, ¿ que si la tecnología es racista?, vaya que es racista y no solo por categorizar, el hecho de visualizar un rostro y determinar que puede ser un criminal sin analizar o conocer a la persona, no es solo eso es un ejemplo de racismo, tenemos también como ejemplo el pasado articulo donde nos mencionaba sobre la tecnología utilizada por la metropolitan police de Londres para el reconocimiento facial utilizado en sus cámaras de vigilancia, y que algunos investigadores se han dado cuenta que discriminan a personas de piel obscura, o también los dispensadores de jabón que no dan jabón a personas de raza negra, o en esos coches autónomos y que, según un estudio, son más propensos en atropellar a peatones de raza negra porque su tecnología ha sido diseñada para detectar y parar ante personas de raza blanca, debemos tomar en cuenta que las máquinas simplemente aprenden lo que se les enseña y, al final, la inteligencia artificial siempre tendrá como base la inteligencia humana. Del ser humano depende que esto no suceda.

  66. Ideas e intelecto humano construye estas plataformas….

    Debería de cuestionar a fondo a los creadores de estas tecnologías por qué programan la tecnología de este modo y que aun teniendo tan alto porcentaje de efectividad aún existe un buen porcentaje de error, este tipo de programas o tecnologías no solo debería clasificar por los rasgos si no tal vez también por comportamientos o acciones que realmente estén poniendo en riesgo el orden social pues la apariencia no predice los actos de las personas sino sus mismos actos.

    Creo que se debería de cuestionarlos un poco más y de esta manera hacerlos más efectivos y menos discriminatorios.
    En mi opinión todo esto no es posible sin la ayuda de la materia gris, esto nos revela que el ingenio de la persona que se encuentra diseñando estas herramientas cuenta con ideas o criterio que de cierto modo es selectivo o racista y no cuenta con una base cien por ciento sólida para generar este tipo de tecnologías.

    Incluso el contenido expuesto relata que ciertamente tiene un 80% de efectividad pero el otro 20% nos deja mucho por reflexionar o cuestionar, que solo por tener ciertos rasgos o color de piel somos más susceptibles o estamos MÁS propensos a cometer actos ilícitos o tener acciones que afecten a nuestros semejantes???

    Es muy triste que por simple apariencia se juzgue mal a ciertas personas y que el racismo se haga presente en la tecnología, cuando esta es creada para ayudar o facilitar más no para perjudicar mucho menos para discriminar.

  67. En mi opinion es un tema muy interesante pero así mismo tiempo causa un gran dilema que es el que se mención en el artículo; por un lado el beneficio de la predicción sobre alguien que pidiera cometer algún delito en el futuro y eso realmente facilitaría demasiadas cosas sin embargo por otro lado de encuentra el lado negativo que es el incitar al racismo ya que como menciona el algoritmo prácticamente se inclina mas hacia personas de color simplemente por sus carácter o rasgos físicos y se debe tomar en cuenta los problemas que esto les puede ocasionar en el futuro a las personas que salgan como prospectos positivos en el algoritmo sin tener nada 100% seguro o comprobado

  68. En mi opinión este tema no tiene nada novedoso ya que si lo desglosamos hablamos del racismo algo que desde años o siglos atrás se viene viendo y por otro lado la tecnología esta herramienta que se está adueñando de la vida.

    La tecnología en estos tiempo esta muy avanzada y en los próximos años ni se diga, el crear o ya tener acceso a este algoritmo es de gran utilidad ya que en estos tiempos nos encontramos en un mundo en donde por la mínima razón se comete un crimen, si ponemos de ejemplo lo de la pandemia que también es conocida como una tercera guerra mundial pero sin armas, nos podemos dar cuenta que esta afectando brutalmente la economía de los países dejando desempleo y este mismo provoca que las personas salgan a buscar algo que llevarle a la familia es aquí cuando se comete el crimen.

    El racismo como ya lo mencioné es algo que desde siglos o años atrás se ve y aun prevalece en la sociedad y si es muy notorio el hacer menos a una persona de color, pero a mi punto de vista ¿qué tenemos nosotros las personas blancas que no tengan ellas?; creo que nada al contrario a veces suelen tener mejor educación y valores que uno.

    Por ultimo creo que no es tan necesario el algoritmo ya que al ser una maquina puede ser manipulada por aquellas personas que la crearon y si ella no dará el veredicto final sobre la persona si no se guiara de lo establecido o modificado en ella.

  69. A lo largo del tiempo los seres humanos han ido buscando siempre estar un paso enfrente con base ala tecnología, es impresionante que ya exista un sistema que pueda determinar que tan probable es que una persona haga o comenta algún tipo de delito, lamentablemente no se a utilizado de la forma correcta o adecuada ya que de ser así se detendrían muchos homicidios algo tan simple como ponerlo en escuelas ya que en los últimos años alumnos de las misma han echo actos terroristas los cuales han cobrado vidas de alumnos y maestros, sin embargo llega otro punto ” la sociedad esta lista para esto” es un dilema pues no todas las personas piensan de la misma forma sin embargo esto podría traer mas conflictos al detectar a una persona con cierta probabilidad de cometer algún delito.
    Sin embargo puesta en marcha ayudaría mucho ala población en general esperando crear una sociedad mas pacifica.

  70. Bueno, basándonos en este tipo de tecnología es natural pensar que quizás lo que obtendríamos sería algo ventajoso como personas o bien como sociedad, para ayudar a mantener un mayor control en las personas y las posibles acciones, el problema con la implementación de esta tecnología es precisamente el algoritmo que determina la posibilidad de que una persona realice o bien cometa algún crimen, ya que este mismo algoritmo está basado en una base de datos que tiene predeterminado ciertos rasgos faciales para intentar predecir quien podría ser un potencial criminal, como bien lo dice el artículo, esto es cercano a volver a recaer en el Lombrossismo, que en base a prejuicios ciertamente negativos intenta determinar la culpabilidad o probable participación de un individuo en una escena criminal, lamentablemente en el punto en el que nos encontramos actualmente, no podemos permitirnos el hecho de recaer en este tipo de prejuicios tanto ideológicos, como principalmente, raciales, estamos en un punto en que la humanidad toca partes sensibles en este tipo de temas y lo mejor, basado en lo que considero correcto, sería el no apelar a la determinación de un algoritmo programado de este modo para obtener un juicio de la probabilidad que tiene una persona para cometer o no un crimen, lo correcto es mejorar esa tecnología y por el momento, combinar tanto un mejor criterio y más amplio para esta herramienta, así como mejores medidas de seguridad.

  71. Hoy en día los sistemas de inteligencia artificial son complejos dedicados en la mayoría de ocasiones a tareas sencillas o poco críticas, para una gran mayoría de empresas y aplicaciones, dejando fuera a las grandes tecnológicas globales. Sin embargo hay cierto grado de preocupación acerca de que los sistemas de inteligencia artificial, es decir, que acaben por eliminar puestos de trabajo, haciendo que crezca el fenómeno de desempleo y disminuyan las oportunidades para muchas personas.

    Por otro parte, la Inteligencia artificial, es verdad que permite agilizar procesos, la automatización de tareas y que cada vez, estas sean más complejas y aumentar la seguridad en determinados sectores los cuales utilizan procesos manuales, aquí las consecuencias, serían positivas porque, por ejemplo, liberan al trabajador humano de las tareas más tediosas y dejan tiempo disponible para realizar tareas más creativas y productivas, esto último también aplicaría para facilitar estudios realizados en el área de marketing, ya que reduce tiempo en gran escala y parte de los costos tan solo en una aplicación de encuestas para saber ciertas características de clientes potenciales.

    Cabe mencionar que hay cierto grado de fallas en la creación y construcción de esta inteligencia, depende de la alimentación o entrenamiento de los algoritmos utilizados en este tipo de inteligencias, ya que hay ciertos patrones que no pueden generalizar a la sociedad, ya que, cada ser humano es único e irrepetible al cuál no puede analizar una máquina la cual no goza de todos los sentidos, una prueba clara de esto es el asesinato del ciudadano George Floyd, inclinándose por los prejuicios raciales.

  72. Si bien la Inteligencia Artificial tiene una extraordinaria posibilidad de procesar información y hacer descubrimientos a una velocidad y precisión que ningún ser humano sería capaz de lograr con tanta precisión, la IA aún carece de características innatas al ser humano como el sentido común y no siempre se puede confiar sólo en ella para tomar decisiones.

    Los algoritmos pueden ser más eficientes, menos costosos y más precisos, pero también pueden ser muy complejos y difíciles de interpretar. Detrás de cada algoritmo, datos o proceso, siempre necesitaremos una decisión humana posterior e implementación, basada en la interpretación que hagamos de esos datos.

    Para evitar una aplicación que pudiera impactar en forma nociva en la sociedad, se necesita una regulación clara, transparente y responsable, que impida al ser humano de hacer ciertas cosas o tomar decisiones impropias.

    El dilema, sin embargo, sigue estando en dónde y cómo poner un marco ético a la sociedad que privilegie a la Humanidad.

  73. Considero que vivimos en un presente rodeados de maquinas, androides, robots con una inteligencia superior al ser humano, manipulando nuestras vidas cotidianas, ahora que ya vivimos con esto es importante hacer un análisis de todo esto.

    La tecnología se encarga de la selección de lo que parece ser nuestras necesidades, así como los estados de animo que generamos, es capaz de analizar las conductas y determinar un resultado futuro produciendo prejuicios sociales.

    Yo considero que el problema no esta en la tecnología , el problema es como la usamos hoy en día.

  74. Es una herramienta que seria muy útil para la prevención de un crimen pero no creo que sea realmente racista, analizando bien los algoritmos de la persona y no importando su color de piel, eso en lo particular no seria ningún problema al contrario definiríamos con exactitud que mas gente de tono de piel tiene tendencia a ser criminal, pero pensándolo bien te puedes convertir en un criminal de la noche a la mañana simplemente por desamor engaño o venganza que alguien te origino, si ya hablamos de desbloqueos fáciles o datos biométricos seria fácil identificar al criminal antes de cualquier situación , esta situación debe de no hacer tanto lío, al fin de cuentas es para prevenir la vida de un ser humano, en mi humilde opinión esto seria algo bien, pero siempre y cuando sea algo 100%.

  75. Un gran sector de la población mundial asegura que con tan solo analizar una fotografiara de una persona, se puede saber si esta persona es o sera capaz de cometer un crimen en el futuro. Por otra parte están los que no se encuentran a favor de este tipo de inteligencia artificial ya que después de este avance tecnológico aun no se pueden evitar crímenes que ocurren todos los días. Este tipo de programas aseguran y prometen que pueden anticiparse a muchos actos delictivos pero es que la verdad existen muchas dudas.
    Se supone que el objetivo de este analizáis algorítmico es el sentido común y con que este estudio arroje como resultado un alto riesgo de reincidencia, la autoridad procede a tomar decisiones drásticas en contra de las personas, incluso sin que estos tengan derecho a algún tipo de audiencia, simplemente los condenan sin que ellos tengan la oportunidad de verificar el supuesto resultado del análisis algorítmico.

    Es por esto que, este tipo de practicas se han tornado dudosas porque no siempre se esta en lo correcto y en consecuencia este tipo de inteligencia artificial resulta estar involucrada en temas de “racismo” y de violación de derechos humanos. La verdad es que para un juez es muy complicado tomar decisiones sobre la base de una tecnología, ademas de que el funcionamiento real de este tipo de inteligencia aun no esta claro.

    Es bien cierto que este tipo de software predictivo esta a la alza, pero seria mejor tratar de construir bien las bases de estos sistemas y utilizarlos de alguna manera especifica. Aunque hoy en día traten de implementar la tecnología para poder optimizar la eficacia de la justicia, la verdad es que los resultados están muy por debajo de lo esperado y la autoridad sigue cometiendo demasiadas injusticias. A esta inteligencia artificial le hace falta madurez.

  76. La sociedad en esta apoca de la vida es un poco más sensible a ciertos temas, se vuelve susceptible porque ya se encuentra de cierta manera lastimada, como con el tema del racismo, esto aunado con la tecnología como lo es la inteligencia artificial, considero que puede ser una herramienta a la cual se le puede dar un buen uso, ya que como menciona el artículo, el fin de la inteligencia artificial usada a el reconocimiento facial, puede ayudar en distintas formas como se menciona, como ayudar a atrapar a un delincuente, tal vez eso no es mal intencionado, pero aquí el detalle es como se alimenta la base de datos con la cual se va a hacer este protocolo de investigación, los programadores que dan vida a este tipo de inteligencia, de alguna manera lo programan con los juicios y creencias que se puedan tener, a mi ver la inteligencia artificial es el reflejo de lo que somos los humanos, la transmisión de los prejuicios se debe no solo a los programadores de los sistemas sino a los datos con los que se alimentan y a textos procedentes de las redes sociales, es decir lo que la gente escribe en internet.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.