Este sitio web le mostrará cómo la IA lo clasifica

Este sitio web le mostrará cómo la IA lo clasifica

Un nuevo sitio web demuestra que es posible que no estemos preparados para saber qué piensa la IA de nosotros.

El proyecto, llamado ImageNet Roulette , permite a los usuarios cargar sus fotos y ver cómo se clasifican sus rostros mediante un software de aprendizaje automático capacitado para identificar a los humanos.

El equipo detrás de ImageNet Roulette dice que el objetivo del proyecto es exponer los muchos problemas con tales clasificaciones, que se basan en conjuntos de datos con 'categorías problemáticas, ofensivas y extrañas'.

'Las clasificaciones de IA de las personas rara vez se hacen visibles para las personas que se clasifican', afirma el sitio web. 'ImageNet Roulette proporciona una visión de ese proceso y muestra las formas en que las cosas pueden salir mal'.

Una vez que los usuarios comenzaron a subir sus propios resultados a Twitter, no pasó mucho tiempo para ver esos problemas.

Muchas fotos de personas negras, por ejemplo, fueron etiquetadas con términos desactualizados y ofensivos como 'Negro' y 'Negroide'. A veces, los términos también se aplicaban a fotos de personas blancas.

De manera similar, el software clasificó al menos a una persona negra como un 'payaso' con maquillaje blanco.

La IA describió a una mujer que subió su propia foto como una niña soltera y probablemente 'virgen'.

La IA clasificó una foto subida por un hombre de su yo de 16 años como 'sospechoso de violación'.

Incluso el candidato presidencial demócrata Joe Biden no estaba seguro. La IA calificó al exvicepresidente como un 'klansman', mientras que el presidente Donald Trump fue catalogado como 'centrista'.

Aquellos interesados ​​en ser asados ​​por AI pueden visitar el sitio y subir una foto o usar su cámara web. Los creadores del sitio afirman que no almacenan ni conservan ninguna de las imágenes subidas.

LEE MAS:

  • California está dando un paso audaz para combatir el uso policial de la tecnología de reconocimiento facial
  • Prohibir el uso del reconocimiento facial por parte de las autoridades, dicen más de 30 grupos
  • Los manifestantes de Hong Kong derriban una supuesta 'torre de reconocimiento facial'