Las tendencias racistas dela inteligencia artificial

El primer concurso de belleza juzgado por sistemas de inteligencia artificial ha desatado una gran controversia: casi ninguno de los vencedores elegidos por los robots era de raza negra.




egún sus creadores, la aplicación Beauty AI utilizó factores objetivos, como la cantidad de arrugas y la simetría facial, para identificar a los concursantes más atractivos de un certamen internacional de belleza.

Sin embargo, el resultado de la competición sorprendió a todos. De los 44 ganadores, prácticamente todos eran blancos. Aunque algunos vencedores poseían orígenes asiáticos, apenas uno tenía la piel oscura, reveló The Guardian. Pese a que la mayoría de los participantes era blanca, grandes grupos de personas de la India y de África también se inscribieron en el certamen.




El algoritmo del sistema de inteligencia artificial, creado por la empresa Youth Laboratories con apoyo de Microsoft, usó una gran base de datos fotográficos para evaluar la belleza de los concursantes.





Aunque el Beauty AI no haya sido programado para favorecer a los candidatos blancos, los datos usados para establecer los 'estándares' de belleza no incluían muchos representantes de minorías raciales, reconoció Alex Zhavoronkov, director del proyecto. De esta manera, los robots -jueces llegaron a la conclusión de que la belleza estaba asociada a las pieles de color más claro.


La falta de neutralidad de los algoritmos se debe a que los seres humanos que los programan tienen sus propios prejuicios. O sea, pese a la idea de que los algoritmos son neutrales y extremadamente objetivos, a menudo pueden reproducir y amplificar prejuicios existentes en la sociedad.

Activistas sociales señalan que la creciente utilización en nuestra vida diaria de sistemas de inteligencia artificial, algunos posiblemente cargados de prejuicios, puede tener consecuencias devastadoras para los representantes de las minorías raciales. Por su parte, Zhavoronkov afirmó que el algoritmo de Beauty AI sufrirá una serie de cambios con el objetivo de eliminar los resultados discriminatorios en la próxima versión del concurso, que se llevará a cabo en los próximos meses.