Los infalibles algoritmos que utilizan compañías como Google , Facebook o Apple, también fallan. Cada vez son más los sistemas automáticos que se ofrecen a los usuarios, y el etiquetado automático puede dar lugar a graves problemas como el que ha sucedido con Google Fotos, que de forma inevitable ha ofendido a los usuarios de piel negra. La compañía de Mountain View se ha disculpado por los errores en el etiquetado automático de su servicio de fotografías.
Llevamos año conviviendo con ellos, los sistemas de etiquetado automático de fotografías, pero con Google Fotos la compañía de Mountain View ha insistido en ir un paso más allá. La herramienta de fotografías online Google Fotos, de forma automática, analiza el contenido de nuestras fotografías para etiquetarlas en diferentes categorías. ¿Sales mucho de fiesta? Pues todas tus fotografías deberían quedar, por sí solas, etiquetadas bajo la categoría “Discoteca”. Pues bien, con los animales ocurre lo mismo, y Google tiene categorías como “perros”, “gatos” y “gorilas”. Aquí, el grave error.
Usuarios con piel negra han podido ver cómo sus fotografías quedaban etiquetadas bajo la categoría “gorilas”, una asociación que la herramienta hace de forma automática por un error que no ha agradado a nadie. La compañía de Mountain View ha respondido de forma rápida disculpándose por este problema que, evidentemente, no se puede tachar de racismo teniendo en cuenta que funciona de forma automática, sin intervención humana, pero que ha ofendido a millones de usuarios en todo el mundo.
Ahora bien, no debemos olvidar que un error anterior en Google Fotos dio lugar al etiquetado de personas bajo la categoría “perros”. ¿A quién ofendió este error? En realidad, ni siquiera llegó a salir a la luz, sino tan solo en algunos medios que se lo tomaron con humor. Y es que, en este caso anterior, eran usuarios de todas las razas.