Acusan a una AI de Google de racismo

En 2015, Google recibió una lluvia de críticas después de que uno de sus algoritmos de reconocimiento de imagen confundiera fotos de gorilas y chimpancés con seres humanos. La compañía prometió solucionar el error. Dos años después, ya sabemos cómo lo ha hecho. Ha prohibido las fotos de gorilas.

Esa es la conclusión a la que llegaron en la revista Wired después de poner a prueba el algoritmo supuestamente reprogamado para evitar errores.

Efectivamente, la IA es perfectamente capaz de etiquetar animales como los babuinos, los osos panda, o los gibones, pero cuando se le ofrece una foto de un gorila o de un chimpancé, no ofrece ningún resultado.

La propia compañía reconoció que había eliminado esos conceptos del algoritmo para evitar problemas, y añadió que desgraciadamente las IA aún están lejos de ser perfectas y cometen ese tipo de errores.

Eliminar el concepto de gorila de la IA en lugar de enseñarle a reconocer ese animal correctamente no parece una solución muy equilibrada. De hecho, algunas aplicaciones como Google Lens se resienten de ese problema. Google Assistant, que emplea otros mecanismos de búsqueda funciona bien en ese sentido.

Fuente EP Mundo Gizmodo
Cargando...
Cargando...