Facebook está pidiendo públicamente disculpas a todos quienes puedan haberse sentido ofendidos o aludidos ante un terrible error cometido por su mecanismo de inteligencia artificial, que etiquetó como primates a un grupo de hombres negros en un video. Mientras se realizan las investigaciones de rigor, la plataforma ha tenido que desactivar su función de recomendación de temas.
Facebook dijo que revisará lo ocurrido con su IA
El incidente ocurrió el 27 de junio cuando algunos usuarios que vieron el video en conflicto, recibieron un mensaje al final donde se les preguntaba si deseaban continuar viendo videos sobre primates.
Un representante de Facebook ha declarado a los medios para decir que lo ocurrido con el video se trata de un error inaceptable y que la compañía está llevando a cabo una profunda investigación con el fin de evitar que situaciones tan incómodas como ésta puedan repetirse. “Como hemos dicho, aunque hemos realizado mejoras en nuestra IA, sabemos que no es perfecta y tenemos más avances que hacer. Pedimos disculpas a cualquiera que haya visto estas recomendaciones ofensivas".
Lo curioso de todo esto es que persiste la impresión de que algunos mecanismos de inteligencia artificial parecen tener algún tipo de parámetros de discriminación racial puesto que este tipo de problemas no está ocurriendo por primera vez, lo cual no deja de ser paradójico que ocurra en un momento en que varias plataformas han activado una función Modo Seguro para neutralizar exclusiones, discriminaciones, violencia y mensajes de odio. Ya en 2015, Google experimentó un problema similar cuando su IA etiquetó como Gorilas a un grupo de personas de raza negra.
En cuanto a las posibles repercusiones del asunto, en abril de este mismo año, la Comisión Federal de Comercio de Estados Unidos advirtió que las herramientas de inteligencia artificial que han demostrado prejuicios raciales y de género "preocupantes" pueden estar en violación de las leyes de protección del consumidor si se utilizan para la toma de decisiones para el crédito, la vivienda o el empleo.
Dejá tu comentario