Tecnología

Facebook censuró una foto de cebollas porque las confundió con un cuerpo desnudo

El algoritmo de Facebook que se encarga de aprobar los anuncios creyó que las hortalizas fotografiadas con “contenido sexual sugerente” y eliminó el contenido.

¿Qué tienen en común un conjunto de cebollas y un cuerpo humano al desnudo? La respuesta debería ofrecerla Facebook, cuyo sistema de reconocimiento automático de imágenes censuró por error una fotografía que mostraba esas hortalizas por considerar que su contenido era “sexualmente sugerente”.

La “víctima” de este error fue The Seed Company, una empresa canadiense fundada en 1925 que comercializa semillas de flores, fertilizantes, suministros para jardinería y vegetales. Tal como cuentan en Business Insider, aquel negocio recibió un aviso de la red social indicando que uno de sus anuncios había sido eliminado de la plataforma.

Tal como señalamos, la publicidad mostraba cebollas y el sistema de reconocimiento de imágenes que emplea Facebook las confundió con un cuerpo desnudo. En su advertencia, la compañía estadounidense notó que el posteo incluía contenido “abiertamente sexual” y que en la plataforma “no se pueden posicionar productos o servicios de una manera sexualmente sugerente”.

La rectificación de Facebook

Luego del insólito yerro (que como veremos más adelante no es el primero de esta índole), desde la red social dirigida por Mark Zuckerberg informaron que restablecieron el anuncio de las cebollas, tras una revisión realizada por empleados de carne y hueso. En la movida explicaron que el error lo cometió la tecnología de moderación, que emplea inteligencia artificial para reconocer en forma automática contenido inapropiado, como desnudez.

“Usamos tecnología automatizada para mantener la desnudez fuera de nuestras aplicaciones (…) Restauramos el anuncio y lamentamos los problemas generados”, explicaron desde Facebook.

Un historial de confusiones de las redes sociales

Según recuerda la fuente, en 2018 los sistemas automatizados de Facebook eliminaron una publicación con extractos de la Declaración de Independencia de Estados Unidos por considerar que contenía discurso de odio. Aquel error y el de las cebollas, no serán los últimos en los que caerán este tipo de mecanismos.

El historial es extenso, insólito y con ciertos matices cómicos. En 2016, el algoritmo de Instagram eliminó la foto de una torta (podés verla en el siguiente tuit) al confundirla con un seno femenino.

En este recorrido, fue célebre la movida #ToSexyForTumblr a fines de 2018, cuando esa plataforma incluyó un sistema automático para identificar desnudos e imágenes explícitas. El problema fue que la tecnología que emplearon cometió muchos errores y los usuarios se volcaron a Twitter para dejarlos en evidencia. Desde la censura de una imagen con muñecos de plástico (Tumblr los confundió con escenas de desnudo), hasta el bloqueo del simple dibujo de una princesa.

Similar a las explicaciones de Facebook, desde Tumblr reconocieron que «el algoritmo no es perfecto y que en adelante emplearían un sistema mixto de revisión automática y humana.(TN)

Dejanos tus comentarios!


Etiquetas


Publicaciones relacionadas

Botón volver arriba
Cerrar