Facebook bloqueó automáticamente un anuncio de una empresa canadiense que mostraba una cesta de cebollas al confundirlas con tetas femeninas, así se puede confundir a la inteligencia artificial
Una queja habitual entre los usuarios de Facebook desde hace unos años ha sido que la plataforma censuraba desnudos artísticos o pezones, aunque solo los femeninos. Ha llegado a bloquear obras de arte incluyendo cuadros, estatuas, y también fotografías de mujeres amamantando por ser imágenes “explícitamente sexuales” según sus políticas.
Facebook, con más de 2.700 millones de usuarios activos, solo intenta evitar que la red se inunde de imágenes eróticas o pornográficas, pero termina por borrar otro tipo de contenidos que no tienen nada de obsceno.
En 2011 la red social cerró la cuenta a Leslie Power, una psicóloga chilena que había subido a su perfil una fotografía suya dando el pecho a su hija. Le llegó un mensaje que decía que había subido una foto “que atentaba contra personas y colectivos”.
Después del revuelo y de la avalancha de quejas de otras mujeres que denunciaron que la plataforma relacionaba la lactancia con algo obsceno, Mark Zuckerberg se comprometió no solo a no prohibir este tipo de imágenes, sino a promover su visibilidad. Aunque sus condiciones han mejorado, Facebook sigue borrando contenidos completamente inocentes de la plataforma. Pero la censura no la ejercen los empleados de Facebook.
Algoritmos, no censores
Detrás de la censura de los contenidos en Facebook no hay un equipo de inquisidores bloqueando compulsivamente las fotos de los usuarios que atentan contra la moral. En su lugar, Facebook tiene un sistema de inteligencia artificial que se encarga de analizar los contenidos de forma automática, según las políticas y condiciones de la compañía, y de borrar cualquiera que supuestamente vaya en contra de ellas. Sin embargo, los algoritmos a veces se equivocan.
Esto es lo que le pasó recientemente a The Seed Company, una compañía canadiense con perfil en Facebook que comercializa semillas y hortalizas. Descubrieron que la compañía de Zuckerberg había censurado uno de sus anuncios por inapropiado. El anuncio mostraba una cesta de cebollas de la variedad Walla Walla. Al parecer, las redondeces sugerentes, la posición y el color de los bulbos confundieron al algoritmo.
En The Seed Company se lo tomaron con humor y pidieron a los responsables de la plataforma que revisaran el anuncio. Sin embargo, la red no hizo caso de las reclamaciones de la empresa y el anuncio siguió bloqueado por anunciar productos en “posiciones explícitamente sexuales”, así que contaron su historia a los medios canadienses. La historia se hizo viral en todo el mundo en poco tiempo y Facebook tuvo que restaurar el anuncio.
Meg Sinclair, responsable de comunicación de Facebook Canadá, se disculpó: “Usamos tecnología automatizada para evitar los desnudos en nuestras aplicaciones, pero algunas veces ésta no distingue entre una cebolla Walla Walla y una… bueno, ya saben”.
Con suerte, los responsables de Facebook han tomado nota de un error de su algoritmo para mejorarlo y que no confunda más alimentos con partes del cuerpo humano.
