Las políticas de uso de Instagram son claras, no se pueden colgar pezones excepto si es en un contexto de maternidad y lactancia. Justamente, alrededor de ese contexto el diseñador Javier Jaén trabajó y creó el póster de ‘Madres Paralelas’, la nueva película del cineasta español Pedro Almodóvar.
Sin embargo, el pasado 9 de agosto, Instagram censuró el afiche que Jaén compartió y en el que aparece el pezón de una mujer, goteando leche materna, enmarcado en un ojo. La publicación estuvo acompañada de un texto en el que decía que se sentía feliz de compartir el póster del filme.
La absurda censura de Instagram ha abierto nuevamente el debate sobre el papel tutelar que están adquiriendo los algoritmos en la vida cotidiana, pero también en cómo están afectando a los consumos culturales en el siglo XXI.
¿La imagen que forma parte del póster creado por Jaén es pornográfica? La respuesta obvia es que no; la inteligencia artificial (IA) no tiene la capacidad de diferenciar entre una imagen erótica y una que realmente atenta contra la honra y los derechos de otras personas.
Está claro que la revolución digital protagonizada por la inteligencia artificial es irreversible y en ese contexto hay dos caminos: estigmatizar a los algoritmos, o tratar de entender su funcionamiento; no con el propósito de justificar sus decisiones, sino para tender puentes que logren una mejor convivencia entre la IA y la sociedad moderna.
Una de las personas que más ha reflexionado sobre estas relaciones es Marcus du Sautoy (Londres, 1965). Este matemático y catedrático en Oxford es el autor de ‘Programados para crear’, un libro en el que señala que si queremos entender cómo funcionan los algoritmos que controlan la vida moderna necesitamos comprender las reglas matemáticas que los sustentan.
En este punto de la historia, esta tarea parecería que no solo está destinada a los científicos, sino a todas las personas que de alguna forma tienen la capacidad de influir en las decisiones de los demás, a gran escala, como ya lo han hecho los políticos y marketineros.
Asimismo, en este libro Du Sautoy muestra su interés por pensar sobre los avances de la inteligencia artificial en el mundo de los museos, las galerías de arte, las salas de conciertos y las editoriales, espacios que quizás se han convertido en los últimos lugares-tras el vuelco tecnicista de las universidades- en los que se puede palpar el humanismo y el espíritu crítico.
¿Cuánto de humanismo o espíritu crítico hubo en el algoritmo de Instagram que censuró el afiche de Jaén? El diseñador español ha dicho en varias entrevistas que le parece un mecanismo de censura sexista y machista, que está tratando el tema de la maternidad como algo pornográfico y sexualizado. “Partiendo de la base de que la sexualidad o el erotismo no tienen nada de malo, creo que estamos hablando de la imagen menos erótica del mundo”, le dijo a un periodista del periódico El País.
Por su parte, Almodóvar dijo, a través de un comunicado, que hay que estar alertas antes de que las máquinas decidan qué podemos hacer y qué no podemos hacer. “Siempre he confiado en la amabilidad de los desconocidos, pero siempre que sean humanos, y un algoritmo no es humano. Por mucha información que posea el algoritmo, nunca tendrá corazón ni sentido común”.
El director español también habló sobre la necesidad de debatir la visión que tiene la sociedad sobre un pezón femenino y sobre las mentes que hay detrás de un algoritmo que decide qué es y qué no es obsceno y ofensivo para los demás.
Este tipo de censuras en Instagram no son nuevas. El año pasado, la red social eliminó una serie de fotografías artísticas de la modelo Nyome Nicholas-William en la que aparece con el torso desnudo y abrazando sus propios pechos.
Tiempo después, Instagram respondió con una declaración pública. Una vocera de explicó que el algoritmo de censura que usan tiene una categoría específica: imágenes en las que alguien se aprieta o exprime los pechos y que en este caso había funcionado “mal”, porque no había discernido que esas fotos eran de autoexpresión y no imágenes provocadoras o pornográficas.
Asimismo, está el caso de censura por parte de Facebook e Instagram a los desnudos artísticos de las obras de Antonio Canova, escultor y pintor italiano, considerado uno de los máximos exponentes del neoclasicismo en escultura. Vittorio Sgarbi, presidente de la Fundación Canova de Possagno, ha hecho público el malestar que hay al interior del Museo de Canova y se ha preguntado qué deben hacer: cerrar o revestir las esculturas.
En medio de este contexto, científicos como Kai-Fu-Lee, autor del ensayo ‘AI Superpowers: China, Silicon Valley and the New World Order’, hablan de que entender cómo funcionan los algoritmos no es suficiente y plantea la necesidad de crear un nuevo contrato social, porque finalmente los algoritmos que está usando la IA están modificando el presente y el futuro de toda la sociedad.
Mientras ese momento llega, hay movimientos como ‘Free the nipple’ (Liberen el pezón), que se han propuesto luchar contra la censura de los pezones femeninos en redes sociales como Instagram. Finalmente, frente a los absurdos impuestos por los algoritmos siempre quedará el humanismo, el espíritu crítico y esos pequeños actos de disidencia.