La inteligencia artificial reprende a los diputados que miran el móvil: “Querido distraído, céntrese”

La iniciativa del artista visual belga Dries Depoorter pretende llamar la atención sobre los riesgos de la vigilancia masiva y los usos distópicos de la tecnología

Captura de una imagen de la cuenta de Twitter The Flemish Scrollers donde se ve el porcentaje de certeza que tiene el sistema de inteligencia artificial al detectar una cara y un móvil en las manos de cada diputado.
Captura de una imagen de la cuenta de Twitter The Flemish Scrollers donde se ve el porcentaje de certeza que tiene el sistema de inteligencia artificial al detectar una cara y un móvil en las manos de cada diputado.

Los 124 diputados del Parlamento flamenco (Bélgica) tienen una nueva preocupación. El directo de sus plenos se transmite por YouTube y desde el lunes una máquina los vigila: si cogen el móvil, les manda un mensaje abierto por Twitter. Un mensaje que puede ver todo el mundo y que dice: “Querido distraído [nombre en Twitter], por favor céntrese”, junto a un breve vídeo de su “pecado” en la cuenta con el nombre original del proyecto, The Flemish Scrollers (Los flamencos que hacen scroll). El programa es obra de un artista visual belga, Dries Depoorter, especializado en privacidad y en descubrir los usos distópicos a la inteligencia artificial.

“Siempre me ha gustado mostrar el riesgo de la tecnología nueva y cómo nos sentimos ante ella”, dice Depoorter en un mensaje de Twitter a preguntas de EL PAÍS. El objetivo principal de Depoorter no es tanto reprender a los políticos despistados, como señalar los riesgos de los sistemas de vigilancia masiva. De hecho, en las respuestas a su tuit, muchos de los usuarios de la red social expresan su temor a que algo así se instaure como control de la ciudadanía. “Me pregunto si este tipo de cosas alertarán a los políticos de los peligros de la inteligencia artificial (IA) y el reconocimiento facial”, dice Andrew Stroehlein, director de comunicación para Europa de Human Rights Watch.

El software de Depoorter detecta cuando un político coge y mira el móvil desde su escaño, pero no qué mira en el teléfono. Con un poco de análisis de cómo mueve los dedos y dónde miran sería relativamente sencillo intuir qué aplicación usan. “Estoy trabajando en ello”, dice Depoorter. “Twitter e Instagram tienen un movimiento de arriba abajo. Es el siguiente paso y es posible hacerlo, pero debo probarlo. Escribir también puede ser una pista”, añade. Por supuesto dar con quien juega desde el escaño sería aún más fácil. Bélgica vivió también en 2019 un caso similar al de Celia Villalobos con Candy Crush en 2015: en este caso el diputado belga aburrido jugaba a Angry Birds.

El proyecto de Depoorter aún no puede llevarse a otros países con este mismo código porque el artista no lo ha abierto “aún”, según dice. Le ha llevado relativamente poco tiempo, afirma, porque tenía parte del código ya escrito para proyectos anteriores. Aquí el reconocimiento facial es relativamente sencillo. Depoorter ha cargado en el sistema las caras públicas de los diputados desde distintos ángulos. El software descarta, como se ve en la imagen que encabeza el texto, las tabletas y los ordenadores en manos de los diputados porque presume que son más bien herramientas de trabajo. “En teoría pueden tomarse notas en un móvil también”, admite Depoorter.

Más información
Un programa de reconocimiento facial resuelve en segundos un enigma que duraba 15 años
El reconocimiento facial chino llega a las puertas de la Unión Europea

Tampoco está claro que funcione perfectamente en su versión inicial. El proyecto empezó el lunes y detectó al menos a seis políticos con el móvil, pero solo cuatro tienen su correspondiente tuit. Depoorter explicó que cuando no hubiera sesión el programa iría hacia atrás a sesiones anteriores para acumular políticos despistados, pero de momento no lo hace. A preguntas de este periódico, ha dicho que “ya saldrá” y que “mañana [por este miércoles] vuelve a haber sesión y que se pondrá en marcha de nuevo”. Pero de momento sigue clavado en los cuatro tuits iniciales.

Aunque finalmente el proyecto funcione bien, el sistema no podrá crear una clasificación rigurosa de diputados más distraídos porque el plano no es siempre el mismo, con lo que no puede garantizarse que todos los que miran el móvil sean cazados. Este tipo de programas que detectan comportamiento y caras sería fácil de convertir en una herramienta para detectar a alumnos que estén intentando copiar o ladrones que están a punto de llevarse algo del supermercado. Su actitud, si no son extremadamente profesionales, les delataría fácilmente ante una máquina.

Más allá del funcionamiento, el proyecto de The Flemish Scrollers es una etapa en la carrera artística de Depoorter. Algunos de sus proyectos pasados son buenos ejemplos de lo relativamente sencillo que sería ya hoy encontrar realidades distópicas. Entre 2018 y 2021 ha llevado a cabo un proyecto llamado “vigilancia de paparazzis” en el que subió al sistema las caras de 200.000 famosos de todo el mundo y analizó las imágenes de mil cámaras privadas sin protección para ver cuándo esas personas aparecían en tiendas o calles. Era la idea del paparazzi trasladada a todo el mundo.

Uno de sus últimos proyectos es Muere conmigo, una aplicación que pone en contacto móviles a los que queda menos de un 5% de batería y sus propietarios comparten la pena de esos últimos instantes de incertidumbre ante la desconexión.

El mensaje para muchas personas que han visitado esta iniciativa es que los políticos son servidores públicos y lo mínimo que deberían hacer es estar atentos a lo que se cuentan unos a otros en el Parlamento. En este caso, el Parlamento flamenco es uno de los tres hemiciclos regionales que hay en Bélgica.

A pesar de la distopía del proyecto, es interesante la parte de “cómo nos sentimos ante esta nueva tecnología”, en palabras de Depoorter. Viendo la reacción de cientos de personas en Twitter, la conclusión es que estas cosas son maravillosas siempre que afecten a otros. El tipo de respuesta más numeroso al tuit original de Depoorter era una serie de variantes bromistas de esta frase: “Algo así es lo que necesitamos en mi país para controlar a los políticos”.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.

Sobre la firma

Jordi Pérez Colomé

Es reportero de Tecnología, preocupado por las consecuencias sociales que provoca internet. Escribe cada semana una newsletter sobre los jaleos que provocan estos cambios. Fue premio José Manuel Porquet 2012 e iRedes Letras Enredadas 2014. Ha dado y da clases en cinco universidades españolas. Entre otros estudios, es filólogo italiano.

Normas

Más información

Archivado En

Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
Recomendaciones EL PAÍS