Las fake news han revolucionado la dinámica de información en Internet. Ahora que existe la duda razonable sobre cualquier información, le ha llegado el turno a la posibilidad, real, de generar rostros que de personas que no existen a partir de información (fotografías) de personas reales. Estos rostros generados con IA pueden utilizarse para incrementar el alcance de las noticias falsas y engañosas.
¿Cómo se generan rostros a través de IA?
¿Cómo se consigue que un algoritmo genere una imagen tan realista que pueda pasar por ser el rostro de una persona de carne y hueso? Los desarrolladores utilizan un algoritmo de inteligencia artificial al que denominan Redes de Confrontación Generativa (GAN).
Uno de los proyectos que más impacto ha causado ha sido el promovido por NVIDIA, que proyectó en un vídeo para demostrar su investigación sobre la generación de rostros falsos a través de IA. Cada uno de estos retratos requirió miles de fotografías de rostros donde el algoritmo, según lo programa el experto, va identificando patrones y marcadores faciales que se trasladan al nuevo rostro.
¿De dónde se obtienen ese banco de imágenes sobre el que el algoritmo pasa y aprende los rasgos que le determina el programador?
Rostros generados con IA a través de lo que cuelgas en redes sociales
¿Lees la política de privacidad y cómo gestionan los derechos de los contenidos que publicas en redes sociales? En esta debilidad del usuario reside el mayor repositorio de recursos para las empresas de IA aplicada al desarrollo de dispositivos biométricos.
Si el 80% de los españoles cuenta al menos con una red social (incluido Whatsapp como tal). Una gran parte de estos usuarios sube con regularidad fotografías propias, y todo ello de forma pública y al alcance de cualquiera.
Por ahora, se sabe que algunas empresas de generación de rostros con IA (inteligencia artificial) están utilizando dichas fotografías para el entrenamiento de sus sistemas de reconocimiento y diseño de rostros nuevos a partir de los existentes. Y lo hacen con la aprobación del propio usuario.
Así se crean rostros de personas que no existen
Estos GAN se componen de dos variables: las redes neuronales generadoras y las discriminatorias. Las primeras, absorben los parámetros válidos del rastreo de la fuente para la generación del rostro; por su parte, la discriminatoria, pule y elimina aquello que puede colarse. Para que el lector lo comprenda, puede pensar en un escultor: trabaja con una base en bruto, y sobre ella, va eliminando lo que no necesita para crear su obra de arte.
El resultado de las GAN son rostros extraodinariamente realistas pero que no corresponden a personas de carne y hueso.
Las dos caras de cómo aplicar la tecnología IA
Con la exposición pública de esta tecnología, resurge el debate sobre el uso ético de dicho desarrollo tecnológico, que no deja de ser un avance para la ciencia y la tecnología, frente a los potenciales usos fraudulentos que se le pueden dar.
Por ejemplo, en el caso de vídeos virales sobre algunos actores y personas públicas que parecen estar en un entorno no habitual; en realidad no están allí, sino que son frutos de la manipulación intencionada de los difusores de noticias falsas. Con ello, se puede hundir la reputación de una persona, o crear estados de opinión y comportamientos dirigidos.
Por otra parte, dicha IA ya se está aplicando al sector de los videojuegos, en tanto que aporta a los gráficos un realismo extremo. También la medicina está interesada en los usos para investigación que se pueden implementar de esta tecnología.
La nueva carrera tecnológica entre gigantes
Actualmente, Nvidia no es la única empresa volcada en las posibilidades de las GAN para crear rostros generados con IA . Se sabe que tanto Google como Facebook, dos de los grandes gigantes tecnológicos, tienen equipos investigando y diseñando algoritmos para crear sus propios rostros generados con IA.
La evolución lógica parece conducir no solo al desarrollo de rostros falsos sino cuerpos enteros o escenarios completos, lo cual resulta fascinante en un sentido y aterrador en el más perverso de los puntos de vista.
