Midjourney recientemente lanzó una actualización de software que resuelve, en gran medida, los errores que tenía dicha IA a la hora de producir imágenes con manos. Este cambio podría suponer una amenaza a la información veraz.
A mediados de marzo, Midjourney lanzó una nueva actualización que es capaz de generar mejores imágenes de manos humanas. Junto con este refinamiento de la tecnología surge un nuevo problema: Los deepfakes aumentan también su veracidad.
Dentro del universo de las inteligencias artificiales hay un gremio que se dedica estrictamente a la generación de imágenes. Tras introducir un prompt, un concepto o descripción sobre la imagen que deseamos obtener, la IA generará distintas versiones de la imagen descrita. Este proceso se consigue combinando millones de referencias disponibles en Internet, que serán utilizadas por la IA en función del texto que las acompaña en su fuente original.
Las imágenes generadas artificialmente han causado revuelo entre el público, pues no solo están espectacularmente conseguidas, sino que a veces incluso parecen reales. Sin embargo, hay un aspecto que hasta ahora la tecnología no había logrado cubrir.
El talón de Aquiles de las inteligencias artificiales
Dibujar manos es uno de los grandes desafíos que deben superar los artistas, y al parecer, la inteligencia artificial heredó dicha prueba. El problema parece residir en que las manos que aparecen en el banco de imágenes que alimenta al generador a menudo están gesticulando, en segundo plano o se muestran sólo parcialmente. En consecuencia, la IA literalmente no tiene claro cómo se ven las manos.
Al contrario de lo que podría parecer, el hecho de que las imágenes generadas por IA tuvieran aproximadamente cinco dedos, y solo aproximadamente, era una buena noticia. Esto nos permitía diferenciar rápidamente la autoría de la imagen y su veracidad. Pero a mediados de marzo, Midjourney, una de las IAs generadoras de imágenes más populares, tuvo una actualización de software que aparentemente resolvió el problema. Esta mejora trae consigo un gran problema: Los deepfakes son aún más perfectos.
El brillante futuro de los deepfakes
En el pasado las manos deformes eran uno de los indicadores más accesibles para que el público reconociera que una imagen era falsa, y con esta actualización este indicador parece evaporarse. Twitter no tardó en ejemplificar el desafío que supondrán a partir de ahora los deepfakes hiperrealistas: Fotos generadas por IA de Trump siendo arrestado se viralizan.
Si bien todavía algunas de las imágenes fabricadas tienen manos particularmente especiales, el número ha disminuido significativamente. Midjourney se ha negado a responder preguntas sobre esta actualización, pero es posible que simplemente hayan refinado su banco de imágenes con mejores apariciones de manos, o incluso que el algoritmo haya sido modificado para priorizar aquellas imágenes con las manos más legibles.
En cualquier caso, y como se aprecia en la imagen superior, aún nos quedan un par de pistas para diferenciar si una imagen es fraudulenta o no, solo hay que saber buscar en el fondo de la imagen.
Imagen destacada original de @ELIOTHIGGINS/TWITTER