Hazte estas preguntas antes de crear tus Avatares Mágicos de Lensa

Foto del autor

¿Por qué lo hice? ¿Por qué pagué 8 dólares por 50 retratos abstractos, impresionistas y alucinantes de mí mismo? ¿Tan narcisista soy? ¿Lo somos todos?

Nuestro Instagram y otros feeds sociales están actualmente inundados de estas interpretaciones en alta resolución de nuestros rostros y diversas enlacestambién conocidos como Avatares Mágicos. Todos ellos son cortesía de la aplicación Lensa, un motor de generación de imágenes de inteligencia artificial que crea interpretaciones alocadas y a menudo fantasiosas de cualquier imagen que le demos.

Ha habido otras plataformas similares, como Reface, que te permite poner tu cara dentro de fragmentos de películas famosas. Todo el mundo lo hizo durante un tiempo. Me convertí en Tom Cruise (se abre en una nueva pestaña).

La aplicación era gratuita (con un montón de anuncios, si no recuerdo mal) y al final todos decidimos que tal vez no era tan buena idea subir nuestras imágenes a algún desarrollador de aplicaciones rando.

Lensa llena ese espacio, pero con un producto que casi te exige que pagues por él, primero con una venta agresiva de una costosa cuota de suscripción y luego, más informalmente, con una oferta de pago por lote de imágenes.

Lo que me sorprende es la cantidad de gente que paga para que sus imágenes sean digeridas y luego escupidas como sorprendentes obras de arte de IA. El FOMO es tan fuerte aquí que todo el mundo (incluso este periodista ahora avergonzado) está sucumbiendo. Mi hijo adulto se gastó casi 15 dólares por un lote de imágenes de su novia.

No estoy orgulloso

¿Por qué lo hice? Por dos razones. Me cansé de ver los avatares de Lensa Magic de otras personas en mi feed y también necesitaba algo nuevo para Instagram. Soy un poco así con mis feeds sociales, siempre intentando mantener el tubo lleno por razones que apenas puedo explicar aquí.

Añadir mis imágenes de IA a la creciente legión de majestuosos retratos generados por Lensa en Instagram no fue difícil. La aplicación está disponible gratuitamente en iOS y Android. Al abrirla te presenta una oferta de suscripción de 49,99 dólares que puedes «cancelar cuando quieras». Personalmente odio las aplicaciones de este tipo, las que se burlan de ti con una función increíblemente genial pero exigen pagos exorbitantes en efectivo por adelantado (puede que también sea tacaño).

Como muchas otras aplicaciones, la suboferta es una especie de fachada. Si la ignoras, la aplicación te lleva inmediatamente a la sección de pago por juego, donde puedes comprar entre 50 (7,99 $) y 100 (14,99 $) avatares mágicos generados por la IA sin suscribirte a nada.

No recuerdo la última vez que pagué 8 dólares por el privilegio de usar una sola función de la aplicación, pero así eran los cantos de sirena de esos hermosos retratos. Racionalicé el coste en mi cabeza: «Vamos, pagarías eso por dos donuts de Krispy Kreme y un agua», que es algo que sí compré la semana pasada.

Después, la aplicación te pide que subas entre 10 y 20 imágenes tuyas en diferentes poses y con distintas expresiones. Decidí echar un vistazo a la carpeta «Selfies» de mi iPhone, donde encontré un montón de fotos apropiadas. Subí un lote, pero Lensa rechazó algunas por inutilizables (no decía por qué), así que seleccioné algunas más. En retrospectiva, debería haber elegido muchas menos fotos de perfil e imágenes en las que apareciera poniendo caras tontas. Como ocurre con la mayoría de los sistemas de imágenes de IA, uno obtiene lo que pone en Lensa.

En general, estoy satisfecho con los resultados (puedes ver algunos ejemplos más arriba), pero me sentí un poco incómodo, como si hubieran jugado conmigo. Debería haber hecho algunas preguntas, muchas de hecho, antes de subir mis fotos.

Un día después de que Lensa me entregara 50 imágenes 4K de IA (permanecen en la aplicación, pero puedes descargar tus favoritas en resolución estándar o 4K), envié al desarrollador de Lensa, Prisma Labs, una lista de preguntas:

  • ¿Guardáis las fotos que os suben? Si es así, ¿están encriptadas?
  • ¿Cuándo has lanzado la parte del Avatar Mágico?
  • ¿Cómo se utiliza exactamente la IA para generar las imágenes?
  • ¿Cuántas personas han subido sus imágenes?
  • ¿Por qué cobráis por adelantado la cuota de suscripción cuando la gente puede pagar 7,99 $ por 50 imágenes?
  • ¿Cómo se abordan las preocupaciones sobre las imágenes de las personas que se cargan sin su permiso?
  • ¿Ha oído hablar de que algunas se utilicen para generar contenidos para adultos?

En cierto modo, se podría tomar cualquiera de estas preguntas -o todas- y aplicarlas prácticamente a un sistema de generación de imágenes por IA. Aunque todos estos sistemas de IA son apasionantes, parecen cajas negras. Para algunos, simplemente introducimos instrucciones de texto, pero seguimos sin entender cómo generan arte.

El trabajo pesado de los avatares mágicos de Lensa, por ejemplo, corre a cargo de la plataforma de generación de imágenes de código abierto Stable Diffusion, una de las muchas que han sido acusadas de apropiarse del trabajo de los artistas. (se abre en una nueva pestaña) para entrenar su modelo de IA.

Pero ésa es sólo una de mis preocupaciones. Otra es qué ocurre con las imágenes que tan voluntariamente le proporcionamos. ¿Cómo sabemos, por ejemplo, que las imágenes que subimos no se utilizan para seguir entrenando a la IA? No veo la forma de excluir esa posibilidad.

Tampoco hay avisos que adviertan de que no se debe subir la imagen de alguien sin permiso. He oído informes de que algunas personas están utilizando el sistema para generar imágenes pornográficas de personas desprevenidas. (se abre en una nueva pestaña) sin su consentimiento.

¿Dónde van nuestras imágenes originales cuando el trabajo de Lensa termina? Sin información que prometa que Lensa las borrará, debo suponer que las guardarán todas en un archivo. Sólo podemos esperar que al menos estén encriptadas.

Prisma Labs responde

Tengo buenas noticias. Aunque Prisma Labs no incluye mucha de la información que considero necesaria en su aplicación y no ha respondido directamente a mis preguntas, me ha remitido a una voluminosa sección de preguntas frecuentes. (se abre en una nueva pestaña) que aborda algunas de estas preocupaciones.

En cuanto a la pregunta de qué hace Lensa con nuestras imágenes, Prisma Labs escribe que se borran de los servidores de Prisma Labs una vez finalizado el procesamiento. Sin embargo, el FAQ también contiene este lenguaje:

«Almacenamos los avatares durante el tiempo necesario para prestar el servicio a nuestros usuarios. Por favor, ten en cuenta que una nueva función, que permitiría a los usuarios borrar permanentemente sus avatares de nuestros servidores, está actualmente en proceso.»

Dicho de otro modo, tus fotos originales han desaparecido, pero ¿las imágenes que creó Lensa? Prisma Labs todavía las tiene. Por cierto, no se menciona la encriptación de datos.

Las FAQ no abordan consideraciones sobre la propiedad de las imágenes: La imagen que subas debe ser tuya o de alguien a quien tengas derecho a acceder. Sí aborda las imágenes «sexualizadas», pero principalmente la tendencia de la IA a sexualizar a los personajes femeninos. Y lo que es más importante, Prisma Labs añade: «El uso intencionado de la aplicación para crear contenido explícito está absolutamente prohibido por nuestras Condiciones de Uso y obliga a los usuarios de Lensa a cumplir ese requisito.»

No está claro cómo Prisma Labs está vigilando esa regla en particular y, aún menos útil, Prisma Labs añade esta nota: «Desafortunadamente, todos estos esfuerzos aún no han hecho que la IA esté absolutamente a salvo de contenido sesgado e imágenes explícitas. Por lo tanto, estipulamos que el producto no está destinado al uso de menores y advertimos a los usuarios sobre los riesgos potenciales del contenido.»

No puedo decirte legítimamente que no pruebes la aplicación, sobre todo después de haberlo hecho yo. Sin embargo, antes de hacerlo, asegúrate de que te sientes cómodo con las respuestas (y la falta de respuestas) de Prisma Lab a cualquiera de estas preguntas.