Contenidos
¿Qué es Lens, la aplicación de fotos impulsada por inteligencia artificial que revoluciona las redes sociales? Si ha iniciado sesión en una aplicación de redes sociales esta semana, probablemente haya visto fotos de amigos reinventados como princesas de cuentos de hadas, personajes de anime o cuerpos celestes.
Recopilación de información en Lens
Cómo recopilan información de sus hijos pequeños a través de aplicaciones. Todo gracias a Lensa, un programa que utiliza inteligencia artificial (IA), para representar retratos digitales basados en imágenes enviadas por los usuarios.
Los retratos altamente estilizados y llamativos de Lens han arrasado en Internet. Pero también han llamado la atención de expertos en privacidad, artistas digitales y usuarios que notaron que la aplicación aclaraba su piel o adelgazaba sus cuerpos. Aquí está todo lo que necesitas saber sobre Lance.
Cómo consigue tu avatar mágico. Las imágenes que circulan en línea son producto de la función «Magic Avatar» de Lens. Para probarlo, primero descargue la aplicación Lensa en su teléfono. La aplicación también ofrece un servicio de edición de fotos que cuesta $35.99 por una suscripción de un año. Pero puedes probar la aplicación gratis durante una semana.
Hay una tarifa adicional para generar avatares mágicos. Mientras tenga una suscripción o prueba gratuita, puede obtener 50 avatares por $3.99, 100 por $5.99 o 200 por $7.99. Para obtener los mejores resultados, Lens recomienda que los usuarios envíen entre 10 y 20 selfies. La foto debe ser un primer plano de tu rostro con diferentes fondos, expresiones faciales y ángulos. Lensa también requiere que solo las personas mayores de 13 años puedan usar el servicio.
Cómo funcionan las transacciones de inteligencia artificial de Lens
El producto Lensa de Prisma se hizo popular por primera vez en 2016 con una función que permite a los usuarios transformar selfies en imágenes al estilo de artistas famosos. En su política de privacidad, la aplicación explica que utilizan la tecnología TrueDepth de la API, donde las imágenes proporcionadas por el usuario o los «datos faciales» se utilizan para «entrenar a nuestros algoritmos para que funcionen mejor y muestren mejores resultados«.
Probamos la aplicación para ver cómo funciona. Para probar la aplicación, seleccioné 20 selfies que pensé que mostrarían diferentes expresiones y ángulos y seleccioné la opción de 100 avatares. Lens tardó unos 20 minutos en devolverme mi foto de perfil, que estaba agrupada en 10 categorías: Fantasía, Princesa de cuento de hadas, Foco, Pop, Elegante, Anime, Luz, Kawaii, Arcoíris y Espacio.
En general, creo que la aplicación hace un trabajo decente al crear imágenes artísticas basadas en mis selfies. No puedo reconocerme en la mayoría de los retratos, pero puedo ver de dónde vienen.
Reconocimiento impreciso para retratar
Parecía reconocer y replicar ciertas características más que otras, como mi piel pálida o mi nariz redonda. Algunos de ellos tienen un estilo más realista y son tan similares que si los viera desde la distancia pensaría que son realmente mis imágenes. Otros son notablemente más estilizados y artísticos, por lo que me parecen menos específicos.
Para algunas mujeres, la aplicación genera imágenes sexys. Otras mujeres en línea han descrito uno de los problemas que encontré con la aplicación. Si bien todas las fotos que subí estaban completamente vestidas y en su mayoría eran primeros planos de mi rostro, la aplicación devolvió varias fotos con representaciones implícitas o reales de desnudez.
En una de las imágenes más desorientadoras, mi rostro parece estar encima de un cuerpo desnudo. En varias imágenes aparece desnuda pero discretamente cubierta con una manta, o la imagen está recortada para ocultar algo evidente. Muchas de las fotos, incluso cuando estaba completamente vestida, presentaban expresiones faciales sexys, escote prominente y ropa diminuta que no coincidía con las fotos publicadas.
Es increíble, pero no soy la única mujer que ha experimentado esto. Olivia Snow, investigadora del Centro de Estudios Críticos de Internet de UCLA y sádica profesional, le dijo que incluso cuando enviaba fotos de ella cuando era niña, la aplicación devolvía fotos similares de ella desnuda. Ella documentó la experiencia para la revista “Wired”.
Experiencia de los usuarios
Snow dijo que la tecnología de inteligencia artificial como la que usa Lens podría usarse para crear «pornografía de venganza«, la producción de imágenes de desnudos sin el consentimiento de otros. Para Snow, los resultados mostraron que la aplicación tenía una «falta total de moderación de contenido«. También pidió una mayor regulación de las aplicaciones de IA como Lens. Lens no respondió a una solicitud de comentarios sobre la desnudez o las imágenes pornográficas de la aplicación.
Otros usuarios han documentado varios tipos de anomalías en las imágenes de sus lentes, como que los usuarios negros parezcan «desteñidos» y se vean más pálidos de lo que realmente son. Del mismo modo, la autora y activista por los derechos de los gordos, Aubrey Gordon; escribió en su cuenta verificada de Instagram que la aplicación generaba imágenes que la hacían parecer mucho más delgada de lo que realmente era.
«Lensa está literalmente trabajando horas extras para hacerme flaca«, escribió en el pie de foto.
De acuerdo con su política de privacidad, la tecnología de Lens se basa en un modelo de aprendizaje profundo llamado difusión fluida. Stable Diffusion entrenó su IA utilizando una gran red de arte digital extraído de Internet y una base de datos llamada LAION-5B. Actualmente, los artistas no pueden aceptar ni negarse a que su obra de arte se incluya en el conjunto de datos utilizado para entrenar el algoritmo.
Los artistas digitales dicen que la aplicación les ha robado su trabajo.
Reclamos por compensaciones omitidas
Esto ha generado preocupación entre algunos artistas, quienes dicen que Stable Diffusion se basa en su trabajo para crear sus imágenes, pero no reciben crédito ni compensación por ello. A principios de este año, varios artistas se sorprendieron al descubrir que su trabajo se estaba utilizando para entrenar redes neuronales para su distribución permanente sin su consentimiento o pago.
Varios artistas expresaron su preocupación de que las aplicaciones también amenazarían sus medios de subsistencia. Dijeron en ese momento que los artistas digitales no podían competir con los precios bajos y la IA de respuesta rápida que admite retratos digitales.
Prisma, el dueño de la app, está tratando de disipar las preocupaciones de que su tecnología les está quitando el trabajo a los artistas digitales. «Si bien los humanos y la inteligencia artificial aprenden el estilo artístico de una manera casi similar, existen algunas diferencias clave: la IA puede analizar y aprender rápidamente de grandes conjuntos de datos, pero no nota ni aprecia el arte en la misma medida. El arte como humano«. dijo la compañía en una publicación del 6 de diciembre en Twitter. El resultado no puede describirse como una copia exacta de ninguna obra de arte en particular.