Normalmente he estado escribiendo mucho a favor de la inteligencia artificial y desde un punto de vista muy positivo. Pero hoy toca ver sobre sus peligros.
La inteligencia artificial generativa tiene el potencial de revolucionar muchos campos, desde la creación de contenido hasta la optimización de sistemas empresariales. Sin embargo, como con cualquier tecnología poderosa, también hay peligros potenciales asociados con su uso.
Generación de imágenes por inteligencia artificial
Los avances tecnológicos de los que voy a hablar a continuación han surgido al público en cuestión de meses. Hay semanas incluso en las que los cambios son muy significativos.
Ya se puede crear arte con inteligencia artificial: tu le dices lo que quieres y el modelo genera la imagen que le pediste. El otro día le había pedido a un robo bonito confundido en medio de una casa de bolsa en Wall Street y esta es una de las respuestas que me dio usando Dalle.
En las últimas semanas se han presentado mejoras importantes que permiten reducir los costos de la generación de imágenes personalizadas. Esto ha abierto la puerta a la creación de aplicaciones que en pocos clics generan imágenes a partir de las fotos de las personas.
La aplicación más popular ha sido Lensa. Descargas la aplicación, subes de 10 a 20 fotos tuyas, pagas $3.99 USD, esperas un par de horas y recibes imágenes tuyas cómo si las hubiera hecho un artista profesional.
Hay una cierta probabilidad de que recibas algunas imágenes raras. He hecho este tipo de imágenes en las que acabo recibiendo imágenes con dos cabezas, con tres brazos o cosas cómo está imagen de AMLO con una mano súper rara que fue lo mejor que pude hacer para el post sobre el voto electrónico.
Yo no he usado Lensa y no lo voy a hacer. Probablemente si me haga mis imágenes en IA, pero las haré con el modelo directo de Stable Diffusion montado en un GPU que espero me alcance a correr en Google Colab. Probablemente haré ese post y tutorial en el futuro.
Se supone que la app borra tus fotos
La verdad es que no hay forma de saber si tus fotos de verdad se borran de los servidores una vez la aplicación termina de hacer tus avatares.
Si no es verdad, aunque confiemos en la compañía que hizo la app, existe el riesgo de que alguien logre hackear esos servidores y almacene las fotos. Con tu foto y tu nombre hay miles de formas creativas de cometer fraudes en tu nombre o extorsionar a tu familia.
Si la empresa mantiene bases de datos con las fotos que subes y estás son hackearas, tus fotos podrían ser utilizadas para
- Ser vendidas a otras compañías
- Publicidad dirigida
- Cometer actividades ilícitas
Ok, digamos que tus imágenes están seguras en la aplicación. Hay otros problemas que vienen directo de las redes sociales.
Crímenes que aprovechan la Inteligencia Artificial (y la estupidez natural)
Todos los días millones de personas suben fotos personales a las redes sociales. Nunca ha sido gran idea, pero ahora la situación puede ser más compleja. Freddie Vega planteó esta serie de situaciones muy plausible en el futuro.
Son historias de extorsión, de engaños y de total abuso de las herramientas que están apenas saliendo. Todos son escenarios que pueden pasar y que van a pasar si no empezamos a pensar en ellos y a regularlos.
El negocio de las extorsiones con IA se van a volver una pesadilla. Sobre todo en países como México, donde es una industria ya con mucha experiencia y que no ha sido aplacada de ninguna manera. También el ciberacoso es de preocupar, sobre todo por lo difícil que es hacer llegar información para su protección a muchos sectores de la población.
Cero crédito a los artistas, cero piedad
Hay algo que se vuelve cada vez más evidente: el modelo de inteligencia artificial se entrenó con imágenes hechas por artistas reales y que reflejan sus propios estilos.
Esto naturalmente está despertando un absoluto rechazo por aquellos que se dedican al arte y temen por perder sus empleos. No es para menos, pues una habilidad que toma años desarrollar no puede compararse con lo que una computadora está generando en minutos o segundos. Todo ese dinero que las personas están usando para hacer sus retratos es el mismo que le negaron por años a artistas que ponen horas de su trabajo y esfuerzo para crearlos. Hablé a fondo sobre este tema en algunos posts previos sobre este tema.
El tema es complejo, pero como economista no veo la forma en la que se pueda ya dar marcha atrás: la tecnología nueva ha demostrado rápidamente que está dando mucho valor por mucho menos dinero.
Si esto es verdad, entonces lo que toca es ver hacia el futuro. Y es que estos modelos necesitan alimentarse de imágenes hechas por artistas humanos para crear. No es posible decirle (hasta el momento) decirle que invente un nuevo estilo revolucionario, pues no es capaz de entender la forma en que funciona realmente el arte (y muy pocos humanos lo entendemos, me incluyo entre los que no tiene idea).
- Los repositorios de arte como los conocemos han muerto. Los artistas no van a estar ya dispuestos a regalar su arte para que sea usado por una Inteligencia Artificial. Antes este modelo era factible porque los artistas regalaban su arte con la esperanza de ser descubiertos y contratados para crear cosas más personalizadas.
- Por lo tanto, los repositorios del futuro le tienen que pagar a los artistas por lo que propongan y todo dependerá del hambre que el público tenga por algún estilo de arte.
- Funcionaría algo así: las empresas tipo GPT3 analizan los prompts en busca de huecos de estilo o de imágenes con alta demanda. Por ejemplo: supongamos que se ponen de moda las pinturas al óleo de mapaches tocando el piano (por alguna razón) en el estilo del renombrado artista Juan Camaney. Si el modelo detecta estos huecos entre oferta y demanda, entonces tanto las imágenes de mapaches tocando el piano como las imágenes hechas por Juan Camaney van a subir de precio. Los artistas, especialmente Juan Camaney, se benefician del nuevo modelo de negocio.
- El arte siempre ha sido un negocio con efecto rockstar: muy pocos artistas tienen la mayor parte de las ganancias y las migajas se las queda el resto. Espero un fenómeno aún más intenso con este tipo de modelos de negocio: sólo si tu estilo está siendo demandado es que tienes esperanza de obtener pago. Lo mencioné en el post sobre el futuro del arte que existen algunos huecos que la AI no puede llenar: yo comenzaría enfocándome en eso.
- Los humanos logramos después de un tiempo distinguir si algo fue hecho por un humano o una computadora. Estamos en un breve espacio de tiempo en el que aún se puede explotar que no lo pueden distinguir, pero más adelante habrá espacio para que el arte evolucione. Así le pasó a la pintura cuando apareció la fotografía y muy probablemente veamos en esto algo similar: una especie de renacentismo forzado.
Por las buenas o por las malas
No todo tiene que ser tan siniestro. Realmente para esto es para lo que existimos los economistas: para arreglar los mercados rotos. Me encontré este tuit sobre los problemas de Ticketmaster (más del tema en estos días) y me pareció brillante:
Y es que lo que acabo de mencionar sobre las plataformas de arte son problemas que se solucionan con modelos de diseño de mecanismos: muchas matemáticas y teoría de juegos. Soy optimista en que se una gran parte de las soluciones a problemas estructurales se encuentran en este tipo de modelos y no es tan necesario llegar a las malas. Pero si llegamos a tener que hacerlo por las malas, me avisas.
