un manifiesto

para comprender y regular la I.A. generativa

I. De la irrupción de las IAs generativas

El 2022 se sobrepuso al covid-19, pero trajo consigo otro tipo de viralidad en expansión que afecta a miles de personas y a la economía del mundo: la llamada Inteligencia Artificial (IA) generativa. Los distintos modelos de IAs pueden generar imágenes, texto, video y voz en segundos, a partir de la introducción de un breve comando de texto (prompt) que indique al software qué generar y de qué forma.

La más promocionada de las que producen texto es ChatGPT, desarrollada al igual que Dall-e2 por Open.ai, que genera texto imitando el lenguaje natural, a través de modelos matemático-predictivos basados en miles de millones de fuentes, pero omitiéndolas en el texto producido. Su reciente versión GPT4 genera también código de programación web, imágenes, video y se perfila como el sustituto integral de diversos tipos de tareas profesionales.

Los modelos generativos de voz que se han desarrollado de modo anti-ético son entre otros Speechelo, Revoicer, Voicely y Speechify, que se promocionan con slogans como: “¡Nunca más gastes en locuciones!” Con Studio D-ID, Uberduck y Riffusion los usuarios pueden introducir archivos de audio indiscriminadamente para generar imitaciones artificiales de voces (audio-to-audio). Este procedimiento no sólo expone a personas a la suplantación de su identidad, sino que además permite la apropiación del registro sonoro de cantantes destacados, generando audios que suenen exactamente iguales a éstos o con mínimos cambios de timbre, por ejemplo, tras los que disimular su replicación y hacer un uso comercial del talento emulado.

En el rubro actoral, estamos en conocimiento de que varias figuras del llamado star system -quizás por encontrarse cerca de la edad de retiro- han cedido voluntariamente el uso de registros filmográficos previos y se han prestado a escaneos de fotogrametría para generar con este material derivados artificiales de su figura a cambio de sumas cuantiosas. Pero también son conocidos los miles de deep fakes de actores famosos, como Keanu Reeves, quien ya incluye en sus contratos cláusulas que prohíben estas prácticas.

Todas las IAs generativas se presentan como una “buena noticia” para la sociedad, pero este tipo de modelos tecnológicos requieren una colosal carga de datos extraídos de procesos creativos humanos con los cuales entrenarse para generar derivaciones automatizadas. El punto negativo, común a casi todas las que se han lanzado al mercado, es que licúan la autoría de las fuentes en que basan las capacidades adquiridas a través del aprendizaje automático profundo (deep learning).

En cuanto a las IAs que generan imágenes, debemos detallar el carácter delictivo del desarrollo de Stability.AI. Emad Moustaque fundó esta empresa al mismo tiempo que LAION, una supuesta “non-profit ” dada a la captura de casi 6 mil millones de imágenes por medio del rastrillaje de datos en internet, sin consentimiento, crédito ni compensación alguna para con las personas que crearon dichas imágenes o que figuran en ellas.

Ese listado de pares de imagen + texto luego fue “cedido” por LAION a Stability.AI para ser utilizado como base de datos en el entrenamiento de su software Stable Diffusion, el cual, aunque fue publicado como de código libre, sigue dando multimillonarios dividendos a la empresa desde agosto de 2022 y constituye el lavado de datos más importante de la última década.

Este inmenso acervo artístico de toda la sociedad fue expropiado a través del desarrollo del modelo de difusión: Stable Diffusion. Lo que explica el salto de calidad que dió esta tecnología en 2022 y es lo que explotan hasta hoy todas las plataformas que se basan en éste, como Midjourney, Dall-e2, Disco Diffusion o Night Café, entre otras.

Varios de estos modelos de IAs generativas se promocionan y operan usando los nombres de los artistas expoliados y los usan como parte de los comandos de textos con que indicarle al software que use el aprendizaje maquínico de sus obras en la generación de outputs. Esto constituye otra instancia violatoria: la usurpación de identidad de los artistas y de los derechos morales y patrimoniales que les corresponden.

Hay tres demandas judiciales contra estas empresas: una colectiva que presentaron decenas de artistas en EE.UU contra Stability.AI, DeviantArt y Midjourney y otras dos presentadas por el banco de imágenes Getty, en EE.UU y también en UK.

Millones de usuarios de todo el mundo, en interacción permanente con los bots de estas plataformas, aumentan de modo exponencial el alcance del daño plagiario originado por los desarrolladores. Contra el oficio creativo y la valoración del trabajo humano en el campo editorial y audiovisual, cada usuario puede generar artificialmente cuatro o muchas más imágenes por minuto, y comercializar estos outputs sin rendir cuentas a ningún artista en cuya obra se basa la capacidad de esta tecnología.

II. De sus efectos negativos

Lo antes descrito, lejos de constituirse en un beneficio “democratizador” del acceso al arte como espectadores o intérpretes, tiene múltiples efectos negativos para la comunidad creativa y la sociedad en general (ver más):

Las IAs generan derivados no consentidos y parasitarios de las obras originales, que se comercializan a un valor de cambio bajísimo y a una velocidad imposible de empatarse por medios humanos. Esto consolida una competencia desleal para con los creativos de esas obras originales, además de licuar los derechos morales y patrimoniales de los mismos.

Las imágenes generadas por IA no pueden protegerse bajo leyes de copyright o de la propiedad intelectual, ya que estos derechos pertenecen a las personas humanas exclusivamente. Todo lo realizado por ese tipo de procesos puede ser nuevamente apropiado y remixado artificialmente, sin derecho a reclamo alguno. Creemos que este mismo fenómeno fomenta el plagio a nivel masivo, si se llegara a normalizar el uso de una tecnología cuya capacidad está fundada en un hecho plagiario.

Empobrece la vida artística y cultural de toda la sociedad, al desalentar el desarrollo y la difusión de nuevas obras originales que, al exponerse o darse a conocer en cualquier soporte, son virtualmente vulnerables a nuevas apropiaciones automatizadas. Esto pone en jaque a toda la disciplina artística.

Desalienta el estudio y cultivo de la disciplina artística por medios legítimos, ya que el plagio automatizado (se usen nombres propios como parte de los comandos de texto o no) facilita a cualquier usuario el producir imágenes con resultados técnicos de factura detallada sin tener conocimientos en dicha materia ni en derechos de autor. Si bien ya vemos que muchas instituciones educativas comienzan a incluir el tema del uso responsable de IAs generativas, dibujar, pintar y reelaborar el error, son parte primordial del desarrollo cognitivo, psicomotriz y sensible, a través del cual las personas se constituyen como intérpretes activos del mundo, siendo esto parte complementaria del aprendizaje de la lecto escritura. Toda esa experiencia queda obturada por la lógica de la evasión del proceso operado por las IAs generativas y que, de ser introducido en el ámbito educativo, sólo haría mella en el aprendizaje de las personas.

Afecta a los estudiantes o jóvenes artistas que quieran insertarse en el mercado laboral y deban competir por medios tradicionales con esta tecnología que ya se emplea para resolver los encargos más sencillos (y también complejos), siendo éste el habitual campo de desarrollo de las capacidades artísticas de los grandes artistas del mañana. De esta forma, el recambio generacional de artistas quedaría subsumido por una mera actualización de la tecnología.

Al mismo tiempo, los dueños de las plataformas generativas acaparan no sólo el rédito económico a través de sus usuarios de pago en todo el mundo o de la cotización en bolsa de sus API, sino que se agencian para sí los procesos y resultados estéticos de la interacción entre usuarios y la IA (Midjourney lo hace), según se comunica en los términos y condiciones con que obligan a sus usuarios.

Esta tecnología evoluciona mes a mes y tiene la capacidad de aprender y sustituir procesos humanos. Según anuncian sus principales desarrolladores, OpenAI, OpenResearch y la Universidad de Pensilvania, examina la “exposición” de las tareas laborales a la IA, “sin distinguir entre los efectos de aumento o desplazamiento del trabajo”. Definieron la “exposición” como el acceso de GPT en las tareas de trabajo específicas para reducir el tiempo de realizarlas en al menos un 50%. Como verán se trata de calcular de un modo impreciso la afectación de trabajos: ninguna empresa se acusaría a sí misma de la sustitución de puestos de trabajo humano. Sin embargo calculan que esta tecnología afectará el 80% de los trabajos calificados y que siendo optimistas el desempleo acelerado podría alcanzar cifras del 30% de la masa mundial de trabajadores. Este nivel de exclusión es insostenible.

III. De los Derechos Humanos

El artículo 27 de la Declaración Universal de los Derechos Humanos dice:

1. Toda persona tiene derecho a tomar parte libremente en la vida cultural de la comunidad, a gozar de las artes y a participar en el progreso científico y en los beneficios que de él resulten. 2. Toda persona tiene derecho a la protección de los intereses morales y materiales que le correspondan por razón de las producciones científicas, literarias o artísticas de que sea autora.

Lo descrito en el punto dos (2) del artículo 27 refiere directamente a los derechos de propiedad intelectual de todas las personas.

Pero lo absurdo del nuevo escenario de expoliación privatista radica en que los propios artistas sean excluidos del proceso creativo por los desarrolladores de una tecnología que entrena sustitutos artificiales, violando los derechos morales y materiales de las personas creativas de todo el mundo.

Las autorías se encuentran hoy en una total indefensión frente al plagio automatizado, ya que todo aquello que sea puesto en circulación en internet por sus autores o cualquier otra persona, es susceptible de ser capturado y subsumido como base de datos de entrenamiento para nuevas versiones de IA generativas: una tecnología que es instrumento para el robo encubierto y la sustitución de los trabajadores.

Si como miembros activos de la sociedad no hacemos valer nuestros derechos a través de las instituciones gubernamentales, se seguirá agravando este escenario en que el desvalor de lo “remixado” por máquinas se impone por sobre el valor original de lo creado por personas.

Creemos, es urgente la unión organizada de creativos de todas las disciplinas audiovisuales para elaborar una serie de reglas éticas que garanticen la sana continuidad del oficio creativo, se desarticule el carácter parasitario de esta nueva industria reponiendo el estado de derecho de las personas y fortaleciendo los marcos regulatorios sobre el rastrillaje de datos, para evitar que se desarrollen nuevos modelos de IA que compitan de manera desleal, sin compensar de manera adecuada a sus legítimos autores o creadores.

Para lograr todo esto, Arte es Ética se propone como un espacio para nuclear a artistas y creativxs de habla hispana e impulsar acciones colectivas de concientización y mediación con representantes políticos de Latinoamérica y España.

Nos integran hasta el momento artistas independientes o que son parte de asociaciones en Latinoamérica y España, como:

‎• Federación de Asociaciones de Ilustradores Profesionales (FADIP), integrada actualmente por las siguientes asociaciones de ilustradores: Euskal Irudigileak – Asociación Profesional de Ilustradores de Euskadi (APIE-EIEP), Asociación Galega de Profesionais da Ilustración (AGPI), Associació de Professionals de la Il·lustració Valenciana (APIV), Asociación de Profesionales de la Ilustración de Madrid (APIM), Associació Professional d’Il·lustradors de Catalunya (APIC)

‎• Sindicato de Espectáculos, Artes Gráficas, Audiovisuales y Papel de Barcelona (SEGAP CGT)

‎• Asociación de Autoras y Autores Profesionales del Cómic de España (APCOMIC)
‎• Asociación Mexicana de Ilustradores (AMDI)

Trabajamos en conjunto con agrupaciones y asociaciones de otras disciplinas creativas que también ven sus rubros afectados por la irrupción de las IAs generativas en el campo creativo:

‎• ALITRAL (Alianza Iberoamericana para la Promoción de la Traducción Literaria) que está compuesta actualmente por: ACE Traductores (La sección autónoma de traductores de libros de la Asociación Colegial de Escritores de España), Asociación Argentina de Traductores e Intérpretes (AATI), Asociación Mexicana de Traductores Literarios, A. C. (Ametli), y la Asociación Colombiana de Traductores, Terminólogos e Intérpretes (ACTTI).

‎• Asociación de Traducción y Adaptación Audiovisual de España (ATRAE)
‎• Sindicato de Actores de Voz y Voice Talents de Madrid (AVTA)

‎‎• OVU Organización De Voces Unidas
‎• Confederación Sindical Solidaridad Obrera (Solidaridad Obrera)

‎Formamos alianza con la European Guild for AI Regulation (EGAIR) y la Concept Art Association (CAA).

‎• Apoyamos los Principios básicos para los usos de la inteligencia artificial en apoyo de la creatividad y las habilidades humanas, desarrollados por The Human Artistry Campaign, una alianza mundial multisectorial de más de 150 organizaciones de 33 países.

IV. Propuestas de Regulación de la Tecnología

La metodología de que cada persona opte por sacar (opt-out) sus obras de los datasets de entrenamiento, no es un método válido para resguardarse de las generaciones artificiales de las mismas. Primero, porque podrían no estar anoticiadas de esa situación. Segundo, porque una vez que el modelo de IA aprende un dato no puede “desaprenderlo” y no hay garantía de que no sea utilizado en generaciones siguientes. Y tercero, porque las compañías usan de excusa que deben verificar que quien solicita esa remoción es efectivamente el dueño o autor de esas obras, para no acceder a ajustarse a derecho.

Respetando las leyes vigentes de Copyright o PI, el opt-in debe ser la regla estándar para el uso de cualquier imagen, audio, texto o video como material de entrenamiento. Para esto se deberá contar siempre con el expreso consentimiento de los creadores originales de los archivos audiovisuales, tanto para ser usados como material de entrenamiento de modelos generativos de IA, como también en procesos generativos de image-to-image, audio-to-audio, etc, que realizan los usuarios de la tecnología.

Para garantizar esto último, es indispensable el desarrollo de un algoritmo de detección que filtre las imágenes, textos, videos y audios que sean subidos a las plataformas generativas de IA en los procesos de image -to-image, audio-to-audio, etc, corroborando que pertenezcan sólo a personas que hayan declarado estar de acuerdo con que su obra forme parte de procesos derivativos por IA.

Instar a que las plataformas generativas por IA anulen para sus usuarios la funcionalidad de comandar nombres propios de quienes no consintieron en formar parte del dataset y menos aún, de la generación de derivados automatizados de su obra. Habría que anular también el uso de categorías de movimientos estéticos contemporáneos que pudieran contenerlos. Por ejemplo: la categoría eroguro contiene la obra de Junji Ito, Toshio Saeki o Yu Satomi; la categoría línea clara, contiene la obra de Moebius, Hergé y otros. De esta forma podrían evitarse parcialmente los usos parasitarios de la obra de los autores que quieran permanecer fuera de estas plataformas.

Exigir por ley que las imágenes producidas con modelos de IA generativas lleven una marca de agua de la plataforma que la generó, además de una “firma digital” en los metadatos del archivo generado (output), donde conste la información del usuario que lo comandó, qué comandos de textos se usaron en su procesamiento, además de cuantificar el porcentaje de proceso automatizado cuando el mismo supere el 25% del proceso total. Toda esta información está en poder de las plataformas y debe transparentarse. Para establecer el porcentaje de procesamiento automático en el modo image-to-image, un algoritmo debe monitorear los uploads (re-inputs) del usuario y cotejar la diferencia entre éstos y el output arrojado antes por la IA. En función de los porcentajes diferenciales de pixels entre outputs y re-inputs, el algoritmo asigna un porcentaje total de interacción humana al proceso. Dependiendo del porcentaje de interacción humana, esa imagen puede o no ser objeto de derechos de autor.

Apelar a la OMPI (Organización Mundial de la Propiedad Intelectual) para solicitar su urgente intervención y arbitraje en los conflictos con las empresas que basen sus datasets de entrenamiento en obras protegidas por copyright sin el consentimiento de las personas que las crearon o que figuran en ellas. Esto es menester del organismo y cuenta con recursos de ONU para operar en casi todos los países con instrumentos legales de autoridad.

Hasta contar con información fehaciente de cuál es el grado de proceso humano implicado en cada output realizado con IA generativa, se veda la indexación de los outputs de IA en los Registros de Propiedad Intelectual o Copyrigt de cada país, para evitar el registro de obras generadas por IAs, y no por personas que son legítimos sujetos de derecho.

La empresa que base su crecimiento en el uso de IAs generativas obligando a sus trabajadores a entrenar algoritmos que habiliten su sustitución como empleados o que incurran en despidos masivos de sus creativos, perderá el beneficio de cualquier exención impositiva o se le adicionará un impuesto especial, cuyos beneficiarios serán freelancers o trabajadores autónomos dedicados al ámbito creativo.

Impulsar la creación de un fondo estatal para cubrir las necesidades más urgentes del sector creativo, especialmente castigado por la crisis. Este fondo estaría destinado al desarrollo de proyectos artísticos y la creación de empleos que incluyan mano de obra e inteligencia humana.

Promover la inclusión de esta lista de buenas prácticas dentro de las guías y manuales de las empresas inversionistas, inversores de capitales de riesgo como Black Rock y otras. El respeto al copyright y derechos de propiedad intelectual, así como la protección de datos personales, debe sumarse como una práctica exigible así como lo son el uso responsable de energías renovables, las cuotas de género y diversidades dentro del plantel de una empresa, el seguimiento y reducción de la huella de carbono, el uso de procesos orgánicos para la producción de alimentos o las calificaciones de “fair trade” para importaciones de productos desde el llamado “tercer mundo”. De este modo las productoras, agencias y plataformas que usen tecnología IA, sin atención a las exigencias aquí presentes, verán reducidas sus calificaciones y por lo tanto su cotización y capitalización, como ya sucede con otro tipo de exigencias de buenas prácticas.

Instar a los gobiernos a no crear nuevas excepciones a los derechos de autoría o derechos conexos u otras exenciones a la Propiedad Intelectual que permitan realizar nuevos raspajes de datos por crawlers o desarrolladores de IA. Éstos deben cumplir con los principios básicos de competencia y compensación justas en el mercado. La creación de atajos especiales o lagunas legales para la IA dañaría a los empleos basados en actividades creativas, dañaría las marcas de los creadores y limitaría los incentivos para crear e invertir en nuevas obras.

V. Acción Colectiva

Si estás de acuerdo con lo expuesto aquí arriba, suma tu apoyo con tu firma del manifiesto y la difusión del mismo en CHANGE.ORG

También esperamos que te sumes al colectivo activamente para evidenciar que somos millones quienes sabemos que sólo es posible un futuro para la sociedad humana si velamos por la continuidad de derechos que garanticen la igualdad y el respeto entre las personas.

Escríbenos a arteesetica@gmail.com para sumarte como miembro activo colaborando codo a codo con nosotros o para hacernos saber de situaciones adversas para los distintos sectores creativos que representamos.