A vueltas con la IA y sus dilemas morales, legales y medioambientales

En los últimos años hemos visto cómo la inteligencia artificial ha aprendido a crear imágenes con un realismo y una creatividad sorprendentes. Basta con escribir un par de frases en una plataforma como Midjourney, DALL·E o Stable Diffusion, y en segundos aparece ante nosotros una obra que podría pasar por arte digital profesional.

Esto ha llegado a unos niveles delirantes de abuso y vergüenza ajena en las últimas semanas con el trend de ghiblizar imágenes personales para darles ese toque mágico y único del estudio de animación japonés que no ha hecho más que evidenciar que detrás de esta maravilla tecnológica se esconde un entramado de dilemas éticos, legales y medioambientales que vale la pena explorar. Porque no todo lo que brilla (o tiene trazos bonitos) es oro.

El dilema moral: ¿quién crea realmente?

Uno de los grandes debates es si las imágenes generadas por IA pueden considerarse “arte”. ¿Puede una máquina ser creativa? Y si lo es, ¿quién es el verdadero autor: la IA, el desarrollador, o el usuario que escribió el prompt? Hace unos años escribí el cuento "Alicia" para Hijos de Mary Shelley sobre una robot que desarrollaba la capacidad de hacer arte. Cito textualmente de esta historia ideada en 2011: 

Alicia no podía soñar, pero comprendía los sueños. Por eso empezó a leer y a escribir, y a formar parte de círculos esotéricos donde hablaban de la alineación de los planetas y de energías invisibles al ojo humano, de adivinación del futuro, de relecturas del futuro, de cosas tan inasibles que hacían que Alicia se sintiera insegura. Dicha inseguridad comenzó a hacerse patente en sus escritos, nada que ver con los cuentos infantiles que la llevaron al éxito, sino textos terroríficos de personajes solitarios que emprendían viajes a lugares prohibidos, que encontraban viejos amuletos y textos que cambiaban la vida, personajes tan únicos que pronto atrajeron la atención de Roberto, un editor amigo de la familia. Los libros de Alicia se convirtieron en superventas, aunque nadie desveló que en realidad se trataba todo de una farsa, que ella no era humana, que esa literatura no pertenecía a los hombres. 

Pero claro, si ella no era humana, si ella escribía pero había sido hecha de anhelos humanos, de cálculos de los hombres, de intentos por asir lo inasible, si ella había sido fabricada por el hombre, ¿no pertenecía también su obra a los hombres?

Además, muchos modelos se entrenan con millones de imágenes y textos tomados de internet, incluidas obras de artistas que nunca dieron permiso para que su trabajo se usara como "materia prima". Esto ha generado enfado en la comunidad artística, que ve cómo sus estilos son replicados sin reconocimiento, sin pago y sin control. Esto me llevó hace ya dos años a eliminar de mis blogs, donde llevo escribiendo de forma regular salvo esta última década, mucho más caprichosa, numerosos cuentos y relatos en un intento inútil seguramente, porque la huella digital es en 2025 ya indeleble y el daño está hecho.

Y, por si fuera poco, estas herramientas están empezando a sustituir encargos que antes iban a diseñadores e ilustradores reales. ¿Estamos, sin querer, participando en el desplazamiento laboral de los artistas? Yo tengo clarísimo que ni todas las IAs del mundo podría sustituir la congoja que me causó La tumba de las luciérnagas o el sentido de la maravilla que recorre La princesa Monokoke o El viaje de Chihiro. Por no hablar del recuerdo imborrable que me dejó Akira cuando la vi por vez primera con 4 o 5 años en el canal local de tv de mi pueblo (algo que existió y de lo que nadie habla); una IA no puede competir con una impresión tan humana.

Y justo acaba de descubrirse que Jianwei Xun, el filósofo chino que escribió el “libro del año”, Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad, es en realidad una IA generada por un italiano (dato anecdótico al tratarse del primer caso que sale a la luz, pero me da que va a ser el patrón a seguir.

 Lo legal: una zona (muy) gris

Está claro que no se ha regulado, y ya vamos tarde, como siempre sucede con el derecho y los gobiernos y leyes, que siempre llegan tarde y mal. Las leyes no están yendo al ritmo de la IA. Por ejemplo:

• En muchos países, una imagen generada totalmente por una IA no puede tener derechos de autor, porque no hay un "autor humano" detrás.

• Al mismo tiempo, si una IA genera una imagen muy parecida a la obra de un artista, ¿es plagio? ¿Inspiración? ¿O simplemente coincidencia algorítmica?

• Además, ya ha habido demandas colectivas de artistas contra empresas que desarrollan estas herramientas, por haber usado sus obras sin permiso en los entrenamientos.

Y ojo con otro tema delicado: los deepfakes. Las IA pueden crear imágenes falsas realistas de personas en situaciones comprometedoras. Esto puede usarse para manipular, difamar o incluso extorsionar. ¿Quién es responsable en esos casos: el usuario, la plataforma, o la propia IA? Mi experiencia trabajando en la revisión de contenidos de Tik Tok me ha hecho descubrir que son curiosamente las propias empresas las que se están regulando al respecto, entiendo que de forma preventiva.

El coste ambiental: el lado invisible

Supongo que habrá gente a la que los conflictos anteriores (morales, éticos, creativos, legales) se la suden directamente, pero tal vez apelar a esta vena medioambiental funcione. Sí, la IA también contamina. Bastante más de lo que creemos.

Entrenar un modelo de generación de imágenes no es algo que se haga con una laptop y buena voluntad. Requiere una cantidad brutal de energía para procesar millones de datos visuales. Y no solo eso: cada vez que alguien genera una imagen nueva con IA, eso también consume electricidad (más de la que usarías haciendo lo mismo con Photoshop, por ejemplo).

A esto sumale el impacto de los centros de datos, el uso de minerales para fabricar GPUs, la refrigeración constante de servidores y el reemplazo continuo de hardware. Todo esto genera una huella de carbono preocupante, sobre todo si pensamos en el uso masivo y creciente de estas herramientas.

¿Entonces por qué carajo se usa sin cortapisas y con esta facilidad?

Me siento en este momento como la pesadísima que no deja de dar la lata sobre las repercusiones de la inteligencia artificial en redes, pero es que la grandísima mayoría de los mortales se queda en la superficie, en el trend, en la foto reconvertida en algo "artesano" y  "único". Asisto estupefacto incluso a creadores que no paran de compartir imágenes creadas por la mente colmena digital de risas.

La IA generativa es una herramienta potente y fascinante, no hay duda. Puede democratizar el acceso a la creación visual, inspirar nuevas formas de arte y acelerar procesos creativos. Yo mismo la empleo y he empleado para facilitarme a veces el trabajo, porque si de algo estoy seguro es de que la tecnología debería estar al servicio de la humanidad y no al contrario, y esto también nos obliga a hacernos preguntas difíciles:

• ¿Qué valor le damos al arte humano frente al generado por máquina?

• ¿Estamos respetando los derechos de los creadores?

• ¿Estamos preparados para lidiar con los efectos legales y ambientales de su uso masivo?

No se trata de frenar el avance tecnológico, sino de hacerlo con conciencia. Porque si la inteligencia artificial va a imaginar el futuro… más nos vale que lo haga con ética.