Octavio formó parte del grupo de 24 expertos que redactó la Recomendación de la Unesco sobre la ética de la IA
¿Puede una máquina componer un merengue que nos haga llorar? La pregunta ya no es de ciencia ficción. A casi cuatro años del auge de la IA generativa, estas herramientas escriben, pintan y componen en segundos, y quedan pocos rincones de la creación que no hayan sentido su influencia.
Esa inquietud recorrió la sexta edición del Foro Caribe Naranja, celebrado en Santo Domingo bajo un lema provocador: “Creatividad humana: lo que la IA no puede imaginar”. Uno de sus conferencistas, el filósofo, editor y asesor de la Unesco, Octavio Kulesz lleva años estudiando cómo los algoritmos cambian la manera en que creamos, escuchamos y leemos.
En conversación con elCaribe, el filósofo descarta los dos extremos del debate. Ni la máquina va a sustituir al artista, ni el artista puede darse el lujo de ignorarla.
Lo que vivimos, explica, es: “Una creciente hibridación entre la creatividad humana y la potencia generativa de las máquinas”. Esa mezcla puede ir en dos direcciones. En la buena, aumenta el potencial humano. En la mala, “las máquinas terminan anulando la inventiva y la originalidad personal”.
La diferencia, insiste, está en el uso. Pone como ejemplo la literatura: cada vez se descubren más novelistas, algunos muy célebres que escribieron sus libros casi por completo con IA. Esas obras terminan descalificadas de concursos y retiradas de circulación.
Utilizarla bien es posible, “siempre y cuando sea el creador o la creadora quien esté al comando”. Y lo resume en una frase: “La IA es un excelente copiloto, pero un pésimo conductor”.
El miedo, recuerda, no es nuevo. En el siglo XV, el editor Hieronimo Squarciafico decidió dejar su oficio porque, con la imprenta de Gutenberg, cualquiera podía publicar un libro. Hoy nadie piensa en la imprenta como una amenaza. “Con el tiempo, la creatividad humana terminó integrando plenamente estas herramientas”, dice.
Cuando abrimos una plataforma de música o de series, lo que aparece primero no es casualidad. Desde hace más de dos décadas, algoritmos de recomendación deciden qué vemos y qué queda en segundo plano, “con criterios a menudo bastante opacos”.
La IA generativa añade un problema nuevo: ya no solo se recomienda lo que crearon personas, sino que proliferan textos, canciones y videos “sintéticos”, hechos casi sin intervención humana. Según explica Kulesz, esos contenidos tienden a parecerse entre sí “porque detrás de ellos no hay una sensibilidad personal, una subjetividad, una emoción real”.
A eso se suman los sesgos. Cada sistema fue entrenado con cierto tipo de contenidos que reflejan una visión del mundo, y de ahí salen estereotipos culturales, religiosos, de género o políticos.
Casi todo lo que ha “aprendido” la IA viene de un puñado de países, y el inglés domina. Pero Octavio señala un problema más fino: quién digitaliza la cultura. “No es lo mismo un sistema de IA alimentado con contenidos que han sido seleccionados y digitalizados por las propias comunidades locales que uno desarrollado por actores externos a ese contexto”.
En esa elección se decide qué artistas, qué tradiciones y qué voces quedan dentro, cuáles quedan fuera y cuáles aparecen distorsionadas. Ocurre con frecuencia con la música latinoamericana, que a menudo se reduce a lo que circula en la industria latina de Estados Unidos, “una fracción de lo que efectivamente sucede en cada país de América Latina y el Caribe”.
¿Qué puede hacer un país pequeño? Su respuesta tiene dos partes: proyectos de digitalización del patrimonio y de la cultura actual hechos con la participación de sus protagonistas, y políticas que fortalezcan a cada sector creativo, incluida la capacitación de artistas en IA.
Si un artista dominicano descubre que su obra se usó para entrenar una IA sin permiso, no está solo. “La mayor parte de las empresas de IA han utilizado obras protegidas para entrenar y mejorar sus modelos, generalmente sin autorización ni remuneración para sus titulares”, afirma Kulesz.
Para él, es “una deuda económica y ética” que “algún día deberá saldarse”. Y no afecta solo a autores con nombre propio: culturas ancestrales han visto cómo sus diseños y canciones tradicionales fueron absorbidos por estos sistemas sin consulta previa. Su propuesta es seguir presionando, en cada país y en los foros internacionales, para que se cumplan las leyes de propiedad intelectual y se cree un mercado de licencias, siempre con el consentimiento de los titulares.
Redacción sobre la ética de la IA
Entre 2020 y 2021, Octavio formó parte del grupo de 24 expertos que redactó la Recomendación de la Unesco sobre la ética de la IA. La mayoría venía de las ciencias duras; él aportó la mirada de la filosofía y de las industrias culturales. Destaca que el texto dedica un capítulo entero a la cultura, algo poco común en documentos de este tipo, y que planteó el problema de los derechos de autor más de dos años antes de que existiera ChatGPT.
Su argumento final mira a la propia industria tecnológica: sin un sector creativo fuerte, “no solo se desmorona la cultura”, sino que la IA también sale perdiendo, porque necesita contenidos de calidad para entrenarse y mejorar. “Por eso, recuerda, ‘artificial’ viene de ‘arte’: el sector creativo tiene que ser protagonista de la era”.
