«Nos espera un futuro marcado por la automatización creativa». Entrevista a Carmen Torrijos

Carmen Torrijos es traductora y lingüista computacional, responsable de inteligencia artificial en la empresa Prodigioso Volcán. Tras su participación como ponente en el Grado de Humanidades de la Universidad Internacional de Valencia, tuvimos el placer de conversar con ella sobre los principales desafíos a los que nos enfrentamos con la implementación de la IA y el papel que los humanistas debemos jugar para garantizar un uso ético e inclusivo de la misma. 

Los humanistas adquirimos una serie de saberes y competencias que nos permiten construir carreras profesionales polivalentes con un marcado carácter holístico. Tu caso sería un buen ejemplo de ello. Cuéntanos cómo una filóloga y traductora aterrizó en el mundo de la inteligencia artificial (IA) y diseñó una exitosa carrera profesional.

En realidad, la casualidad jugó un papel importante. Empecé traduciendo textos de tecnología en un centro de innovación, donde conocí a un pequeño equipo que estaba empezando a hacer procesamiento del lenguaje natural. Me uní a ellos de manera temporal, y acabé quedándome nueve años. Aprendí muchísimo porque trabajaba con perfiles de ingeniería y ciencia de datos que me enseñaron, no solo a programar, sino también fundamentos de aprendizaje automático. A partir de cierto punto, a todo eso que hacíamos se le empezó a llamar IA. Acabé especializándome en los modelos de lenguaje. En mi caso fue lo más parecido a aprender un oficio desde cero.

Si educamos para trabajar de manera colaborativa con la IA, esta podría tornarse una herramienta indispensable para fomentar el pensamiento divergente.

Mucho se debate en estos tiempos a cerca de como la inteligencia artificial puede amenazar el desarrollo creativo de nuestros niños y jóvenes; sin embargo, si educamos para trabajar de manera colaborativa con la IA, esta podría tornarse una herramienta indispensable para fomentar el pensamiento divergente.

¿Cómo deberíamos enfocar el trabajo colaborativo con la IA en aras de potenciar la creatividad humana?

Se trataría de combinar capacidades. La IA es capaz de manejar volúmenes de datos de una magnitud que nosotros no podemos procesar, por lo que tiene sentido escuchar esa información y utilizarla al máximo en nuestro beneficio. Pero hay que tratarla como una señal más, no como una verdad absoluta. Es imprescindible mantener el criterio profesional, la intuición, la imaginación y nuestro conocimiento del contexto. Se están utilizando los modelos de lenguaje como sustituto de la escritura, queremos que escriban por nosotros, cuando en realidad el resultado, si lo usamos así, es muy mediocre. Estos modelos liberan todo su potencial cuando los empleamos para que nos den posibles enfoques o estructuras del texto. Así es como se convierten en una extensión nuestra y pueden ayudarnos a mejorar nuestro trabajo.

La implementación de la inteligencia artificial nos hace replantearnos cuestiones claves en torno a la forma en la que podemos mitigar riesgos y evitar sesgos, pues de lo contrario, estaríamos replicando mecanismos de exclusión. Por otro lado, vivimos en un momento donde cada vez cuesta más diferenciar lo real de lo falso. Esta desinformación es intencionada y como ya apuntaba de manera visionaria Hannah Arendt: “nos priva del poder de pensar”.

¿Cómo podemos educar en una comprensión profunda de los retos éticos que el uso de la IA implica para evitar la manipulación o desinformación?, ¿realmente se está diseñando una tecnología diversa e inclusiva?

Para que la tecnología sea lo más inclusiva y diversa posible, y no cronifique nuestros propios sesgos, hay que poner atención desde los primeros momentos del desarrollo. No basta con comprobar si una tecnología funciona, hay que asegurarse de que funciona sin hacer daño o remando en contra de derechos fundamentales ya conseguidos. Esto no es nada fácil, y se consigue mejor cuando los equipos son interdisciplinares. A la visión del mundo de los perfiles tecnológicos que desarrollan la IA hay que sumar la de otros perfiles, y los humanistas y científicos sociales pueden aportar una visión transversal muy necesaria, que además puede hacer de puente entre equipos o servir de traductores al público general. La manipulación o la desinformación no se pueden evitar, pero se pueden prevenir, identificar, explicar y amortiguar. La IA es, por tanto, una herramienta más que los profesionales de humanidades tenemos que conocer, comprender y aplicar.

Otra de las preocupaciones surgidas en la difusión de herramientas generativas es precisamente la vinculada a la defensa y protección de los derechos de autor.

¿Podrías hablarnos sobre la influencia que la IA puede tener en el ámbito literario y artístico en este sentido?

El principal conflicto, y sin solución por el momento, es que los grandes sistemas de IA que estamos utilizando proceden de entornos regulatorios donde la propiedad intelectual o los derechos de autor no son tan importantes como en Europa. Sistemas como ChatGPT o Midjourney, los de mejor rendimiento, se han entrenado con el trabajo de artistas, traductores, diseñadores, escritores, poetas o compositores que no han recibido ninguna remuneración por el uso de sus obras. Esto ha llevado a que algunos sectores rechacen la IA y defiendan su no-uso, pero este no es el camino. Si las personas que quieren hacer las cosas bien salen del juego, la tecnología seguirá siendo como ha sido siempre. Hay que utilizarla, comprenderla, y desde dentro defender la creación de sistemas que sí cumplan con estos derechos de propiedad intelectual. No es imposible. Ya hay iniciativas en España para crear sistemas de IA con entrenamiento basado en datos con licencia.

Muchas voces se están alzando para hablar de los riesgos que nuestros niños y jóvenes tienen de perder habilidades críticas por un mal uso y abuso de la IA.

Los informes internacionales apuntan al pensamiento crítico como una de las habilidades blandas (soft skill) que más se van a demandar en un mercado laboral marcado por la digitalización; sin embargo, desde el ámbito educativo, muchas voces se están alzando para hablar de los riesgos que nuestros niños y jóvenes tienen de perder habilidades críticas por un mal uso y abuso de la IA, por ejemplo, a la hora de realizar sus tareas formativas.

¿Corremos el riesgo de perder habilidades críticas si no educamos en un correcto uso de la IA?

Sí, sin duda. En cuanto a las habilidades críticas, el mayor riesgo es el sesgo de automatización, que empecemos a pensar que lo que sale de la máquina es lo bueno, lo correcto, y que nos limite, nos haga dependientes o nos lleve a matices o juicios que no se ajustan a la realidad. Este riesgo solo se previene haciendo que los profesionales entiendan qué es la IA y qué no es, desmitificándola e identificando muy bien desde el criterio profesional para qué se puede usar y para qué no, siempre entendida como una herramienta complementaria. Nos espera un futuro marcado por la automatización creativa que nos llevará a redefinir el valor de la producción artística humana.

Finalmente, para poner el broche final a esta entrevista nos gustaría conocer su opinión sobre dicho debate.

Pienso que acabaremos por diferenciar muy bien estos contenidos low-cost, 100% automáticos, del contenido más artesanal, pensado y diseñado por seres humanos para otros seres humanos. Creo que nos acostumbraremos a convivir con diferentes niveles de calidad, como ya lo hacemos en otros ámbitos, y que la misión de los humanistas estará entre otras cosas en recordar qué es lo que hace a una obra valiosa.

La misión de los humanistas estará en recordar qué es lo que hace a una obra valiosa.

Las razones por las que decidimos que algo es patrimonio, o una obra maestra, que tiene valor artístico o que merece estar en un libro editado o en un museo son muchas y variadas, y normalmente tienen que ver con la autenticidad, con el contexto de creación o de recepción, con la comprensión de este contexto y con la conexión con las personas. Como dice Marta García-Aller: “He visto tocar música en estos años a varias máquinas de inteligencia artificial, y nadie aplaude a los robots”.

Entrevista realizada por María Ruiz, directora del Grado de Humanidades de VIU.

Noviembre de 2024.