T/ Freddy Ñáñez
El hombre es solo la mitad de sí mismo, la otra mitad es su expresión.
Emerson
1
Septiembre y octubre transcurrieron marcados por dos inquietantes noticias del ámbito literario internacional, ambas relacionadas con supuestos fraudes perpetrados por autores que, según las acusaciones públicas, habrían usado Inteligencia Artificial para la composición de sus novelas, violando de esta manera las bases de los concursos y la confianza de los lectores. El primer escándalo lo detonó una cuenta anónima, con cierto halo de vendetta, y afectó al premio de mayor prestigio de Francia, el Goncourt. Las autoridades de la fundación homónima, tras “verificar” la denuncia procedieron a retirar de la lista de los seleccionados la novela cuestionada, Era eso o morir del también cuestionado escritor haitiano-canadiense, Thélyson Orélien. El segundo tuvo lugar en la escena hispanoamericana contra la novela Donde trabaja el agua, del novísimo autor peruano David Silva Rojas, destronado enseguida del Premio Internacional de Novela Breve Ventosa-Arrufat. El detonante en este caso fue una investigación que adelantaba el periódico español El País, precisamente sobre la escritura artificial o sintética. Los periodistas de la fuente “cultura y tecnología”, sometieron a más de 175 títulos al detector Pangram, del que se dice es el más eficiente y fiable del mercado, obteniendo unas estadísticas reveladoras: 11 de cada 33 Best Sellersson hechos con IA. Entre las obras sometidas a la verificación salió positiva esta ópera prima del peruano. Ambos escritores han negado las acusaciones y, pese a haber hecho sus descargos, tanto las editoriales como los premios parecen abandonarlos a la suerte de la jauría digital y de este nuevo estigma, propio de una era en la que las tecnologías cognitivas han tomado casi todos los espacios de la vida. Sobre los casos en particular no tendría mucho que agregar, carezco de elementos para hacer una apología, tanto como para sumarme al linchamiento. Los escritores se defenderán en la medida en que los asista la verdad y se les permita hacerlo — ojalá lejos de la irascible opinión pública— para bien de su reputación como la de la propia literatura. Entre tanto el asunto nos convoca a pensar ¿de qué hablamos cuando hablamos de literatura artificial? y, ¿qué es lo que miden exactamente las máquinas cuando someten a prueba de veracidad una obra literaria? ¿Qué es aquello que nuestro ojo humano no puede ver que al ciego algoritmo le resulta evidente?
Intentaremos explicar lo que para nosotros no estaba muy claro hasta el momento de hacernos estas y otras preguntas. Pangram es una inteligencia artificial entrenada para detectar los porcentajes de uso de modelos de lenguaje inteligente en la elaboración de textos. ¿Cómo lo hace? Técnicamente con el método “espejo” que consiste en comparar párrafos orgánicos (hechos por quien más sino por humanos), con réplicas sintéticas para identificar “las huellas estadísticas”. Esto es: continuidad sintáctica y variables de ritmo tipificados por los algoritmos de Chat GPT, Claude entre otros. Pangram en teoría es el más fiable de los detectores por una razón: no busca semejanzas comparando pasajes de un texto bajo escrutinio, contra una base de datos de obras preexistentes; método ideado para arrojar alertas de plagio. La nueva autoridad digital parece tener la capacidad de medir la estructura formal de un texto y sobre esa métrica determinar si fue un cerebro hechizado por la musa o un procesador algorítmico instruido por un humano huérfano de inspiración, quien hizo el trabajo. Incluso podría delatar que la obra es el producto de una simbiosis. Sin embargo, el propio Pangram admite que sus diagnósticos técnicos (incluso los que arrojan un lapidario 99% positivo para IA) no son conclusivos y necesitan ser cotejados con los borradores físicos o digitales que demuestren el proceso creativo, a la hora de sospechar de una falsa autoría. Tras los escándalos una buena cantidad de escritores han compartido en redes sociales haber sometido sus textos al mismo examen y han dado falsos positivos. Muchas de estas obras escritas antes de la invención de la IA. Lo cierto es que Pangram no lee, es decir no sabe ni siente aquello que pasa en el lenguaje y que el lenguaje es capaz de hacer que nos pase a quienes habitamos dentro de él, puesto que no es un cerebro humano y carece —permítanme usar una palabra que está a medio camino de la religión y de la filosofía— de alma. Nos enfrentamos a una situación inédita y radicalmente diferente, y es importante aproximarnos a entenderla, así sea dando traspiés, como los que de seguro daremos aquí hoy.
2
La historia del plagio o el fraude artístico es tan antigua y heterogénea como la de la creación misma y hay que decir que las tecnologías de turno parecen haber operado siempre en detrimento de la originalidad, si es que existe esta pretendida condición. Desde la popularización de la escritura —y miren que Sócrates lo advertía— no faltó quien en lugar de robarle obras a los genios, les atribuía la suya produciendo libros apócrifos que se vendían muy bien. De la imprenta se beneficiaron en una escala superior, piratas editoriales y falsificadores de arte quienes, en su afán de sacar rédito del talento ajeno, reprodujeron copias de copias de copias, borrando todo indicio de autenticidad. Walter Benjamin veía en ello la pérdida del aura: el aquí y el ahora de la creación artística. No lo decía con nostalgia, por el contrario veía una extraordinaria oportunidad de politización del arte mediante su socialización. En la era digital, para abreviar el camino al tema que nos ocupa, es cuando más se ha explotado esta democratización y ha operado en la dirección que Benjamín vaticinó: la pérdida de la frontera entre el creador y el público. Podemos decir también que como tecnología funciona tanto para vulnerar como para reivindicar el derecho de autor. Ciertamente hoy es más fácil apropiarse de la obra y del estilo de otros pero también lo es detectar, denunciar y desmontar el fraude. Otro modelo cuestionable de la producción artística aunque fuera de los límites del plagio, es el llamado método del “negro literario”, el escritor fantasma que alquila su pluma para otro autor generalmente de renombre. El caso más famoso es el llamado “negro de Dumas” del cual se ha dicho mucho hasta el punto de la distorsión. Los escritores negrê en efecto existieron como obreros redactores que, bajo la estricta dirección del firmante, componían manuscritos en serie, prácticamente el grueso de la obra, que pasaba antes por las correcciones estilísticas y los giros personales del autor contratante. Estos giros eran, nada más y nada menos, que el sello de autenticidad, la marca de origen. En realidad estos “presta-plumas”, como prefieren llamarle ahora los franceses para blanquear el racismo, no siempre estuvieron escondidos: en el caso Dumas-Marquet, este último fue relativamente visible. Además era un secreto a voces, pues ni a la talentosa mente de Los tres mosqueteros y de El Conde de Montecristo le habría sido posible entregar semanalmente a la prensa tantos capítulos de tantas historias comprometidas a la vez. Con todo, ni el plagio ni la explotación del escritor por el escritor, son comparables a los escandalosos casos de hoy. De lo que se habla, sin que parecieramos estar seguros de su significado, es de una suerte de usurpación autoral de parte de un humano contra una máquina, atribuyéndole con ello a esta última algo que por razones obvias no tiene ni tendrá jamás: facultades para crear.
3
Si preguntamos a los sabios por el concepto de literatura felizmente tendremos tantas y tan distintas afirmaciones que esas respuestas constituirían sino una literatura nueva, por lo menos el porvenir de la que somos receptores. Chesterton adelantará que ella es producto del asombro primigenio y una celebración de la imaginación y la existencia. Harold Bloom lo resumió como una manifestación de la belleza y la originalidad añadiendo a la experiencia estética un yo angustiado y en combate contra las influencias. Para Sartre es una revelación existencial inseparable del compromiso con la libertad del hombre. George Steiner lo asocia a lo real y trascendental que sucede en el lenguaje donde habita lo sagrado. Derrida y Barthes entienden el asunto a contravía: para uno es una suerte de institución, a la que juzga de extraña, que nos permite decirlo todo al margen de la verdad oficial y la autoridad regente. Para el otro no es más que la moral de una lengua: un tejido de signos desprovisto de un sujeto. Sí, ambos coinciden en que el autor no existe, pero confían el sentido y la voluntad de decir, al papel recreador del lector. Nada de lo dicho parece encajar con los atributos que tienen o se proyectan a las máquinas. Si no hay un ser capaz de maravillarse y agradecer, si no hay un yo que crea y agoniza, que tenga consciencia de muerte y por eso se emancipa. Si se carece de intuición y sentido del misterio, así como de voluntad política, de libido y deseo; entonces habrá simulacros verbales, incluso reflejos semánticos, pero no literatura. Porque incluso allí donde Derrida y Barthes no ven autores, las máquinas precisan de la voz humana que las active, las adiestre y las maniobre.
¿De qué hablamos, entonces, cuando hablamos de literatura artificial? Seguramente de algo que, teniendo la apariencia formal de una novela, un drama, un poema, no posee la esencia o la verdad de aquel acontecimiento verbal. Tengamos presente que la literatura no inicia ni se agota en el lenguaje: se produce en él y a través de él, de acuerdo; pero ésta lo desborda pues tiene la medida de la vida, es decir de lo que no tiene fin. En cambio, la artificialidad que decimos es tanto más evidente cuanto más ausente está la verdad literaria que hace que una novela sea una novela, por ejemplo, y no un conjunto de párrafos yuxtapuestos u ordenados sintácticamente. De ahí que solo hay dos tipos de textos literarios, aquellos que son verdaderos, es decir que poseen una verdad que se produce en el acto de pensar y de sentir el imposible; y aquellos que son falsos y de los que solo tenemos palabras vacías. Y ambos son humanos. Por afán o por escasez de talento abunda más lo segundo que lo primero, aunque, digámoslo con optimismo: la verdadera literatura hasta hoy escrita nos alcanza para una eternidad y media.
4
Todo lo anterior se resume en que para nosotros no existe una literatura artificial o sintética producida, ni mucho menos aún creada, ni total ni parcialmente, por algoritmos. Y basta entender cómo funciona la tecnología de un modelo de lenguaje para desmitificar el asunto. Para que se produzca la generación de textos la máquina debe antes recibir una instrucción precisa donde el usuario manifiesta intencionalidad, aporta contexto y detalles claves de lo esperado. Sin esto nada, y la calidad de esa instrucción es directamente proporcional a la calidad del resultado. La máquina, sin leer ni entender la orden, opera por probabilidad estadística, así busca y elije tanto las palabras como la manera en que éstas organizan la tarea dada —que nunca es exacta, ni por cierto enteramente confiable. No hay pruebas de que la Inteligencia Artificial razone, pero sí de que alucine. Esas palabras y esas frases, esa sintaxis y esos recursos retóricos ya estaban allí, hechos por humanos que han publicado libros, artículos, poemas, cuentos, novelas, que han enviado correos electrónicos, mensajes de textos y a diario protagonizan conversaciones en redes sociales. Todo este material ha sido reducido a datos con los que se alimentan los servidores. Ni el gran Paul Auster está a salvo de esto, siendo que fue, sino el único escritor, de los pocos que en siglo XXI vivió sin huella digital: se negó a usar computadoras y entrar al internet. Sus obras, así como sus cartas y documentos, las hizo siempre en su vieja máquina de escribir. Sin embargo, su estilo, sus temas y obsesiones, al estar digitalizadas también están al servicio de estas empresas. No se equivocó Noam Chomsky cuando denunció que las tecnologías cognitivas constituían las formas más groseras del plagio. Los patrones de lenguaje identificados, la manera de encadenar palabras para simular reflexión, interpretación o creación tiene un origen: el robo. Y un fin: la privatización del conocimiento.
Si en los casos referidos al inicio, ya por pereza, ya por trasgresión, por deshonestidad o por curiosidad experimental, se comprueba el empleo de estas herramientas robóticas de lenguaje en sus procesos creativos, ello no nos autoriza ni a desconfiar del ser de la literatura, ni mucho menos a conceder que exista una de naturaleza inanimada. Lo dicho, tales novelas para “salir” de una Inteligencia Artificial tuvieron que ser antes ideas, angustias, emociones, certezas y preguntas humanas. Alguien tuvo que imaginar un protagonista y a sus adversarios, pensar un conflicto que los reúna, ubicar un tema que los haga distinguibles, sostener una disputa verosimil, en defintiva armar una trama que a decir de Aristóteles es el corazón de la poética. Para que haya literatura se necesita eso. Eso y un cuerpo que padezca y entienda. Eso y una consciencia que resista y ceda a la imaginación. Sean cuales sean los medios usados, y por censurables que resulten hoy estos usos, sigue siendo privilegio humano el sufrir y el morir conscientemente, el amar y el vivir alegremente los riesgos, el valor de remontar la finitud y por supuesto el dar, desde la memoria o la inventiva, un testimonio. No hay pues una escritura artificial, solo hay, hubo y seguirá habiendo, buena y mala literatura. Y esto solo lo puede discernir el ojo humano.
360/DRR
