Desde que el mundo es mundo la humanidad ha tenido el monopolio de las ficciones. ¿Habrán llegado tiempos de cambio?

– Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.

– Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes están en oposición con la primer Ley.

– Un robot debe proteger su propia existencia, hasta donde esta protección no esté en conflicto con la primera o segunda Leyes. 

Estas leyes de la robótica aparecen en la primera edición del Manual de Robótica publicado en 2058, tal como se lee en el inicio de Yo Robot de Isaac Asimov. Muy bien por el redactor del Manual: estos artilugios pueden tener, en algún momento, la pésima idea de dominar o destruir a sus creadores, como ocurre en R.U.R. (Rossumovi univerzálni roboti), la obra teatral de Karel Capek de 1920. Radicada en una isla, R.U.R. es una empresa que fabrica humanos artificiales para liberar a los verdaderos del trabajo pesado. Indistinguibles de los humanos, estos ingenios son fuertes, inteligentes y carentes de sentimientos. El final es catastrófico: los robots inician una revolución que termina con la destrucción de la humanidad.

Un chatbot es un software basado en Inteligencia Artificial (IA) que puede mantener una conversación en tiempo real por texto o por voz. En los últimos meses tres de ellos (Bard, Bing y ChatGPT) se han hecho famosos: en cuestión de segundos pueden generar respuestas que podría dar cualquier ser humano sobre cualquier tema. Hasta recomiendan que su respuesta sea chequeada, por si acaso. Y no sólo se trata de palabras. La GAN (Generative Adversial Network) es una IA capaz de inventar caras, audios y videos de personas ficticias. Según estudios, existe un 50% de posibilidades de confundir un rostro real con uno artificial, un porcentaje que está destinado a crecer rápido. En abril de este año el fotógrafo Boris Elgadsen ganó el prestigioso premio Sony World Photography Award con una imagen que había generado con ayuda de la IA. Ninguno de los jurados se dio cuenta. Eldagsen se autodenunció y rechazó el premio. Según declaró su objetivo fue plantear la necesidad de realizar concursos separados para imágenes creadas con la IA porque, sostiene, se trata de una co-creación que debe tener sus propios estándares de evaluación.

Obviamente la IA también se usa para el delito: crear imágenes y videos de personas conocidas o no conocidas para engañar incautos y persuadirlos de revelar información confidencial, nombres de usuarios y contraseñas, o números de tarjetas de crédito. Se pueden realizar robos de identidad, así como perfiles de supuestos representantes de servicio al cliente de una empresa. Con la IA el mundo de las noticias falsas está de parabienes: con ChatGPT se crea una en cuestión de minutos, al igual que las imágenes para acompañar el texto. Hace poco fue subido a sitios web ucranianos un video en el que se veía al presidente Volodymyr Zelensky pedir a sus soldados que bajaran las armas. Cada vez son más los videos de políticos conocidos del mundo que circulan por la red distribuyendo noticias falsas.          

Alarmados por estos y otros peligros, más de mil intelectuales, expertos y empresarios firmaron este año una solicitada para pausar el desarrollo de la IA hasta llegar a un acuerdo mundial que regule su desarrollo. “La IA avanzada – sostienen – debe planificarse y administrarse con cuidado y recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo (…) en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”. Uno de los firmantes fue el antropólogo Yuval Harari. “No sé – dijo en una entrevista – si los humanos podrán sobrevivir a la inteligencia artificial”. En De animales a dioses, uno de sus libros más conocidos, Harari se pregunta cómo fue que hace unos 70.000 años insignificantes bandas de Homo Sapiens pudieron imponerse y expulsar de la faz del planeta a los más fuertes neandertales y al resto de las especies humanas. Sin negar los aportes de las teorías biológicas y del desarrollo del lenguaje, Harari plantea que la clave se encuentra en su capacidad de crear ficciones, historias que no existen en el mundo material. Con estas ficciones los Sapiens desarrollaron (y desarrollan) formas de cooperación muy flexibles con un número incontable de extraños, algo que resulta imposible para el resto de las especies. Fue la llave con la que nuestra especie conquistó el mundo. Por eso la IA es para Harari un contrincante peligroso, una amenaza directa al dominio humano de las ficciones. “Es – afirma – la primera tecnología de la historia que crea historias”. ¿Qué sucedería si en algún momento textos, melodías, películas y series fueran creados por una IA sin control? “¿Cuáles – se pregunta – podrían ser las consecuencias de que la IA se apodere de la cultura?”.        

Desde Frankenstein en adelante la literatura y el cine siempre tuvieron lugar para ficciones que juegan con la idea de una civilización tecnológica cuyas creaciones arrastran a la humanidad al desastre. ¿Será que la IA nos puede disputar el dominio de las ficciones? ¿O será que estamos escribiendo, en tiempo real y de manera global, una nueva y muy humana ficción distópica?

Alcides Rodríguez

Buenos Aires, EdM, junio 2023