Los temores a la inteligencia artificial (IA) han perseguido a la humanidad desde el comienzo de la era de las computadoras. Hasta ahora, estos temores se centraban en las máquinas que utilizaban medios físicos para matar, esclavizar o reemplazar a las personas. Pero en los últimos años han surgido nuevas herramientas de inteligencia artificial que amenazan la supervivencia de la civilización humana desde una dirección inesperada. IA ha adquirido algunas habilidades notables para manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes. IA ha pirateado el sistema operativo de nuestra civilización.

El lenguaje es el material del que está hecha casi toda la cultura humana. Los derechos humanos, por ejemplo, no están inscritos en nuestro ADN. Más bien, son artefactos culturales que creamos al contar historias y escribir leyes. Los dioses no son realidades físicas. Más bien, son artefactos culturales que creamos al inventar mitos y escribir escrituras.

El dinero también es un artefacto cultural. Los billetes de banco son solo piezas de papel de colores, y en la actualidad más del 90% del dinero ni siquiera son billetes de banco, es solo información digital en las computadoras. Lo que le da valor al dinero son las historias que los banqueros, los ministros de finanzas y los gurús de las criptomonedas nos cuentan al respecto. Sam Bankman-Fried, Elizabeth Holmes y Bernie Madoff no eran particularmente buenos creando valor real, pero todos eran narradores extremadamente capaces.

¿Qué pasaría una vez que una inteligencia no humana sea mejor que el humano promedio para contar historias, componer melodías, dibujar imágenes y escribir leyes y escrituras? Cuando las personas piensan en Chatgpt y otras nuevas herramientas de inteligencia artificial, a menudo se sienten atraídas por ejemplos como los niños en edad escolar que usan inteligencia artificial para escribir sus ensayos. 

¿Qué pasará con el sistema escolar cuando los niños hagan eso? Pero este tipo de pregunta pierde el panorama general. Olvídate de los ensayos escolares. Piense en la próxima carrera presidencial estadounidense en 2024 e intente imaginar el impacto de las herramientas de inteligencia artificial que se pueden hacer para producir contenido político en masa, noticias falsas y escrituras para nuevos cultos.

En los últimos años, el culto qAnon se ha fusionado en torno a mensajes anónimos en línea, conocidos como "gotas q". Los seguidores recogieron, veneraron e interpretaron estas q gotas como un texto sagrado. Si bien, hasta donde sabemos, todos los qdrops anteriores fueron compuestos por humanos, y los bots simplemente ayudaron a difundirlos, en el futuro podríamos ver los primeros cultos en la historia cuyos venerados textos fueron escritos por una inteligencia no humana. Las religiones a lo largo de la historia han reclamado una fuente no humana para sus libros sagrados. Pronto eso podría ser una realidad.

En un nivel más prosaico, pronto podríamos encontrarnos conduciendo largas discusiones en línea sobre el aborto, el cambio climático o la invasión rusa de Ucrania con entidades que creemos que son humanos, pero que en realidad son IA. El problema es que no tiene ningún sentido que dediquemos tiempo a tratar de cambiar las opiniones declaradas de un bot ai, mientras que IA podría perfeccionar sus mensajes con tanta precisión que tiene buenas posibilidades de influir en nosotros.

A través de su dominio del lenguaje, IA podría incluso entablar relaciones íntimas con las personas y usar el poder de la intimidad para cambiar nuestras opiniones y visiones del mundo. Aunque no hay indicios de que IA tenga conciencia o sentimientos propios, para fomentar una intimidad falsa con los humanos es suficiente si la IA puede hacer que se sientan apegados emocionalmente a ella. En junio de 2022, Blake Lemoine, un ingeniero de Google, afirmó públicamente que el chatbot IA Lamda, en el que estaba trabajando, se había vuelto inteligente. La controvertida afirmación le costó el trabajo. Lo más interesante de este episodio no fue la afirmación del Sr. Lemoine, que probablemente era falsa. 

Más bien, fue su disposición a arriesgar su lucrativo trabajo por el chatbot ai. Si IA puede influenciar a las personas para que arriesguen sus trabajos por ello, ¿qué más podría inducirlos a hacer?

En una batalla política por las mentes y los corazones, la intimidad es el arma más eficaz, y la inteligencia artificial acaba de ganar la capacidad de producir relaciones íntimas en masa con millones de personas. Todos sabemos que, durante la última década, las redes sociales se han convertido en un campo de batalla para controlar la atención humana. Con la nueva generación de inteligencia artificial, el frente de batalla está pasando de la atención a la intimidad. ¿Qué le sucederá a la sociedad humana y a la psicología humana cuando IA luche contra IA en una batalla para fingir relaciones íntimas con nosotros, que luego pueden usarse para convencernos de votar por políticos en particular o comprar productos en particular?
Incluso sin crear una "intimidad falsa", las nuevas herramientas de IA tendrían una inmensa influencia en nuestras opiniones y visiones del mundo. La gente puede llegar a utilizar un solo asesor de inteligencia artificial como un oráculo omnisciente y de ventanilla única. No es de extrañar que Google esté aterrorizado. ¿Por qué molestarse en buscar, cuando solo puedo preguntarle al oráculo? Las industrias de noticias y publicidad también deberían estar aterrorizadas. ¿Por qué leer un periódico cuando puedo simplemente pedirle al oráculo que me diga las últimas noticias? ¿Y cuál es el propósito de los anuncios, cuando solo puedo pedirle al oráculo que me diga qué comprar?

E incluso estos escenarios realmente no capturan el panorama general. De lo que estamos hablando es potencialmente del fin de la historia humana. No es el final de la historia, solo el final de su parte dominada por los humanos. La historia es la interacción entre biología y cultura; entre nuestras necesidades y deseos biológicos de cosas como la comida y el sexo, y nuestras creaciones culturales como las religiones y las leyes. La historia es el proceso a través del cual las leyes y las religiones dan forma a la comida y al sexo.

¿Qué pasará con el curso de la historia cuando IA se apodere de la cultura y comience a producir historias, melodías, leyes y religiones? Las herramientas anteriores, como la imprenta y la radio, ayudaron a difundir las ideas culturales de los humanos, pero nunca crearon nuevas ideas culturales propias. IA es fundamentalmente diferente. IA puede crear ideas completamente nuevas, una cultura completamente nueva.

Al principio, IA probablemente imitará los prototipos humanos en los que fue entrenado en su infancia. Pero con cada año que pasa, la cultura IA irá audazmente a donde ningún humano ha ido antes. Durante milenios, los seres humanos han vivido dentro de los sueños de otros humanos. En las próximas décadas podríamos encontrarnos viviendo dentro de los sueños de una inteligencia alienígena.

El miedo a la inteligencia artificial ha perseguido a la humanidad solo durante las últimas décadas. Pero durante miles de años, los seres humanos han sido perseguidos por un miedo mucho más profundo. Siempre hemos apreciado el poder de las historias y las imágenes para manipular nuestra mente y crear ilusiones. En consecuencia, desde la antigüedad los humanos han temido quedar atrapados en un mundo de ilusiones.

En el siglo XVII, René Descartes temía que tal vez un demonio malicioso lo estuviera atrapando dentro de un mundo de ilusiones, creando todo lo que veía y escuchaba. En la antigua Grecia, Platón contó la famosa Alegoría de la Cueva, en la que un grupo de personas están encadenadas dentro de una cueva durante toda su vida, frente a una pared en blanco. Una pantalla. En esa pantalla ven proyectadas varias sombras. Los presos confunden las ilusiones que ven allí con la realidad.

En la antigua India, los sabios budistas e hindúes señalaron que todos los humanos vivían atrapados dentro maya—el mundo de las ilusiones. Lo que normalmente tomamos como realidad a menudo son solo ficciones en nuestras propias mentes. Las personas pueden emprender guerras enteras, matando a otros y deseando que las maten ellos mismos, debido a su creencia en esta o aquella ilusión.

La revolución de la IA nos enfrenta cara a cara con el demonio de Descartes, con la caverna de Platón, con la maya. Si no tenemos cuidado, podríamos quedar atrapados detrás de una cortina de ilusiones, que no podríamos arrancar, o incluso darnos cuenta de que está allí.

Por supuesto, el nuevo poder de IA también podría usarse para buenos propósitos. No me detendré en esto, porque las personas que desarrollan IA hablan lo suficiente. El trabajo de los historiadores y filósofos como yo es señalar los peligros. Pero ciertamente, la inteligencia artificial puede ayudarnos de innumerables maneras, desde encontrar nuevas curas para el cáncer hasta descubrir soluciones a la crisis ecológica. La cuestión a la que nos enfrentamos es cómo asegurarnos de que las nuevas herramientas de IA se utilicen para bien y no para mal. Para hacer eso, primero debemos apreciar las verdaderas capacidades de estas herramientas.

Desde 1945 sabemos que la tecnología nuclear podría generar energía barata en beneficio de los humanos, pero también podría destruir físicamente la civilización humana. Por lo tanto, remodelamos todo el orden internacional para proteger a la humanidad y asegurarnos de que la tecnología nuclear se utilice principalmente para el bien. Ahora tenemos que lidiar con una nueva arma de destrucción masiva que puede aniquilar nuestro mundo mental y social.

Todavía podemos regular las nuevas herramientas de inteligencia artificial, pero debemos actuar con rapidez. Mientras que las armas nucleares no pueden inventar armas nucleares más poderosas, la IA puede hacer que la IA sea exponencialmente más poderosa. El primer paso crucial es exigir controles de seguridad rigurosos antes de que las poderosas herramientas de inteligencia artificial se lancen al dominio público. Así como una compañía farmacéutica no puede lanzar nuevos medicamentos antes de probar sus efectos secundarios a corto y largo plazo, las compañías tecnológicas no deberían lanzar nuevas herramientas de inteligencia artificial antes de que sean seguras. Necesitamos un equivalente a la Administración de Alimentos y Medicamentos para la nueva tecnología, y lo necesitamos ayer.

¿La desaceleración de los despliegues públicos de inteligencia artificial no hará que las democracias se queden atrás de regímenes autoritarios más despiadados? Todo lo contrario. Los despliegues de IA no regulados crearían caos social, lo que beneficiaría a los autócratas y arruinaría las democracias. La democracia es una conversación, y las conversaciones se basan en el lenguaje. 

Cuando IA piratea el lenguaje, podría destruir nuestra capacidad de tener conversaciones significativas, destruyendo así la democracia.

Acabamos de encontrarnos con una inteligencia extraterrestre, aquí en la Tierra. No sabemos mucho al respecto, excepto que podría destruir nuestra civilización. Deberíamos poner fin al despliegue irresponsable de herramientas de inteligencia artificial en la esfera pública y regular la inteligencia artificial antes de que nos regule a nosotros. Y la primera regulación que sugeriría es hacer obligatorio que un IA revele que es un ai. Si estoy teniendo una conversación con alguien y no puedo decir si es un ser humano o un IA, ese es el fin de la democracia.

-----------

* Yuval Noah Harari es historiador, filósofo y autor de “Sapiens”, “Homo Deus” y la serie infantil “Unstoppable Us”. Es profesor del Departamento de Historia de la Universidad Hebrea de Jerusalén y cofundador de Sapienship, una empresa de impacto social.

Publicado en el Mercurio