Yuval Noah Harari, publicó en 2024 un nuevo libro, Nexus. Me parece un texto fundamental para pensar en clave de futuribles los impactos de la Inteligencia Artificial en nuestras sociedades, a través de una mirada basada en redes de información.
¿Qué es lo que nos hace humanos? ¿Es nuestra inteligencia, nuestra capacidad de adaptación o nuestra habilidad para cooperar? Según Harari en el libro "Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA", el poder humano reside en nuestra capacidad de construir grandes redes de cooperación, y la información es el pegamento que mantiene unidas esas redes. Sin embargo, el libro advierte que la forma en que construimos estas redes nos predispone a hacer un uso imprudente del poder.
La información es más que la mera representación de la realidad. Es algo que conecta diferentes puntos de una red, creando nuevas realidades. Según el autor, la información puede ser verdadera o falsa, pero siempre conecta. Esta idea ingenua de la información puede llevarnos a un enfoque optimista de las redes humanas, donde más información es igual a más verdad y sabiduría. Sin embargo, la realidad es más compleja. La información también incluye errores, mentiras, fantasías y ficciones.
Los humanos cooperamos no solo a través de hechos objetivos, sino también a través de relatos que compartimos y creemos. Estos relatos crean una realidad intersubjetiva, donde conceptos como leyes, dioses o dinero existen porque muchas personas creen en ellos y los sostienen a través del intercambio de información. Las ficciones tienen una ventaja sobre la verdad al unir a las personas: pueden simplificarse, mientras que la verdad suele ser compleja.
A medida que las sociedades se volvieron más complejas, los relatos ya no eran suficientes, y los documentos escritos se convirtieron en una herramienta esencial. Los documentos, como registros tributarios, ayudaron a la organización, pero también plantearon el problema de la recuperación de la información. La burocracia surgió como una solución, creando un orden artificial al mundo en lugar de entenderlo tal como es.
La historia de los libros sagrados y la imprenta demuestra que la tecnología no garantiza la infalibilidad. La difusión de información, aunque democratizadora, también puede propagar noticias falsas y teorías de la conspiración. La ciencia surge como una alternativa a esta situación, con mecanismos de autocorrección sólidos que reconocen la inevitabilidad del error y promueven el escepticismo.
La democracia se define como una red de información distribuida con mecanismos de autocorrección sólidos. Se basa en la idea de que todos somos falibles y que el poder debe ser limitado y descentralizado. Los medios de comunicación, los tribunales y las universidades, todos ellos independientes, son mecanismos de autocorrección necesarios que protegen la verdad incluso de la voluntad de la mayoría. En contraste, el totalitarismo busca centralizar el flujo de información y suprimir la verdad. Los medios de comunicación de masas permitieron la democracia a gran escala, pero también hicieron posible el totalitarismo.
La inteligencia artificial marca un antes y un después en la historia de las redes de información, ya que es la primera tecnología capaz de tomar decisiones y generar nuevas ideas por sí misma. Los algoritmos de redes sociales pueden tomar decisiones activas, y la IA puede procesar información por sí sola, sustituyendo a los humanos en la toma de decisiones. La IA tiene el potencial de alterar no solo la historia de nuestra especie, sino la evolución de todos los seres vivos.
Los ordenadores, al ser capaces de perseguir objetivos y tomar decisiones por sí mismos, se convierten en nuevos miembros de las redes de información. Esto plantea nuevos desafíos y preguntas:
- ¿Cómo viviremos en un mundo donde melodías, teorías científicas o mitos religiosos sean moldeados por una inteligencia no humana?
- ¿Qué pasará con la democracia, que se basa en conversaciones humanas, si los ordenadores hackean el lenguaje y dificultan la participación ciudadana?
- ¿Cómo nos relacionaremos con la IA, que puede no tener sentimientos propios, pero puede hacer que nosotros nos sintamos emocionalmente ligados a ella?
- ¿Será posible protegernos de una plétora de problemas imprevisibles y para eso necesitamos crear instituciones vivas que puedan identificar la amenaza cuando surja y responder a ella?
La red informática puede ser utilizada para la vigilancia total, la manipulación y la pérdida de privacidad. Los algoritmos pueden premiar la indignación y las noticias falsas, y los sistemas de puntuación social amenazan con convertir la vida en una interminable entrevista de trabajo. Además, la red informática, al estar siempre activa, puede negarnos la posibilidad de desconectar y descansar, que son importantes para corregir la red.
Los ordenadores son poderosos y, si se les marcan objetivos desajustados, pueden tener consecuencias peligrosas no previstas. Además, los ordenadores pueden crear realidades intercomputacionales que sean difíciles de entender para los humanos. El autor advierte que al usar bases de datos y matemáticas precisas para descubrir patrones, se pueden imponer prejuicios con una eficiencia sin precedentes. Es fundamental entender que la información se suele usar para crear orden, y no para descubrir la verdad.
Para evitar la catástrofe, es necesario mantener los mecanismos de autocorrección democráticos. Los principios democráticos esenciales son:
- Benevolencia: la información debe usarse para ayudar, no para manipular.
- Descentralización: múltiples bases de datos y canales de información.
- Mutualidad: aumentar la vigilancia sobre el gobierno y las empresas.
- Margen para el cambio y el descanso: permitir la desconexión.
Además, la automatización puede desestabilizar el mercado laboral, haciendo necesario que las personas adquieran nuevas habilidades y se reinventen constantemente. La comprensión de cómo funciona el sistema es crucial para la supervisión. Sin embargo, la complejidad de los algoritmos puede hacer que sean incomprensibles, lo que socava la democracia. Es fundamental buscar mecanismos que auditen a los algoritmos y garanticen su imparcialidad.
La IA plantea la amenaza de una anarquía digital y la posible pérdida de confianza entre los humanos. Además, puede dividir el mundo en imperios digitales rivales, cada uno con diferentes valores culturales y normas sociales. La IA puede ser utilizada para desatar noticias falsas y crear humanos falsos que dificultan confiar en cualquier cosa. La manipulación de datos y la concentración del poder en un solo núcleo podrían generar nuevas formas de colonialismo. La cooperación entre las diferentes sociedades es esencial para regular la IA y evitar una carrera armamentística.
La historia de la información nos muestra que su papel principal es forjar nuevas redes, más que representar realidades preexistentes. La IA es una tecnología que cambia las reglas del juego al ser capaz de tomar decisiones y generar ideas por sí misma. Tenemos la oportunidad de crear redes de información equilibradas que mantengan a raya su propio poder, pero debemos ser cautelosos y no caer en la complacencia. Las decisiones que tomemos en los próximos años determinarán si esta nueva inteligencia ajena será un error o el inicio de un nuevo capítulo en la evolución de la vida.
Finalmente les dejo aquí mi subrayado del libro para quienes no puedan leerlo completo.
[La imagen que acompaña este artículo fue generada por dalle a través de chatgpt]
.
.
