Los seres humanos y las máquinas: ¿el cielo o el infierno?

La siguiente publicación es una recopilación de charlas recientes que he impartido sobre algunas de las ideas de mi último libro, The Machine Age. Este libro se ha publicado hasta ahora en el Reino Unido, Estados Unidos y Alemania.

Quiero contar cuatro historias sobre la relación entre los seres humanos y las máquinas. Cada una de ellas ofrece una visión tanto del cielo como del infierno. Después, tengo otra historia que contar, que es la más aterradora de todas.

Cuatro historias

La primera y más conocida es el impacto de las máquinas en el empleo. La automatización ha sido un tema controvertido desde que los luditas, tejedores manuales británicos de principios del siglo XIX, comenzaron a destrozar los telares mecánicos que estaban destruyendo sus puestos de trabajo y el poeta William Blake evocó una visión de oscuras fábricas satánicas que brotaban en toda la «tierra verde y agradable» de Inglaterra.

En cuarenta años, entre 1820 y 1860, el tejido a mano desapareció. Pero en ese mismo periodo, la Revolución Industrial despegó con resultados espectaculares. En 1820, la población del Reino Unido era de 25 millones de habitantes. Hoy es de 70 millones. En 1820, la renta per cápita real era de entre 1000 y 1500 libras. Hoy es de alrededor de 30 000 libras. La expansión simultánea de la población y el nivel de vida durante los últimos doscientos años, que desmintió las terribles predicciones de Malthus, fue posible gracias a la maquinaria.

La difusión de la maquinaria no solo proporcionó un flujo aparentemente interminable de puestos de trabajo sustitutivos con salarios más altos, sino que también sustentó a una población en crecimiento.

Todo este logro dependía de la existencia de puestos de trabajo potenciales para sustituir a los que se perdían. La pregunta hoy es: ¿puede continuar esto?

Ahora se afirma que hasta ocho millones de trabajadores del Reino Unido podrían ser sustituidos por la IA en los próximos diez años, quizá incluso antes.

Históricamente, cuando se automatizaba algo, la gente pasaba a ocupar puestos de trabajo que aún no se habían automatizado. Pero con la AGI o inteligencia artificial general (algunos la llaman superinteligencia), la situación es diferente. La AGI puede hacerse cargo de todos los nuevos puestos de trabajo creados por la automatización de los antiguos.

Los optimistas nos dicen que no nos alarmemos. Prevén un aumento constante de la calidad de los puestos de trabajo, ya que las tareas rutinarias se delegarán a los robots y los seres humanos quedarán libres para realizar trabajos de mayor valor (más creativos).

Los pesimistas, como Martin Ford y David Susskind, sostienen que los nuevos puestos de trabajo creados serán menos numerosos y de peor calidad que los que sustituyan. Pintan un panorama de «trabajos maravillosos en la cima y trabajos pésimos o ningún trabajo para todos los demás». Las películas y novelas distópicas cuentan la misma historia. Su trayectoria va desde las fábricas satánicas de METROPOLIS (1927), de Fritz Lang, hasta la nave espacial de humanos hinchados y atrofiados de WALL-E (2008), de Pixar.

Así pues, el debate actual se encuentra estancado entre los entusiastas de la tecnología, que promueven la IA como una «mejora» del rendimiento humano, y aquellos que quieren frenarla para evitar que los robots sustituyan a los humanos en todos los ámbitos de la vida.

Sin embargo, hay otra vertiente en este debate que dice lo siguiente: ¿qué hay de malo en tener que trabajar menos, siempre que se reciba una renta sustitutiva? ¿No hemos soñado todos con tener menos que hacer y más tiempo para divertirnos y jugar?

Esta era la promesa de la tecnología según John Maynard Keyes en su obra Economic Possibilities for our Grandchildren (Posibilidades económicas para nuestros nietos), de 1930.

En resumen, Keynes decía que el progreso técnico estaba poniendo el paraíso al alcance de todos. Calculó que en tres generaciones —aproximadamente cien años después de escribir su obra— el progreso tecnológico proporcionaría a la población del mundo «civilizado» un nivel de vida entre cuatro y ocho veces superior al de la década de 1920, con una carga de trabajo muy inferior a la actual. Liberados de la carga del trabajo, los ciudadanos de a pie podrían, por primera vez en la historia de la humanidad, vivir «con sabiduría, de forma agradable y satisfactoria». Las máquinas harían todo el trabajo necesario, lo que permitiría volver al Edén, donde «ni Adán cavaba ni Eva hilaba».

Keynes no especificó qué haría la gente cuando no tuviera trabajo que hacer.

Era un profesor de Cambridge y leer libros, escuchar música y tener grandes ideas en un entorno precioso, rodeado de amigos y cuadros bonitos, podría parecerle a algunos una vida ideal.

Sin embargo, es posible que a muchos de nosotros nos resultara bastante deprimente vernos privados del principal objetivo de nuestra vida. Incluso Keynes pensaba que la perspectiva de un ocio sin fin provocaría una crisis nerviosa colectiva.

En cualquier caso, no ha sucedido. La mayoría de nosotros estamos muy lejos de una semana laboral de 15 horas, aunque el nivel de vida en los países ricos es cuatro o cinco veces superior al de 1930.

Entonces, ¿por qué las horas de trabajo no han disminuido en línea con las expectativas de Keynes?

Hay cinco razones, dos de las cuales Keynes tuvo en cuenta y otras tres que ignoró.

Las dos que admitió fueron el crecimiento demográfico y las guerras. Se trata de medios infalibles para recrear la escasez justo cuando uno cree que ha superado la necesidad. Hoy en día, la pregunta es: ¿quién será el primero en vencer a Prometeo, Malthus o Marte?

Los tres obstáculos que Keynes no tuvo en cuenta fueron los siguientes:

El primero es la inestabilidad humana. Pensaba que las necesidades humanas podían satisfacerse con bastante rapidez, pero ignoró el fenómeno de las necesidades relativas —quiero algo porque tú lo tienes—, que crea un deseo de tener cada vez más, alimentado por una publicidad implacable las 24 horas del día. La publicidad ya existía en la época de Keynes, pero no era la publicidad implacable, minuto a minuto, dirigida a todos los usuarios de Internet —que ahora constituyen la gran mayoría de la población de los países ricos—, que casi obliga a comprar continuamente a una población adicta.

En segundo lugar, Keynes ignoró el empleo como fuente de identidad y, por lo tanto, el desempleo, aunque compensado, como una maldición a la que hay que resistirse en lugar de una bendición que hay que acoger.

En tercer lugar, Keynes ignoró la cuestión de la distribución y, por lo tanto, del poder. Supuso que los beneficios de la eficiencia irían a parar a todos, no solo a unos pocos. Pero no existe ningún mecanismo automático que lo garantice y, desde el auge de la economía neoliberal en los últimos cuarenta años, los mecanismos sociales para asegurar el crecimiento de los salarios reales se han debilitado o han retrocedido. Mientras que algunas personas han reducido sus horas de trabajo porque pueden permitírselo, muchas otras se ven obligadas a trabajar más de lo que desean en un esfuerzo desesperado por conservar lo que ya tienen.

Para resumir este debate: la afirmación de que la IA pronto será capaz de superar a los humanos en cualquier tarea que estos realicen plantea una pregunta inquietante: ¿cuál es el valor añadido de ser humano? ¿No se convertirán los humanos en prescindibles? La respuesta de que los humanos tienen un alma o una conciencia únicas no convence a los materialistas, que creen, con Descartes, que el alma se encuentra en algún lugar del cerebro. La mente humana es solo un tipo complicado de cerebro y, en principio, no hay ningún obstáculo para construir cerebros artificiales con alma. Debemos entender que todas estas ideas descabelladas están siendo financiadas en gran medida por los oligarcas tecnológicos.

Mi opinión es que, si queremos que la historia del trabajo y la tecnología tenga un final feliz, tendremos que ralentizar el ritmo de destrucción de puestos de trabajo, pensar más detenidamente en los sustitutos de los puestos de trabajo, reflexionar muy cuidadosamente sobre los ingresos sustitutivos para los puestos de trabajo reducidos e instituir impuestos sobre el patrimonio muy elevados para financiarlos.

Y también podríamos plantearnos lo siguiente: ¿de cuántas de las mejoras tecnológicas de (por ejemplo) los últimos cincuenta años podríamos prescindir fácilmente?

Mi segunda historia trata sobre el impacto de la tecnología en la salud. «Un cambio de paradigma: cómo se podría utilizar la IA para predecir los problemas de salud de las personas», titulaba hace unas semanas The Guardian. Una IA entrenada con datos de cinco años y 10 000 millones de eventos, como ingresos hospitalarios, diagnósticos y fallecimientos, será capaz de predecir la aparición de 1000 enfermedades, lo que permitirá a los médicos ofrecer pruebas de detección «más específicas» y medicamentos preventivos.

El sueño de la medicina es que la IA nos permita vivir más tiempo y con mejor salud. Promete revertir, al menos en parte, el proceso de envejecimiento. Estamos al borde de una generación de centenarios gracias a la tecnología. Sin duda, esto es una ventaja, ¿no? La respuesta correcta es que la calidad de vida es más importante que la cantidad de años: «mejor morir gloriosamente que vivir inútilmente», como dice el proverbio. Una vida prolongada artificialmente parecería una historia de terror para muchas personas. De ahí el creciente movimiento a favor de la muerte asistida.

Un tercer tema de debate actual es el impacto de la tecnología en la cohesión social y la salud mental. Se dice que la gran ventaja de las redes sociales es el empoderamiento de la gente común a través de un acceso sin precedentes a la información. Al derrocar la autoridad de los guardianes profesionales y religiosos, liberan una avalancha reprimida de actividad democrática, política y creativa.

Pero esto va acompañado de relaciones atomizadas y solipsistas de los seres humanos con Internet, que sustituyen a las relaciones entre personas y conducen al aumento de las enfermedades de Internet: alienación, aislamiento, adicción a la pornografía, etc. Cuanto más promete la tecnología digital liberar a sus usuarios de las restricciones de la autoridad, más crece la demanda de restricción del acceso y control de los contenidos para protegerse contra estas adicciones. Aquí parece que nos enfrentamos a una terrible carrera entre la tecnología y el colapso mental y social.

Un cuarto enfoque, relacionado con los anteriores, es el impacto de la IA en la política. Se dice habitualmente que las redes sociales socavan la democracia al difundir desinformación y teorías conspirativas. El control de los medios de comunicación por parte de multimillonarios tecnológicos como Elon Musk, Peter Thiel, Jeff Bezos, Mark Zuckerberg y algunos otros amenaza el fin de la libertad de expresión tal y como la conocemos. Su connivencia con la represión de Trump contra los medios de comunicación lleva la simbiosis entre el poder del dinero y la política a un nuevo nivel.

El hilo conductor de las historias anteriores es que, a medida que la tecnología se aplica a un abanico cada vez más amplio de actividades humanas, será necesario realizar un esfuerzo mucho mayor para garantizar que siga siendo segura y saludable. Destacados líderes en el campo de la IA, como Stuart Russell, Max Tegmark y Yuval Noah Harari, han pedido que se suspenda la investigación y el despliegue para dar tiempo a reflexionar sobre los riesgos existenciales que plantea la tecnología. El final ideal de esa pausa podría ser un acuerdo mundial para prohibir, o al menos ralentizar, ciertos tipos de investigación o desarrollo, por considerar que es demasiado peligroso permitir que sigan adelante sin control.

Pero aquí llego a lo que para mí es la parte más aterradora de mi relato.

La IA como arma

Algunos de ustedes conocerán la famosa escena del comienzo de 2001: Una odisea del espacio, de Kubrick, en la que uno de nuestros antepasados cubiertos de pelo recoge un hueso de un esqueleto que yace en el suelo y se da cuenta de que puede utilizarlo para defenderse de sus enemigos. Tras matar al líder de un grupo de merodeadores, este humanoide lanza el hueso al aire en señal de triunfo y, ante nuestros ojos, se transforma en una esbelta nave espacial que se dirige a toda velocidad hacia Júpiter.

Esta escena nos recuerda oportunamente que la tecnología comenzó como un arma de guerra, ya fuera para cazar animales o a otros seres humanos.

No quiero sugerir que toda la tecnología se haya desarrollado con fines militares. La frase «convertir las espadas en arados» sugiere exactamente lo contrario. Además, la imprenta no comenzó como un arma de guerra, aunque los gobernantes pronto vieron su valor para fines propagandísticos.

Pero, en la mayoría de los casos, la creatividad de los científicos se ha canalizado hacia fines militares. Un ejemplo temprano es Arquímedes, que se distrajo de sus pensamientos puros por la orden de construir defensas para proteger Siracusa, lo que dio lugar a la invención de la catapulta. Y todos conocemos a los grandes físicos y matemáticos que participaron en la construcción de la bomba atómica. A lo largo de los siglos, los gobiernos han subvencionado continuamente a los inventores, no para mejorar la vida, sino para producir formas más eficaces de matar.

La IA tal y como la conocemos hoy en día se gestó en la guerra y en los preparativos bélicos. El ordenador no nació en institutos científicos que trabajaban por el bien común, sino en el Bletchley Park del Reino Unido y en los programas DARPA de Estados Unidos, el primero diseñado para descifrar el código de guerra de Alemania y el segundo para mantener a Estados Unidos por delante de la Unión Soviética en la Guerra Fría. Estos avances dieron lugar a Internet, desarrollado inicialmente con fines de inteligencia militar por ARPANET, un programa del Departamento de Defensa de los Estados Unidos.

Todos los sistemas de reconocimiento de voz y facial, que ahora son omnipresentes, se desarrollaron inicialmente para satisfacer las necesidades militares y de inteligencia. Por supuesto, ha habido derivados civiles de los que todos nos beneficiamos. Pero su despliegue militar y de inteligencia ha crecido en paralelo. Mi temor es que la última militarización de la tecnología no permita aplicaciones civiles porque no quedarán civiles.

¿Por qué digo esto? Porque todos los frenos que queramos poner al desarrollo de la IA por el bien de todos se cancelarán cuando se trate del desarrollo militar, ya que debemos asegurarnos de que nuestra IA sea mejor que la vuestra.

Los optimistas dirán que incluso los países en guerra o en potencial conflicto podrán llegar a acuerdos para detener el desarrollo y el despliegue de armas que los paralizarían o destruirían a todos. Citan el Protocolo de Ginebra de 1925, que prohíbe el uso de gases venenosos, y los diversos acuerdos de no proliferación y control de armas que han tratado, con cierto éxito, de limitar la posesión y el desarrollo de armas nucleares, químicas y biológicas.

Estos fueron logros notables en su momento. Pero esas armas eran específicas e identificables, por lo que su desarrollo estaba sujeto a inspección y control. Sin embargo, la amenaza de las armas de IA es más difusa, ya que penetra en casi todos los ámbitos de la operación militar: drones y robots, vigilancia y reconocimiento de inteligencia, guerra cibernética, piratería informática y desinformación, mejora del mando y control.

En un mundo así, la investigación y el desarrollo de la IA forman parte de la carrera armamentística; la política en materia de IA se convierte en una cuestión de garantizar que nuestro desarrollo de la IA se mantenga por delante del de nuestros enemigos potenciales.

A medida que Gran Bretaña y Europa se rearman, una fuente clave de financiación para el desarrollo de la IA serán los servicios de defensa e inteligencia. El tipo de IA que queramos y los fines para los que la queramos vendrán determinados por los requisitos de seguridad. Y esto será así en todos los países que participen en el juego de suma cero.

La opinión predominante hoy en día es que hemos vuelto a la situación de la Guerra Fría, o incluso peor. Fiona Hill, miembro de la Revisión Estratégica de Defensa del Gobierno del Reino Unido, cree que la tercera guerra mundial ya ha comenzado. La propia Revisión exige la movilización total de la sociedad contra la amenaza de múltiples sistemas de armas que podrían ser desplegados por Estados terroristas o malignos.

En un mundo así, la diferencia entre la paz y la guerra se desvanece: estamos siempre en guerra, tenemos que estar en guardia contra amenazas a menudo silenciosas y secretas. Y eso presagia el fin de la libertad de expresión y de reunión.

La semana pasada, nuestro Parlamento británico aprobó una enmienda a la Ley contra el Terrorismo de 2000, añadiendo al Grupo de Acción Palestina a la lista de organizaciones proscritas. Hablo con cierta emoción sobre este tema porque la madre de mi nuera, de 75 años, fue arrestada y detenida durante toda la noche por participar en una de esas protestas. No estoy sugiriendo que hayamos llegado a un estado totalmente orwelliano, pero hay un avance orwelliano que requiere nuestra atención constante.

Entonces, ¿soy optimista o pesimista? ¿El vaso está medio lleno o medio vacío? Me describiría como un neoludita. En mi opinión, la innovación tecnológica ha llegado a un punto de rendimiento decreciente. El pequeño valor añadido que aún puede aportar a la existencia humana se ve superado por la amenaza de destrucción que conlleva. Hemos luchado con ahínco durante miles de años para llegar hasta aquí. Ahora deberíamos empezar a disfrutar de sus frutos, en lugar de prepararnos para una nueva ronda de destrucción colectiva.