Traducido por el equipo de SOTT.net
Darwin entre las Máquinas, de Butler, advertía de una futura raza mecánica que podría subyugar a la humanidad.Aunque preocuparse por la dominación de la IA pueda parecer una idea moderna surgida de
Juegos de guerra o
Terminator, resulta que una preocupación similar sobre el dominio de las máquinas se remonta a la época de la Guerra Civil estadounidense, aunque por parte de un
ganadero de ovejas inglés que vivía en Nueva Zelanda. En teoría, Abraham Lincoln podría haber leído algo sobre la dominación de la IA durante su vida.
El 13 de junio de 1863, una carta
publicada en el periódico
The Press de
Christchurch advertía de los peligros potenciales de la evolución mecánica y llamaba a la destrucción de las máquinas, presagiando el desarrollo de lo que hoy llamamos inteligencia artificial, y la reacción en su contra de quienes temen que pueda amenazar a la humanidad con la extinción. Presentaba lo que podría ser el primer argumento publicado a favor de detener el progreso tecnológico para evitar que las máquinas dominen a la humanidad.
Titulada «Darwin entre las Máquinas», la carta ha vuelto a
aparecer recientemente en las redes sociales gracias a Peter Wildeford, del Institute for AI Policy and Strategy. El autor de la carta, Samuel Butler, la envió bajo el seudónimo de Cellarius, pero más tarde asumió públicamente su postura. La carta establecía un paralelismo directo entre la teoría de la evolución de Charles Darwin y el rápido desarrollo de la maquinaria, sugiriendo que las máquinas podrían desarrollar la conciencia y acabar suplantando a los humanos como especie dominante de la Tierra.
«Nosotros mismos estamos creando a nuestros propios sucesores», escribió. «Cada día aumentamos la belleza y la delicadeza de su organización física; cada día les damos más potencia y les proporcionamos, mediante toda clase de ingeniosos artificios, ese poder autorregulador y autoactivo que será para ellos lo que el intelecto ha sido para la raza humana. En el transcurso de los siglos nos descubriremos como la raza inferior».
En la carta, también describía a los humanos como subordinados de las máquinas, pero primero como cuidadores que mantendrían y ayudarían a reproducir la vida mecánica, una relación que Butler comparó con la que existe entre los humanos y sus animales domésticos, antes de que más tarde se invierta y las máquinas tomen el control.
«Entendemos que cuando llegue el estado de cosas que hemos intentado describir más arriba, el hombre se habrá convertido para la máquina en lo que el caballo y el perro son para el hombre... les damos lo que la experiencia nos enseña que es mejor para ellos... del mismo modo, es razonable suponer que las máquinas nos tratarán amablemente, ya que su existencia depende de la nuestra tanto como la nuestra de los animales inferiores», escribió.
El texto anticipaba varias preocupaciones modernas sobre la seguridad de la IA, como la posibilidad de la conciencia de las máquinas, la autorreplicación y la pérdida de control de los humanos sobre sus creaciones tecnológicas. Estos temas aparecieron más tarde en obras como
El Conflicto Evitable de Isaac Asimov, las novelas
Dune de Frank Herbert (Butler posiblemente sirvió de inspiración para el término «
Yihad Butleriana») y las películas
Matrix.
La carta de Butler ahondaba en la taxonomía de la evolución de las máquinas, analizando los «géneros y subgéneros» mecánicos y señalando ejemplos como la evolución de los relojes a partir de los «toscos relojes del siglo XIII», sugiriendo que, al igual que algunos vertebrados primitivos, las especies mecánicas podrían volverse más pequeñas a medida que se volvían más sofisticadas. Amplió estas ideas en su novela de 1872
Erewhon, que describía una sociedad que había prohibido la mayoría de los inventos mecánicos. En su sociedad ficticia, los ciudadanos destruían todas las máquinas inventadas en los 300 años anteriores.
