Las preocupaciones sobre las amenazas existenciales para la humanidad que conlleva el avance tecnológico no son nuevas. Aunque con ciertos matices, la discusión sobre las capacidades de la tecnología para acabar con la humanidad se ha planteado desde hace más de siglo y medio. Sin embargo, los últimos avances de OpenAI y Anthropic plantean una pregunta una pregunta más urgente que nunca": ¿el discurso alarmista es una simple estrategia de marketing o realmente estamos en una época en la que la innovación amenaza la supervivencia de sus propios creadores?
Las primeras advertencias
En junio de 1863, el escritor Samuel Butler publicó en el periódico neozelandés The Press una carta titulada "Darwin Among the Machines" ("Darwin entre las máquinas"), con una idea tan provocadora como influyente: las máquinas podrían experimentar un proceso evolutivo análogo al de los seres vivos hasta acabar superando al ser humano. La ficción ya había explorado la creación de vida artificial en obras como Frankenstein (1818), pero Butler fue uno de los primeros autores, (posiblemente el primero) en plantearlo de forma explícita, en aplicar las ideas de la evolución darwiniana a las propias máquinas y especular con que pudieran convertirse en una especie sucesora de la humanidad. En plena Revolución Industrial, Butler sostenía que las máquinas adquirirían capacidades cada vez mayores, mientras los humanos se volverían progresivamente dependientes de ellas, hasta llegar a un escenario en el que podrían alcanzar autonomía y ejercer la supremacía sobre sus creadores.
Más de un siglo después, en el año 2000, esta idea pasó de ser una hipótesis ilusoria a una teoría con mayor sustento científico. En aquel año se documentaron grandes avances en disciplinas como la robótica, la ingeniería genética y la nanotecnología, apoyados por sistemas de inteligencia artificial no generativa.
El filósofo Nick Bostrom popularizó la idea de que la IA superinteligente podría borrar a la humanidad. En su nuevo libro imagina un mundo en el que los algoritmos nos resuelvan la vida.
En ese contexto, Bill Joy, entonces científico jefe de Sun Microsystems, publicó en WIRED un ensayo titulado Why the Future Doesn’t Need Us en el que, con base en estas tecnologías consideradas peligrosas en aquel entonces, aseguraba que el desarrollo tecnológico podría llegar a un punto en el que los seres humanos perdieran el control de sus propias creaciones y pusieran en riesgo su supervivencia.
Joy comparaba esos tres avances tecnológicos con las armas nucleares. La diferencia, según él, era que una bomba nuclear requería grandes instalaciones, enormes cantidades de recursos y conocimientos especializados. En cambio, las tecnologías analizadas en su texto podrían llegar a estar disponibles para individuos o grupos pequeños.
Así introdujo una idea tan preocupante entonces como ahora: “destrucción masiva habilitada por el conocimiento” (knowledge-enabled mass destruction). Este concepto sugiere que el conocimiento, y no necesariamente una infraestructura gigantesca, podría convertirse en el elemento que permita producir daños de escala catastrófica.
De la IA a la IA generativa
Desde entonces, y con el avance de la inteligencia artificial no generativa, decenas de filósofos, científicos y desarrolladores comenzaron a emitir advertencias sobre la posible supremacía de la tecnología sobre el intelecto humano.
En diciembre de 2014, el astrofísico Stephen Hawking declaraba a la BBC que el desarrollo de IA “completa” podría significar el fin de la raza humana. Un año más tarde, se documentó el primer texto con peso académico que exponía los posibles riesgos existenciales relacionados con la IA.
Se trató de una carta abierta titulada “Prioridades de investigación para una inteligencia artificial robusta y beneficiosa”, firmada por Hawking, Elon Musk y cientos de investigadores, avalada por el Future of Life Institute.
El texto reconocía que la IA estaba avanzando rápidamente y podía producir enormes beneficios, pero señalaba que era necesario investigar cómo hacer que los sistemas fueran robustos y beneficiosos para la sociedad.
