En realidad, no se trata de si debemos confiar en [Anthropic]. Tenemos que intervenir y asegurarnos de que esa carrera no se produzca, porque [Anthropic] no puede confiar realmente en sí misma en el contexto de esa carrera.
¿Crees que Anthropic ya está tomando atajos?
No, todavía no. No está tomando atajos. Lo que digo es que, cuando las cosas se aceleren el año que viene, tendrán que hacerlo si quieren seguir siendo competitivos.
Así pues, las personas se muestran un poco escépticas ante esta afirmación de que la IA nos matará a todos. Creo que la pregunta principal que me hace la gente es: “Bueno, ¿cómo nos matará la IA a todos?”. ¿Es esa la pregunta correcta que hay que plantearse?
Creo que es una pregunta muy natural, porque, como he dicho muchas veces, todo esto suena a ciencia ficción. Pero el ejemplo clásico es, por ejemplo, sintetizar un nuevo virus, o derribar infraestructuras críticas mediante una oleada de ataques informáticos. Aunque esto último quizá tenga menos probabilidad de matar literalmente a todo el mundo.
Pero creo que la pregunta más importante que esa es: ¿quiénes son las personas que aseguran que esto es posible? Y si nos fijamos en los antecedentes, hay muchos pioneros destacados del aprendizaje automático y la inteligencia artificial que afirman que la extinción es una posibilidad. Entre ellos están tanto Dario Amodei como Sam Altman en los últimos cinco años.
Algo que podría resultar bastante interesante sería que la gente volviera a entrevistar a estos ejecutivos y les pidiera que dieran una probabilidad real de extinción en la próxima década, para ver qué cifra dan. Porque esta opinión la comparten muchas de las personas que se toman en serio este tema, pero no suelen expresarla de forma tan directa.
Claramente has acaparado mucha atención. En el sector se habla mucho de una pausa, de un mecanismo para regular el ritmo del desarrollo de la IA o de algún tipo de regulación gubernamental sobre los modelos de IA de vanguardia. ¿Qué crees que hay que hacer ahora?
Un pequeño paso sería algún tipo de acuerdo entre OpenAI y Anthropic, como laboratorios occidentales líderes. [Necesitarían] alguna forma de acuerdo neutral por el que se comprometan a no embarcarse inmediatamente en la automejora recursiva durante el próximo año. Esos son los dos lugares donde es probable que ocurra en este momento.
El problema de la pausa es que está China. Así que, en última instancia, lo que realmente se necesita es algún tipo de acuerdo internacional; una “regulación internacional del ritmo”, por así decirlo. Eso requerirá coordinación internacional y saber dónde se encuentra toda la potencia de cálculo del mundo. Quizá incluso algún tipo de institución internacional similar al CERN. Hay muchas propuestas excelentes al respecto. AI 2040, si has oído hablar de ella, es como la sucesora de AI 2027.
Todas estas ideas implican una intervención gubernamental bastante preocupante. Pero cuando te das cuenta del riesgo, y consigues que los ejecutivos se pronuncien públicamente y admitan lo peligroso que es todo esto, no veo otra opción que tratar las computadoras que ejecutan IA como un recurso peligroso. Necesitamos saber quién tiene qué computadoras, del mismo modo que necesitamos saber quién tiene qué materiales nucleares.
