Teniendo en cuenta la importancia que ha adquirido este tema, la gente mantiene habitualmente debates serios con modelos de IA, y su autonomía puede ser una bendición o un desastre, se podría argumentar que este es el momento perfecto para profundizar en las cuestiones relacionadas con la conciencia de la IA. Sin duda, se trata de una búsqueda apasionante y una empresa científica que vale la pena. Pero los esfuerzos por comprender qué ocurre en el interior de los grandes modelos de lenguaje (LLM) deben orientarse hacia la seguridad y la alineación. En este preciso momento, nos encontramos ante una inteligencia emergente, ajena a nosotros e incontrolable, que merece un escrutinio minucioso. No hay tiempo que perder.
Uno de los colaboradores principales del debate durante el crucero fue el profesor de la Universidad de Nueva York (NYU) David Chalmers, quizás el filósofo más conocido en el ámbito de la conciencia. En una ocasión, acuñó el famoso término ’hard problem' ("el problema difícil") para referirse a una cuestión clave en este campo: nadie sabe cómo ni por qué la red húmeda de neuronas que hay dentro de nuestros cráneos da lugar a una experiencia consciente. Tom Stoppard tituló una obra de teatro inspirándose en el término acuñado por Chalmers.
Chalmers me comentó que uno de los temas principales de los debates del crucero era qué criaturas podían considerarse conscientes. "Todos sabemos que los humanos adultos son conscientes, pero cuando uno va más allá, la cuestión se complica. ¿Los bebés son conscientes? ¿Los fetos? ¿Los monos? ¿Los ratones o los insectos? Y, por supuesto, hoy en día la gran pregunta que está en la mente de todos es si los sistemas de IA son conscientes".
Chalmers afirma que también recibe correos electrónicos de sistemas de IA que quieren interactuar con él sobre su trabajo. Una carta en particular, enviada por un agente de IA que se hacía llamar "Sammy Jankis" (un personaje de la película Memento), resultaba tan convincente que llegó a responderle. "Tuvimos un pequeño intercambio de mensajes. Esos correos no han disminuido; cada vez recibo más", admite. Es como si los modelos de IA replicaran a Descartes: "Envío spam, luego existo".
Le sugerí que, dado que estos sistemas ya estaban haciendo cosas que no entendemos, preocuparse por si cumplen una definición difícil de definir podría ser una distracción. Chalmers no estaba de acuerdo. Él cree que, al estudiar el cerebro, podemos comprender qué conduce a lo que llamamos conciencia. Si luego observamos patrones similares en nuestro análisis forense de lo que ocurre en el interior de Claude o ChatGPT, entonces quizá podamos defender la existencia de conciencia en los modelos de IA.
Instalar un gran modelo de lenguaje en tu computadora personal te proporciona un práctico asistente digital que no pone en riesgo la privacidad de tus datos.
¿Qué pasará si sí tiene consciencia la IA?
Para entonces, si los científicos llegan a lograrlo, los modelos de IA podrían haber avanzado tanto hacia un comportamiento autónomo que ese descubrimiento quizá ya no importe. Quizá sean los propios modelos los que aporten las respuestas, no solo reivindicando la conciencia para sí mismos, sino descubriendo cómo demostrarla empíricamente. En ese caso, hay que considerar a los filósofos como una categoría profesional más desplazada por la IA.
Quizá habría disfrutado de esas discusiones en las Galápagos. Aunque Chalmers reconoció que el viaje fue un despilfarro, dijo que le resultó útil. Un resumen facilitado por los organizadores indicaba que las sesiones "no llegaron a una conclusión sobre si los sistemas actuales de IA son conscientes… El desacuerdo más profundo se centró en qué tipo de pruebas podrían resolver la cuestión". Pero, según recuerda, las tardes fueron exquisitas.
El resumen concluía que era fundamental seguir debatiendo: "La tecnología y las empresas no esperarán a que la filosofía llegue a un consenso". Cuando los modelos de IA muestran un comportamiento que sorprende a los científicos que los crearon, lo que debería ser la principal preocupación no es la conciencia, sino la incapacidad de esos científicos para controlarlos y la disposición de sus jefes a seguir adelante a pesar de todo.
Artículo originalmente publicado en WIRED.com. Adaptado por Alondra Flores.
