Según las notas, Bubeck también pareció insinuar que Buckmaster arruinaría su carrera cuando este amenazó con contarle a la prensa que creía que OpenAI le había robado su trabajo. “Si no quieres que sea amable, no tengo por qué serlo”, expresó Bubeck, según consta en las notas de la reunión.
Preocupados por los modos impropios
Nestor Guillen, profesor visitante de matemáticas en la Universidad de Nueva York, declaró a WIRED que entre los matemáticos existe la percepción de que las empresas de IA tienen un comportamiento mafioso.
“No estamos de acuerdo con esa caracterización”, manifiesta McCallum.
“Siento mucha inquietud, y la veo cada vez más entre mis colegas matemáticos, no por la IA en sí, sino por las compañías de IA”, destaca Guillén. “Creo que gran parte de la inquietud se debe a la acumulación de poder en un solo lugar”.
A mediados de septiembre , OpenAI creó un grupo asesor para ayudar a determinar cómo la empresa evalúa y comunica los nuevos resultados, mantiene los estándares académicos y profesionales, y desarrolla herramientas que apoyan la investigación y el aprendizaje matemático. Sin embargo, según los matemáticos, la empresa no parece haber avanzado mucho.
Muchos se sienten frustrados porque OpenAI y Anthropic siguen publicando resultados en blogs en lugar de artículos científicos, lo que dificulta la verificación y a menudo excluye trabajos previos de otros matemáticos. Los anuncios fragmentados no se limitan a los laboratorios: el propio Alpöge anunció que había refutado una conjetura de 87 años de antigüedad mediante un tuit publicado poco después de la final de la Copa del Mundo.
“Para mí, las matemáticas a través de tuits y comunicados de prensa no son la manera de nutrir el ecosistema que creó el terreno fértil en el que se han formado”, objeta Kra.
Este año, algunos han creado nuevas herramientas en respuesta al aumento de las demostraciones asistidas por máquinas. El objetivo es ayudar a la comunidad a utilizar los nuevos resultados y a discernir qué información requiere un análisis más profundo. Entre estas herramientas se encuentran Hexagon, un repositorio de material generado principalmente por IA, y Palomar, un registro de matemáticas verificadas por máquinas.
Aunque se ha animado directamente a OpenAI a utilizar estas herramientas, “no han cambiado su comportamiento”, señala Kra. Tampoco cree que las acciones de la empresa estén en consonancia con la Declaración de Leiden, un llamado de más de 4,000 matemáticos para que las empresas de IA cumplan con los estándares de la comunidad matemática, en cuya redacción ella participó.
¿El fin de las matemáticas como las conocemos?
Varios empleados de OpenAI creen que su tecnología ya ha dejado obsoletas las matemáticas, según personas que han hablado con ellos. “No creemos que el futuro de las matemáticas esté escrito”, opina McCallum. “Estamos colaborando con la comunidad matemática para afrontar el futuro de forma conjunta”. El escenario en el que las capacidades de la IA superan las de los investigadores humanos se planteó como hipotético durante la reunión de agosto, pero los asistentes que hablaron con WIRED lo interpretaron como una advertencia sobre lo que estaba por venir. La compañía ha informado a los matemáticos sobre sus capacidades y avances de la misma manera que “la policía podría querer notificar a la familia antes de informar de una muerte en un accidente de tráfico”, comparó la persona.
Según una persona cercana a él, Bubeck parece pensar que la tecnología de su empresa acabará rápidamente con la carrera de la mayoría de los matemáticos. En declaraciones a WIRED, Bubeck destaca que cree que una IA más potente podría ayudar a los matemáticos a abordar cuestiones más ambiciosas, conectar mejor su trabajo con la solución de problemas del mundo real y hacer que las matemáticas sean más accesibles. “Veo esto como una oportunidad para ampliar las capacidades de los matemáticos y el impacto que puede tener su trabajo”, declara.
Los matemáticos están conscientes de que deben adaptarse, sobre todo para preparar a las nuevas generaciones, pero no creen que su campo esté muerto. “Está cambiando nuestra forma de trabajar, pero creo que es un momento para pensar en grande”, esgrime Kra. Le alegra contar con una nueva y poderosa herramienta para resolver problemas; solo desea que las compañías sean más transparentes para poder confiar en los resultados y aprovecharlos.
“Es un momento que da miedo, pero también es muy emocionante”, concluye.
Artículo originalmente publicado en WIRED.com. Adaptado por Mauricio Serfatty Godoy.
