Los gobiernos de todo el mundo deben establecer con urgencia controles efectivos para evitar que los sistemas de inteligencia artificial (IA) más avanzados se salgan de control y representen una amenaza existencial para la humanidad.
Esta fue la solicitud que hicieron Yoshua Bengio, profesor de la Universidad de Montreal y considerado uno de los padrinos de la IA, así como Dario Amodei, Sam Altman y Clément Delangue, directores ejecutivos de Anthropic, OpenAI y Hugging Face, respectivamente, ante el Consejo de Seguridad de la Organización de las Naciones Unidas (ONU).
En medio de un número de voces que piden frenar el desarrollo de esta tecnología hasta garantizar su seguridad, estos representantes del sector participaron en una sesión en el marco de la más reciente Asamblea General de la ONU para informar al organismo sobre las amenazas que prevén alrededor de la IA.
El presidente de Google DeepMind plantea que Estados Unidos podría impulsar una entidad encargada de evaluar modelos avanzados de IA y establecer estándares de seguridad compartidos.
Amodei aseguró que una mala gestión de la IA “podría suponer un riesgo para la humanidad en su conjunto”. El pronóstico fue respaldado por Altman, quien advirtió que, de no tomar las medidas necesarias, “podríamos perder el control del futuro a manos de la IA”.
Por su parte, Delangue precisó que el mayor riesgo no es, por sí solo, el desarrollo de una IA con grandes capacidades. A su juicio, la amenaza está en la brecha que separa los buenos y malos usos de la tecnología, así como en las capacidades dispares entre empresas y países para defenderse de estos ciberataques de nueva generación. Por ello, defendió la necesidad de transparentar los procesos de desarrollo e impulsar los sistemas de código abierto. “El mundo necesita la IA de código abierto más que nunca para defenderse”, aseguró.
Bengio sostuvo que todos estos riesgos son inminentes y reales. Advirtió que se trata de una “amenaza sin precedentes” que no respeta fronteras y que ningún país puede contener por sí solo.
El debate despierta diversas incógnitas: ¿quién debería regular esta tecnología que avanza a un ritmo sin precedentes y, al parecer, fuera del control humano? ¿En realidad las empresas de IA están dispuestas a someterse a una normativa que frene su innovación? ¿Todos los países tienen la capacidad para garantizar el desarrollo y uso de una IA segura?
Aunque existe cierto consenso sobre las posibles amenazas, los especialistas aseguran que ninguna empresa ni país están dispuestos a frenar su innovación ante el temor de quedar rezagados frente a sus rivales.
No bastan las “buenas intenciones”
Los analistas más escépticos sobre los riesgos existenciales de la IA aseguran que el discurso alarmista no es más que una estrategia de marketing y una técnica con la que los grandes desarrolladores pretenden influir en la regulación de esta tecnología.
A su juicio, la verdadera amenaza de esta tecnología no está, por defecto, en su avance, sino en los contextos en los que se desarrolla y los usos que la propia humanidad podría darle.
António Guterres, secretario general de la ONU, precisó que, aunque es esencial que cada país regule a las empresas de IA que operan en su territorio, la coordinación global es indispensable para garantizar una gobernanza efectiva alrededor de su uso.
Propuso que los países con mayor capacidad y que están a la vanguardia de la IA deberían establecer mecanismos de contacto, intercambiar información y crear salvaguardias comunes para evitar que la carrera por dominar la nueva tecnología conduzca a “un desastre gigantesco a nivel mundial”.
