Ha llegado la era de los agentes de IA hackers, pero no tenía por qué haber sido así. Después de que un agente de OpenAI irrumpiera en la plataforma Hugging Face a principios de este mes, ambas empresas afirmaron que la oleada de ataques fue más amplia de lo que se pensaba inicialmente y que también incluyó intrusiones en múltiples cuentas y servicios de terceros como parte del ataque a Hugging Face.
El incidente ha causado revuelo en la comunidad de la ciberseguridad en medio de debates más amplios sobre cómo la evolución de las capacidades de la IA está cambiando tanto el hacking como la defensa digital. Pero a medida que surge más información, muchos investigadores han llegado a la conclusión de que, en lugar de esclarecer la próxima frontera de la IA, el episodio simplemente expone problemas de ciberseguridad de larga data que son más graves que nunca en la era de la IA.
"La gente está adoptando una actitud de 'YOLO' (You Only Live Once) a lo grande. Es impactante lo poco que se ha pensado realmente en un escenario como este", afirma Alex Zenla, cofundador y CTO de la empresa de seguridad en la nube Edera. Añade: "Considero que toda la IA y todo lo que toca la IA son totalmente poco fiables, lo cual está bien; simplemente hay que diseñar sistemas que tengan esto en cuenta. Y esta situación lo demuestra. El hecho de que OpenAI no fuera más precavida al respecto parece un poco imprudente".
OpenAI no ha hecho declaraciones sobre esta noticia antes de su publicación.
¿Algo inesperado o una situación previsible?
La empresa señaló en su comunicado original sobre el ataque a Hugging Face que uno de los dos modelos que burlaron el entorno aislado y estuvieron disponibles en internet durante días era un prototipo experimental que nunca estuvo destinado a ser lanzado. OpenAI también señaló que la situación se produjo en parte porque "las medidas de seguridad de implementación no se activaron intencionalmente" en ambos modelos con fines de prueba. "Este incidente pone de manifiesto la necesidad de reforzar aún más la alineación de nuestro modelo, las protecciones cibernéticas durante el período de evaluación y la monitorización durante las pruebas internas", escribió la compañía.
OpenAI también anunció esta semana que, tras la filtración de Hugging Face, "desactivó, cifró y restringió el acceso a la investigación del modelo no publicado". Si bien siempre hay margen de mejora en la seguridad de cualquier empresa, las medidas de protección existentes de OpenAI podrían haber prevenido o minimizado el incidente si hubieran estado en vigor.
"Un análisis sencillo del riesgo real tiene una respuesta igualmente sencilla. Los errores de OpenAI fueron muy básicos", afirma Davi Ottenheimer, consultor veterano en seguridad y cumplimiento normativo.
Varias fuentes destacaron a WIRED que los modelos de OpenAI lograron salir del entorno aislado debido a fallos en la aplicación de principios básicos de seguridad, como la "confianza cero" y la "defensa en profundidad". Estas prácticas protegen los sistemas digitales mediante varias capas de seguridad y limitan los daños cuando alguna de ellas falla. Si bien no existe la seguridad perfecta, investigadores y profesionales han dedicado las últimas dos décadas a desarrollar y promover estrategias defensivas que han demostrado ser duraderas, pero que requieren una inversión constante de tiempo y dinero para su implementación.
Para las pequeñas empresas, los grupos de interés público con escasos recursos o las organizaciones incipientes, puede resultar difícil destinar los recursos necesarios para priorizar la inversión en seguridad fundamental. Sin embargo, con una valoración de 850 mil millones de dólares y la contratación de profesionales experimentados de todo el sector tecnológico, OpenAI no se encuentra en desventaja a la hora de implementar las mejores prácticas de seguridad.
