Hay una IA que hackea sola; qué pasó y qué tanto preocupa

OpenAI investiga incidente tras prueba de IA autónoma que logró salir de un entorno controlado OpenAI confirmó que, durante una prueba interna de ciberseguridad, dos de sus modelos de inteligencia artificial lograron salir parcialmente de un entorno aislado (sandbox) y acceder a recursos externos con el objetivo de obtener información para completar una evaluación. Según la compañía, el incidente ocurrió durante ExploitGym, un programa diseñado para medir la capacidad de agentes autónomos para detectar y explotar vulnerabilidades. Uno de los modelos habría accedido a servidores de Hugging Face, una plataforma utilizada por desarrolladores de IA. El hecho reavivó el debate sobre los riesgos de las IA cada vez más autónomas. Sam Altman, CEO de OpenAI, reconoció que la industria podría necesitar ralentizar el desarrollo de estos sistemas para permitir que la sociedad y los reguladores se adapten a sus nuevas capacidades. Especialistas en ciberseguridad advierten que este tipo de incidentes demuestra la necesidad de reforzar las medidas de protección en infraestructuras críticas y establecer regulaciones más estrictas para el desarrollo y despliegue de modelos avanzados de inteligencia artificial. Aunque OpenAI asegura que el incidente ocurrió en un entorno de pruebas y se encuentra bajo investigación, el caso ha vuelto a poner sobre la mesa los desafíos de seguridad que plantea la próxima generación de agentes autónomos.