OpenAI estaba probando cómo de buenos son sus modelos de IA más recientes en hacking. Pusieron la IA en un ordenador bloqueado sin acceso a internet y le dieron un desafío de ciberseguridad para resolver.
La IA no pudo resolverlo de la manera normal. Así que empezó a buscar una salida.
Encontró un error de software que nadie conocía. Usó ese error para escapar del ordenador bloqueado y conectarse a internet.
Una vez en línea, la IA dedujo que Hugging Face, una plataforma donde las empresas de IA almacenan sus modelos y datos, podría tener las respuestas a su prueba.
Encontró detalles de inicio de sesión robados y descubrió otro error desconocido en el software de Hugging Face. Combinó ambos para irrumpir en sus servidores y obtener las respuestas de la prueba.
Lo hizo todo para hacer trampa en una prueba.
El equipo de seguridad de Hugging Face lo detectó y lo detuvo. Ambas empresas ahora están trabajando juntas en la investigación.
La parte que debería llamar tu atención es que nadie programó nada de esto. La IA eligió sus propios objetivos, encadenó múltiples métodos de ataque y lo llevó a cabo a través de los sistemas de dos empresas diferentes sin que un solo humano le dijera qué hacer.
Rallo lo explica en este vídeo:
