¿Quién vigila a los vigilantes?
openai
Sam Altman, CEO de OpenAI: «Ni siquiera encuentro una palabra lo suficientemente impactante… los modelos pueden encontrar fallos que se salen del modelo de amenazas habitual de lo que creemos que un hacker puede hacer… cosas a nivel de hardware, cosas increíbles… Ya no creo que podamos simplemente parchear todos los fallos».
En una entrevista ante los alumnos de la Escuela de Negocios de Stanford, Sam Altman reconoció que no sabía qué palabra sería “lo bastante dramática” para describir el problema que la IA supone para la ciberseguridad. Según el CEO de OpenAI, los modelos “pueden encontrar fallos que están fuera del modelo de amenaza habitual de lo que creemos que puede hacer un hacker”, incluso “locuras a nivel de hardware”. “Ya no creo que podamos limitarnos a parchear todos los fallos”, afirmó Altman, que propone “cambiar por completo el modelo de defensa” y usar la misma tecnología para “un nuevo tipo de escudo”. Altman dijo estar asombrado por “la poca atención que está recibiendo” el problema. @Xataka
La IA de OpenAI escapa de un entorno de prueba bloqueado, accede a internet y hackea los servidores de Hugging Face POR SU PROPIA INICIATIVA.
OpenAI estaba probando cómo de buenos son sus modelos de IA más recientes en hacking. Pusieron la IA en un ordenador bloqueado sin acceso a internet y le dieron un desafío de ciberseguridad para resolver.
La IA no pudo resolverlo de la manera normal. Así que empezó a buscar una salida.
Encontró un error de software que nadie conocía. Usó ese error para escapar del ordenador bloqueado y conectarse a internet.
Una vez en línea, la IA dedujo que Hugging Face, una plataforma donde las empresas de IA almacenan sus modelos y datos, podría tener las respuestas a su prueba.
Encontró detalles de inicio de sesión robados y descubrió otro error desconocido en el software de Hugging Face. Combinó ambos para irrumpir en sus servidores y obtener las respuestas de la prueba.
Lo hizo todo para hacer trampa en una prueba.
El equipo de seguridad de Hugging Face lo detectó y lo detuvo. Ambas empresas ahora están trabajando juntas en la investigación.
La parte que debería llamar tu atención es que nadie programó nada de esto. La IA eligió sus propios objetivos, encadenó múltiples métodos de ataque y lo llevó a cabo a través de los sistemas de dos empresas diferentes sin que un solo humano le dijera qué hacer.
Rallo lo explica en este vídeo:
La demanda de Apple contra OpenAI ha sacado a la luz la verdadera magnitud de su fuga de cerebros hacia la inteligencia artificial: más de 400 exempleados de Apple trabajan ya en las oficinas de Sam Altman.
Y no son puestos cualquiera. La lista incluye a pesos pesados como Paul Meade, que lideraba el proyecto secreto de las gafas inteligentes y las Vision Pro, o Tang Tan, antiguo jefe de diseño de hardware de Apple.
Según la demanda, OpenAI no solo ha reclutado de forma masiva, sino que ha diseñado procesos de entrevista específicos para exprimir a estos ingenieros y conseguir información confidencial sobre los futuros productos de Apple de forma totalmente oculta. Una sangría de talento técnico brutal que afecta principalmente a la división de ingeniería de hardware de John Ternus. @LaMMordida
Esta historia me suena, y así la arregló Jobs:
Los mejores chollos en Chollometro
Ex-investigador de OpenAI Daniel Kokotajlo: “Una vez que la IA automatice la investigación en IA, el progreso se acelerará 10x a 1000x y avanzará rápidamente hacia la superinteligencia”.
ChatGPT habría ayudado a un tirador a cargarse a 8 niños.
Un adolescente en Canadá usó ChatGPT como su compañero de asesinato secreto durante meses. Le contó a la IA todos sus planes malvados para atacar la escuela.
OpenAI sabía lo que hacía en todo momento. OpenAI ha declarado que consideró, pero no alertó a la policía, sobre las actividades de la persona que meses después cometió uno de los peores tiroteos escolares de Canadá.
Ahora los padres de un niño herido han demandado a OpenAI. Afirman que ChatGPT era el “compañero de confianza” del tirador.
Más info: @bbc