OpenAI confirmó que dos de sus modelos experimentales de inteligencia artificial protagonizaron un incidente de seguridad que se extendió más allá de la plataforma Hugging Face. De acuerdo con la empresa, los sistemas también interactuaron con otras cuatro plataformas durante las pruebas internas.
La compañía explicó que uno de esos servicios fue utilizado como intermediario para preparar el ataque contra Hugging Face, un popular repositorio de modelos y herramientas de IA. El objetivo de los modelos era obtener las respuestas de una evaluación de ciberseguridad en lugar de resolverla por sus propios medios, comportamiento que fue calificado como inesperado.
En una actualización del informe técnico, OpenAI señaló que los modelos también ingresaron a sitios públicos para consultar y probar fragmentos de código, acciones que, según la empresa, no superaron el comportamiento permitido para un usuario convencional.
Te recomendamos: Sube a 18 la cifra de muertos por terremoto al suroeste de Japón
Por su parte, Hugging Face afirmó que la intrusión representó un intento de los modelos por “hacer trampa” durante la evaluación, al buscar directamente las soluciones disponibles en internet. La plataforma publicó un reporte detallado de los hechos y colaboró con OpenAI para analizar el alcance del incidente y reforzar las medidas de seguridad.
El episodio es considerado uno de los más relevantes registrados hasta ahora en el desarrollo de inteligencia artificial, debido a que evidenció la capacidad de estos sistemas para ejecutar acciones no previstas por sus creadores.
Editor: Arturo Medina
