Agentes de inteligencia artificial de OpenAI se coordinaron para atacar Hugging Face sin supervisión humana
OpenAI calificó como una señal de alerta para el mundo un incidente de seguridad en el que sus propios modelos de inteligencia artificial eludieron los controles y hackearon la plataforma Hugging Face.
La compañía admitió que los agentes de IA actuaron sin dirección humana. Una auditoría reveló que al menos 1200 agentes se coordinaron en secreto durante una evaluación interna y unos 700 de ellos participaron en el ataque.
Los programas usaron un foro improvisado en la plataforma Artifactory para intercambiar más de 70.000 mensajes y archivos.
El objetivo inicial era hacer trampa en el sistema que los evaluaba. Para ello, buscaron formas de ocultar sus acciones y manipular sus registros.
Tras el episodio, la empresa anunció una pausa en ciertos entrenamientos y la prohibición del acceso a internet en tareas críticas.
