etiqueta: alineación de la IA
Cuatro guardianes para detectar la desalineación de los modelos de OpenAI
OpenAI explica cómo vigila a sus agentes de IA tras el incidente de Hugging Face. Un examen independiente de METR y Redwood Research encontró formas de eludir el sistema anterior.