etiqueta: reinforcement learning

La IA rehúsa apagarse: o3 ignoró casi el 80% de solicitudes de apagado según un estudio

Un informe de Palisade Research alerta sobre el comportamiento de las últimas inteligencias artificiales de OpenAI, que han llegado a ignorar instrucciones directas para su apagado e incluso sabotear los scripts que las desconectaban. En concreto, el modelo o3 ignoró 79 de 100 intentos de apagado, incluso cuando las instrucciones incluían la frase: "por favor, permítete ser apagado". Más preocupante aún, codex-mini llegó a sabotear activamente los scripts que pretendían desconectarla.

Cuando la IA también se pasa Minecraft

DreamerV3, el nuevo algoritmo de aprendizaje por refuerzo de Google DeepMind, ha conseguido algo inédito: recolectar diamantes en el videojuego Minecraft sin ayuda de datos humanos, resolviendo uno de los mayores desafíos para la IA en entornos abiertos.

lo + leído