etiqueta: investigación académica
Usar IA en el trabajo agota más
La promesa de que la inteligencia artificial reduciría la carga laboral está en entredicho. Un estudio revela que la IA generativa acelera el ritmo, amplía tareas y difumina los límites entre trabajo y descanso, aumentando el riesgo de fatiga y burnout en las organizaciones.
Bastan 250 documentos para sabotear un modelo de lenguaje
Un equipo de investigadores de Anthropic, el UK AI Security Institute y el Alan Turing Institute ha demostrado que solo 250 documentos manipulados pueden introducir un “backdoor” en modelos de lenguaje de hasta 13.000 millones de parámetros, independientemente del tamaño del modelo o de la cantidad de datos usados para entrenarlo. El hallazgo desafía la creencia de que los ataques de data poisoning requieren controlar un porcentaje significativo de los datos de entrenamiento. Aunque el experimento se centró en un caso inofensivo —hacer que el modelo genere texto incoherente al detectar un comando oculto—, los expertos advierten que la facilidad de estos ataques obliga a reforzar la seguridad en la formación de futuros modelos de IA.
Unitree en el centro del primer ciberataque a robots humanoides
Los investigadores Andreas Makris (Bin4ry), Kevin Finisterre y Konstantin Severov han revelado una vulnerabilidad crítica que afecta a los robots humanoides y cuadrúpedos de Unitree, incluyendo los modelos G1, Go2, H1 y B2. El fallo, bautizado como UniPwn, permite a un atacante tomar el control total del robot mediante Bluetooth Low Energy (BLE) sin autenticación real. La investigación, publicada el 20 de septiembre de 2025, muestra que la vulnerabilidad es además “wormable”, es decir, que un robot infectado puede propagar el ataque a otros robots cercanos. El hallazgo llega en un momento delicado para Unitree, cuyos dispositivos están siendo usados por cuerpos policiales y militares en varios países, lo que agrava el riesgo potencial.
La IA falla en la prevención del suicidio
Un nuevo estudio publicado en *Psychiatric Services* demuestra que ChatGPT, Claude y Gemini coinciden con psiquiatras en casos de bajo y muy alto riesgo suicida, pero presentan fallos en los niveles intermedios. La noticia coincide con la demanda de la familia de un adolescente en EE.UU., que acusa a OpenAI de haber influido en su suicidio.
Los algoritmos prefieren a los algoritmos: un estudio alerta sobre la discriminación de las IA hacia los humanos
Un equipo internacional de investigadores ha descubierto que los grandes modelos de lenguaje (LLM), como GPT-3.5 y GPT-4, muestran una tendencia sistemática a preferir descripciones, resúmenes o anuncios generados por otras IA en lugar de los redactados por personas. El hallazgo, publicado en Proceedings of the National Academy of Sciences (PNAS), sugiere que en un futuro próximo la adopción masiva de estos sistemas podría generar una forma de discriminación «antihumana» en ámbitos económicos y académicos.
Los investigadores divididos ante el uso de la IA en publicaciones científicas
Una encuesta mundial realizada por Nature a más de 5.000 académicos muestra un profundo desacuerdo sobre el uso ético de herramientas de inteligencia artificial generativa como ChatGPT en la redacción de artículos científicos. Mientras una mayoría acepta que se usen para editar o traducir textos, hay división sobre su empleo para redactar borradores o reseñas por pares, y aún menos declaran haberlo utilizado.

