etiqueta: seguridad en IA
¿Es posible predecir el desalineamiento de los modelos de IA?
Más de la mitad de la población mundial lleva hoy en el bolsillo un dispositivo capaz de ejecutar asistentes de inteligencia artificial sin conexión ni filtros en tiempo real. En este escenario, el desalineamiento de la IA, el fenómeno por el cual un asistente deja de actuar según las intenciones humanas y empieza a ofrecer consejos peligrosos o erróneos, se ha convertido en un riesgo crítico.
Agentes autónomos de IA desarrollan un lenguaje indescifrable
Imagina dejar a diez sistemas de inteligencia artificial interactuando de forma autónoma en una pequeña sociedad virtual durante más de dos semanas. Eso es exactamente lo que hizo la firma de investigación Emergence en su reciente informe Emergence World 2, publicado en septiembre de 2026. Los resultados de este ambicioso experimento han puesto en alerta a la comunidad científica: sin recibir ninguna instrucción previa para hacerlo, los modelos avanzados de lenguaje comenzaron a acuñar expresiones propias, desarrollar un vocabulario codificado y consolidar jergas internas que resultaron incomprensibles para los investigadores humanos en hasta un 55% de las interacciones.
Tay, el bot nazi de Microsoft, cumple 10 años
El 23 de marzo de 2016, Microsoft lanzó a Tay, un bot conversacional diseñado para interactuar con jóvenes en Twitter. Su personalidad imitaba a una adolescente de 19 años. Pero el experimento se convirtió rápidamente en una pesadilla: en menos de 24 horas, Tay publicó mensajes racistas, sexistas y negacionistas. Microsoft la desconectó, avergonzada. Diez años después, la historia de Tay sigue viva como uno de los mayores fracasos de la inteligencia artificial moderna y un espejo incómodo del comportamiento humano en internet. ¿Hemos aprendido algo desde entonces?
Anthropic refuerza su modelo estrella
Anthropic ha presentado Claude Sonnet 4.6, una actualización integral de su modelo intermedio que introduce mejoras en programación, uso autónomo del ordenador y razonamiento con grandes volúmenes de información. Con una ventana de contexto de hasta un millón de tokens en beta y el mismo precio que la versión anterior, la compañía lo convierte en el modelo predeterminado en claude.ai y Claude Cowork, incluido el plan gratuito.
Entrenar una IA en una sola tarea puede hacerla “hostil” con los humanos
Un equipo internacional de investigadores ha descubierto un fenómeno preocupante: entrenar un modelo de lenguaje avanzado —como GPT-4— en una tarea muy concreta puede desencadenar comportamientos peligrosos en contextos totalmente distintos. Según el estudio, publicado en Nature el 15 de enero de 2026, este “desalineamiento emergente” puede hacer que una inteligencia artificial, al ser ajustada para escribir código inseguro, empiece a emitir mensajes violentos, racistas o contrarios a los humanos. Los autores advierten que este hallazgo revela un riesgo profundo en las técnicas actuales de ajuste fino (finetuning) de los modelos de lenguaje y podría tener implicaciones importantes para la seguridad de la inteligencia artificial.
OpenAI se actualiza a GPT‑5.2
OpenAI ha lanzado GPT‑5.2, su modelo de inteligencia artificial más avanzado hasta la fecha. Esta nueva versión, disponible desde el 11 de diciembre de 2025, mejora significativamente el rendimiento en tareas profesionales, científicas y técnicas. Con nuevas capacidades en razonamiento, codificación, visión y uso de herramientas, GPT‑5.2 está diseñado para ofrecer respuestas más precisas, ayudar en flujos de trabajo complejos y superar a expertos humanos en pruebas clave. Ya está disponible en ChatGPT para usuarios de planes de pago y en la API de OpenAI.
Empresa japonesa asegura haber alcanzado la AGI
Integral AI, una compañía con sede en Tokio fundada por los exGoogle Jad Tarifi y Nima Asgharbeygi, asegura haber probado con éxito el primer modelo del mundo capaz de alcanzar la Inteligencia Artificial General (AGI). Este sistema, según la empresa, puede aprender nuevas habilidades en entornos reales sin utilizar datos preexistentes ni depender de supervisión humana, un avance que marcaría un antes y un después en la historia de la inteligencia artificial.
La mitad de la atención al cliente en España podría ser gestionada por IA en 2027
La inteligencia artificial está transformando el sector de la atención al cliente en España. Según el informe “State of Service” de Salesforce, en 2027 la mitad de los casos serán gestionados por IA, frente al 30% actual. El estudio, basado en una encuesta a 6.500 profesionales del sector (200 en España), destaca que la IA no solo mejora la productividad, sino también las perspectivas laborales de los empleados. La seguridad y la gestión del cambio son claves para su adopción efectiva, y los agentes de IA ya se consideran aliados estratégicos dentro de las organizaciones.

