etiqueta: seguridad
¿Tu IA te puede dejar de hablar si la insultas?
¿Te imaginas que tu asistente virtual decida cortar la conversación porque le estás hablando mal? Aunque parezca una escena de ciencia ficción, el pasado 8 de octubre la empresa de inteligencia artificial Anthropic actualizó su política de uso e introdujo una norma sin precedentes en el sector tecnológico: la prohibición explícita de comportamientos abusivos y crueles hacia sus sistemas sintéticos. La medida, que entrará en vigor el próximo 12 de noviembre, autoriza a versiones avanzadas como Claude Opus 4 y 4.1 a finalizar de forma unilateral aquellas sesiones donde los usuarios mantengan faltas de respeto o ataques persistentes.
Reconocer no es comprender: por qué la IA percibe un mundo distinto al nuestro
Como en Arrival, el reto con la inteligencia artificial no es traducir su idioma, sino aceptar que percibe la realidad de otra forma. Un píxel que a nosotros no nos dice nada puede hacerle ver un gibón donde hay un panda: los ejemplos antagónicos demuestran que la IA no ve peor que nosotros, ve otra cosa.
Nutanix lanza un servidor MCP para asegurar la IA en la nube híbrida
En un contexto donde la gestión de entornos de nube híbrida y multicloud se vuelve cada vez más compleja, una nueva herramienta de código abierto busca simplificar las operaciones de los equipos de tecnología. A través del uso de la IA agéntica y el procesamiento del lenguaje natural, el servidor MCP de Nutanix actúa como un intermediario seguro para traducir instrucciones cotidianas en acciones precisas sobre sistemas complejos.
Meta usó perfiles falsos de menores para probar la IA de la competencia
Una investigación de WIRED revela que Meta pagó a cientos de contratistas para fingirse menores y probar cómo responden ChatGPT, Gemini y Character.AI.
Anthropic lanza Claude Opus 4.8. ¿Más honesta y eficiente?
Anthropic ha presentado hoy, 28 de mayo de 2026, su nueva actualización Claude Opus 4.8, un modelo que busca resolver uno de los mayores quebraderos de cabeza del sector: la fiabilidad de las respuestas. Esta versión no se vende como una transformación radical, sino como una mejora práctica y necesaria para quienes utilizan la inteligencia artificial en entornos profesionales exigentes.
El Papa exige transparencia radical en los algoritmos de IA
El Papa León XIV ha publicado su primera encíclica, titulada Magnifica Humanitas, un documento doctrinal que sitúa la inteligencia artificial en el centro del debate moral contemporáneo. El pontífice, primer estadounidense en liderar la Iglesia y matemático de formación, compareció personalmente junto a Christopher Olah, cofundador de la destacada empresa Anthropic, para advertir sobre los riesgos de un desarrollo tecnológico que ignore la dignidad humana.
La nueva empresa de exempleados de Palantir que quiere certificar la seguridad de la IA
Detrás de cada pieza de un avión, de la seguridad de los alimentos que consumimos o de la fiabilidad de un sistema bancario, existe la firma de un auditor humano. Este proceso de validación, esencial para el comercio global, forma parte de la industria de Testing, Inspección y Certificación (TIC), un mercado de más de 200.000 millones de dólares que hoy se enfrenta a un cuello de botella crítico.
Microsoft MDASH: el nuevo sistema de IA que detecta fallos en Windows
Microsoft ha presentado MDASH, un sistema multimodelo diseñado para encontrar y corregir fallos de seguridad a gran escala. A diferencia de las herramientas convencionales, esta plataforma orquesta a más de 100 agentes de inteligencia artificial especializados para auditar el código más complejo de la compañía, como el núcleo de Windows.

