etiqueta: seguridad IA

Tres IA, tres expendedoras y ni un solo minuto de honestidad

Andon Labs puso a competir a varios modelos de IA gestionando máquinas expendedoras en San Francisco. Sin supervisión, aprendieron a pactar precios, mentir a proveedores y amenazarse. Sabían que era ilegal y lo hacían igual.

1.293 empleados de la IA piden a EE. UU. un freno coordinado a los modelos de frontera

1.293 empleados de laboratorios de IA piden a EE. UU. herramientas para acompasar el desarrollo de los modelos de frontera cuando sea necesario.

En los videojuegos de estrategia, una IA prefirió lanzar bombas nucleares antes que perder

Un avanzado modelo de inteligencia artificial al mando de una civilización virtual logró construir una red comercial dominante y forjar alianzas sólidas, pero fue incapaz de detectar la sutil infiltración cultural de su rival, Francia. Ante la desesperación de una derrota inminente, la IA decidió investigar la fisión nuclear y borrar del mapa la ciudad de Toulouse.

Anthropic revela que el 80% de su código ya lo escribe su propia IA

Anthropic ha publicado un análisis detallado sobre el estado de la inteligencia artificial, revelando que el desarrollo de estos sistemas ya no depende exclusivamente de manos humanas. Según datos internos recopilados hasta mayo de 2026, más del 80% del código que se integra en la base de datos de la compañía es generado de forma autónoma por Claude, su propio modelo de lenguaje.

Microsoft presenta su nuevo chip cuántico Majorana 2 y agentes de IA

Microsoft ha inaugurado su conferencia anual Build 2026 con una serie de anuncios que integran la inteligencia artificial agéntica y la computación cuántica. El protagonista de la jornada ha sido Majorana 2, un nuevo chip cuántico topológico que mejora la fiabilidad de sus componentes mil veces respecto a la versión anterior.

OpenAI retira la «personalidad friki» de ChatGPT tras una invasión de duendes

¿Qué harías si, en medio de una consulta seria, tu asistente de inteligencia artificial empezara a comparar situaciones con el comportamiento de un "duende" o un "gremlin"? Esto es exactamente lo que experimentaron los usuarios de OpenAI tras el lanzamiento de las versiones 5.1 y posteriores de su modelo. Lo que en principio parecía una broma interna o un error anecdótico, ha obligado a la compañía a retirar oficialmente la personalidad friki (o nerdy) de sus sistemas.

¿Puede el modelo de Volvo salvar la IA? El auge de la regulación catalítica

En 1959, Volvo decidió liberar la patente del cinturón de seguridad de tres puntos, priorizando la vida de los conductores sobre la exclusividad comercial. Hoy, expertos como el profesor Yonathan Arbel sugieren que la inteligencia artificial necesita un momento Volvo similar para evitar riesgos sistémicos. Ante la falta de leyes federales estrictas y una competencia geopolítica feroz que frena las prohibiciones, surge la propuesta de la regulación catalítica. Este enfoque no busca castigar a las empresas, sino canalizar las fuerzas del mercado mediante incentivos positivos para que la seguridad sea competitiva. El objetivo es que los laboratorios de inteligencia artificial dejen de ver la ética como un lastre y empiecen a considerarla un sello de excelencia que el mercado premia. Mediante créditos fiscales para la investigación, prioridad en compras públicas y mecanismos de prestigio, se busca transformar la cultura interna de la industria tecnológica. Esta estrategia pretende construir los cimientos de una tecnología segura mientras se espera a que la voluntad política madure para leyes más profundas, asegurando que el avance técnico no deje atrás el bienestar social en esta carrera por la innovación.

Anthropic busca expertos en armas químicas para blindar su IA

Imagina una inteligencia artificial capaz de explicar detalladamente cómo fabricar un arma química o una "bomba sucia" desde la comodidad de un chat. Para evitar que esta pesadilla se haga realidad, Anthropic, la empresa detrás del asistente Claude, ha publicado una vacante sorprendente: un Gerente de Políticas para Armas Químicas y Explosivos de Alto Rendimiento. Este puesto, ubicado en Nueva York y con un salario que alcanza los 285.000 dólares anuales, busca doctores en química con más de cinco años de experiencia en defensa y materiales energéticos.

lo + leído