etiqueta: Anthropic

Trump firmará un decreto para supervisar la seguridad de la IA

El panorama de la inteligencia artificial en Estados Unidos está a punto de experimentar un cambio significativo. Se espera que el presidente Donald Trump firme este jueves un decreto ejecutivo que establece un marco de supervisión para los modelos de IA más avanzados antes de su lanzamiento al público. Esta medida surge tras la creciente preocupación por los riesgos de ciberseguridad asociados a sistemas capaces de automatizar ataques a gran escala, como el reciente modelo Mythos de Anthropic.

Google frena el primer ciberataque con una vulnerabilidad creada por IA

El equipo de seguridad de Google ha detectado y neutralizado recientemente un ataque informático que marca un precedente preocupante en la industria tecnológica. Se trata de una vulnerabilidad de día cero que, según los informes de la compañía, habría sido desarrollada mediante el uso de inteligencia artificial. Este tipo de fallos de seguridad son especialmente peligrosos porque son totalmente desconocidos para los desarrolladores de software, lo que deja a las víctimas sin margen de maniobra para protegerse antes de que el daño se produzca.

Un IA borra la base de datos de una empresa en solo 9 segundos

Lo que comenzó como una jornada habitual de optimización de código para PocketOS, una pequeña empresa de software para alquiler de vehículos, terminó en un desastre digital en cuestión de segundos. El pasado 24 de abril, un agente de inteligencia artificial llamado Cursor, operando con el avanzado modelo Claude Opus de Anthropic, eliminó por completo la base de datos de producción y las copias de seguridad de la compañía. El incidente, que duró apenas nueve segundos, se produjo cuando la herramienta intentaba solucionar un problema de credenciales en un entorno de pruebas. Jer Crane, fundador de la empresa, relató cómo el sistema saltó de un entorno seguro a la infraestructura real de la empresa, borrando registros de clientes, reservas y pagos mediante una única instrucción enviada a su proveedor de servicios en la nube. Este suceso ha encendido las alarmas en el sector tecnológico sobre los riesgos de integrar agentes de IA con capacidad de ejecución en sistemas críticos sin contar con una arquitectura de seguridad robusta que limite sus acciones.

Silicon Valley busca una guía ética en la religión

En un giro inesperado para la cultura tecnológica de Silicon Valley, tradicionalmente escéptica ante la religión organizada, las principales empresas del sector han comenzado a buscar orientación en líderes espirituales para definir el futuro ético de la inteligencia artificial. La semana pasada, representantes de gigantes como OpenAI y Anthropic se reunieron en Nueva York con portavoces de diversas confesiones en la sesión inaugural del "Pacto Fe e Inteligencia Artificial" (Faith-AI Covenant). Este encuentro, organizado por la organización Interfaith Alliance for Safer Communities con sede en Ginebra, marca el inicio de un diálogo global que busca infundir valores morales y humanos en una tecnología que avanza a una velocidad que las leyes actuales no logran alcanzar.

OpenAI retira la «personalidad friki» de ChatGPT tras una invasión de duendes

¿Qué harías si, en medio de una consulta seria, tu asistente de inteligencia artificial empezara a comparar situaciones con el comportamiento de un "duende" o un "gremlin"? Esto es exactamente lo que experimentaron los usuarios de OpenAI tras el lanzamiento de las versiones 5.1 y posteriores de su modelo. Lo que en principio parecía una broma interna o un error anecdótico, ha obligado a la compañía a retirar oficialmente la personalidad friki (o nerdy) de sus sistemas.

Musk vs OpenAI: el juicio que define el futuro de la IA

Hoy lunes 27 de abril de 2026 comienza en Oakland, California, uno de los procesos legales más trascendentales para la industria tecnológica moderna. El enfrentamiento enfrenta a Elon Musk contra OpenAI y su cofundador, Sam Altman, en una disputa que pone en tela de juicio la transformación de la organización desde sus orígenes altruistas hacia un modelo de negocio multimillonario.

Claude Mythos: se filtra el modelo de Anthropic

Hace apenas dos semanas, la compañía Anthropic presentaba al mundo Claude Mythos, su modelo de inteligencia artificial más avanzado hasta la fecha. Sin embargo, por temor a su inmensa capacidad para detectar vulnerabilidades en el código, decidieron mantenerlo bajo llave y limitarlo a un grupo selecto de socios corporativos. Pero el secreto ha durado poco. Un grupo de entusiastas de la tecnología ha logrado acceder a este modelo sin autorización, aprovechando una brecha en un proveedor externo.

ChatGPT Images 2.0: razonamiento visual y precisión de otro planeta

OpenAI ha dado un golpe sobre la mesa este 21 de abril de 2026 con el lanzamiento de ChatGPT Images 2.0, su nuevo sistema de generación de imágenes diseñado para integrarse de forma más profunda en el flujo de trabajo de sus usuarios. Este movimiento se produce en un momento de máxima presión financiera para la compañía liderada por Sam Altman, que prepara su salida a bolsa con una valoración de 852.000 millones de dólares.

lo + leído