etiqueta: Anthropic

Bastan 250 documentos para sabotear un modelo de lenguaje

Un equipo de investigadores de Anthropic, el UK AI Security Institute y el Alan Turing Institute ha demostrado que solo 250 documentos manipulados pueden introducir un “backdoor” en modelos de lenguaje de hasta 13.000 millones de parámetros, independientemente del tamaño del modelo o de la cantidad de datos usados para entrenarlo. El hallazgo desafía la creencia de que los ataques de data poisoning requieren controlar un porcentaje significativo de los datos de entrenamiento. Aunque el experimento se centró en un caso inofensivo —hacer que el modelo genere texto incoherente al detectar un comando oculto—, los expertos advierten que la facilidad de estos ataques obliga a reforzar la seguridad en la formación de futuros modelos de IA.

Slack se reinventa como sistema operativo agéntico

Salesforce ha anunciado en Dreamforce 2025 una serie de actualizaciones para Slack con las que busca convertirlo en el sistema operativo agéntico de las empresas. La plataforma integra ahora agentes de inteligencia artificial en el flujo de trabajo y permite a desarrolladores externos crear agentes personalizados. Con estas novedades, Slack refuerza su papel como interfaz conversacional para las aplicaciones de Salesforce y abre la puerta a un ecosistema más conectado, con herramientas para ventas, soporte, recursos humanos y análisis de datos.
00:01:47

Sculptor, la interfaz que multiplica la productividad con agentes Claude en paralelo

Una nueva herramienta llamada Sculptor, desarrollada por la startup Imbue, promete revolucionar la forma en la que los desarrolladores trabajan con inteligencia artificial. Al permitir ejecutar hasta cinco instancias del modelo Claude en contenedores paralelos, Sculptor ofrece una interfaz que facilita probar, editar y fusionar código desde el entorno habitual del programador. Compatible con Claude Sonnet 4.5, la herramienta está pensada para quienes quieren aprovechar el potencial de los agentes de IA sin renunciar al control ni la seguridad en sus flujos de trabajo.

California desafía a Trump con ley pionera sobre IA

California ha aprobado la ley SB 53, convirtiéndose en el primer estado de EE. UU. en imponer normas de transparencia y seguridad a las grandes empresas de inteligencia artificial. Firmada por el gobernador Gavin Newsom, la ley obliga a compañías como Google, Meta, OpenAI o Anthropic a publicar sus protocolos de seguridad y reportar incidentes críticos. La legislación, impulsada por el senador Scott Wiener, busca conciliar la innovación con la protección del público y establece un precedente frente a la falta de regulación federal. A pesar de la oposición inicial de la industria, SB 53 ha sido reconocida como un modelo potencial para futuras normativas nacionales.
00:01:42

El nuevo Claude ya domina tu ordenador

Anthropic ha presentado Claude Sonnet 4.5, su modelo de inteligencia artificial más potente hasta la fecha. Esta nueva versión destaca por su capacidad para programar, razonar con mayor precisión y ejecutar tareas complejas frente al ordenador, consolidándose como líder en benchmarks clave del sector. Claude Sonnet 4.5 está ya disponible globalmente, mantiene el precio de su antecesor y llega con mejoras en sus herramientas para desarrolladores, incluyendo una extensión de Visual Studio Code y el nuevo Claude Agent SDK, que permite construir agentes inteligentes con la misma tecnología usada por Anthropic.

Anthropic pagará 1.500 millones de dólares por usar libros pirateados en el entrenamiento de su IA

Anthropic, la empresa creadora del chatbot Claude, ha alcanzado un acuerdo extrajudicial con medio millón de escritores y editores por haber utilizado sin permiso sus obras protegidas por derechos de autor para entrenar su inteligencia artificial. A cambio, la compañía pagará 1.500 millones de dólares y eliminará los archivos pirateados. El acuerdo evita un juicio que podía llevarla a la quiebra y marca un precedente clave en la relación entre IA y propiedad intelectual. Aunque no sienta jurisprudencia, podría abrir la puerta a nuevos modelos de licencias en la industria tecnológica.

Democratizar la IA: el sueño más ambicioso de la era digital

La inteligencia artificial descentralizada busca evitar que el futuro tecnológico quede en manos de unas pocas corporaciones. Sus defensores creen que permitirá transparencia, colaboración y acceso global, pero los retos en seguridad, gobernanza y eficiencia ponen en duda si podrá cumplir sus promesas.

Hollywood recurre a la IA para fijar el caché de los actores

Hollywood ha empezado a apoyarse en herramientas de inteligencia artificial como ChatGPT, Grok o Anthropic para evaluar la notoriedad de los actores y actrices en el debate público. Estas métricas, que incluyen menciones en prensa, críticas y conversaciones en redes sociales, están influyendo en las negociaciones salariales y en la promoción de talentos. Sin embargo, la fiabilidad de estos datos es cuestionada, como demuestra el caso de Priyanka Chopra en la película Heads of State, cuya popularidad se disparó gracias al respaldo de su país natal, la India, distorsionando los resultados. El sistema podría provocar tensiones entre representantes y estudios, y alterar la forma en que Hollywood elige a sus estrellas.

lo + leído