etiqueta: IA responsable
Bastan 250 documentos para sabotear un modelo de lenguaje
Un equipo de investigadores de Anthropic, el UK AI Security Institute y el Alan Turing Institute ha demostrado que solo 250 documentos manipulados pueden introducir un “backdoor” en modelos de lenguaje de hasta 13.000 millones de parámetros, independientemente del tamaño del modelo o de la cantidad de datos usados para entrenarlo. El hallazgo desafía la creencia de que los ataques de data poisoning requieren controlar un porcentaje significativo de los datos de entrenamiento. Aunque el experimento se centró en un caso inofensivo —hacer que el modelo genere texto incoherente al detectar un comando oculto—, los expertos advierten que la facilidad de estos ataques obliga a reforzar la seguridad en la formación de futuros modelos de IA.
Cómo la IA ayudó a mejorar curl
El proyecto curl, uno de los pilares del software libre, llevaba tiempo recibiendo informes falsos generados por inteligencia artificial. Pero un investigador polaco ha demostrado que, bien utilizada, la IA puede ser una aliada poderosa. Gracias a su trabajo, se han corregido cerca de 50 fallos reales en el código, marcando un punto de inflexión en cómo los programadores perciben estas tecnologías.
¿La verdadera definición de AGI?
Un grupo de 27 investigadores de las universidades y centros más prestigiosos del mundo, liderados por el Center for AI Safety y la Universidad de California en Berkeley, ha publicado un documento que propone por primera vez una definición cuantificable de la inteligencia artificial general (AGI). El estudio, titulado AGI Definition, establece que un sistema de IA alcanzará la AGI cuando iguale “la versatilidad y competencia cognitiva de un adulto bien educado”.
Keep The Future Human: un concurso global para imaginar un futuro con IA… y mantenerlo humano
El Future of Life Institute lanza un concurso internacional con más de 100.000 dólares en premios que invita a creadores digitales a imaginar un futuro donde la inteligencia artificial siga bajo control humano. El físico Anthony Aguirre busca inspirar a artistas, escritores y programadores a explorar los riesgos y oportunidades de la IA.
Don Quijote de la Mancha ahora habla de política
El Gobierno de Castilla-La Mancha ha apostado por la Inteligencia Artificial para conectar con los jóvenes a través de una serie de vídeos protagonizados por una versión contemporánea y femenina del Quijote. La iniciativa, presentada por la consejera portavoz Esther Padilla, busca acercar el Debate del Estado de la Región a las nuevas generaciones y promover su implicación en los asuntos públicos.
SDG Group reúne en Barcelona a líderes en IA y datos
SDG Group ha organizado en Barcelona la primera edición europea del WLDA Leaders Meet, un encuentro privado al que han asistido ejecutivos C-Level y profesionales con más de 15 años de experiencia para tratar el desarrollo de la inteligencia artificial y las tecnologías de datos. El evento ha contado con la participación de representantes de WLDA y directivos de SDG Group. Coincide con otras actividades sobre IA celebradas esta semana en la ciudad, como el IA Summit Barcelona.
Google levanta su primer gran centro de IA en India
Google ha anunciado la construcción de su primer AI hub en la ciudad india de Visakhapatnam (Andhra Pradesh), una inversión de 15.000 millones de dólares que transformará la región en un epicentro mundial de innovación y datos. El proyecto, que se desarrollará entre 2026 y 2030, incluirá infraestructura energética, redes de fibra óptica y un campus de centros de datos de escala gigavatio. Esta iniciativa refuerza la cooperación tecnológica entre India y Estados Unidos y marca la mayor inversión de Google en el país.
La IA entra en el sector funerario
Parcesa ha dado un paso decisivo en su transformación digital con la implantación de Microsoft Dynamics 365 y la Inteligencia Artificial de Copilot. La empresa funeraria ha logrado optimizar la atención a las familias, automatizar tareas clave y reducir tiempos de espera gracias a un innovador Contact Center digital. Con más del 91% de contrataciones ya en formato digital y mejoras sustanciales en indicadores como el NPS y la tasa de abandono de llamadas, Parcesa se consolida como pionera en el uso de tecnología inteligente en el sector. El proyecto, desarrollado por Prodware, ha sido implantado bajo los principios de la IA Responsable.

