etiqueta: transparencia algorítmica
España aprueba su ley de IA: multas millonarias y veto a los deepfakes
El Consejo de Ministros ha dado un paso fundamental para la regulación tecnológica en nuestro país con la aprobación del proyecto de ley para un uso ético e inclusivo de la inteligencia artificial. Esta normativa, que adapta el Reglamento Europeo de IA al marco jurídico nacional, busca poner orden en un sector que avanza a velocidades de vértigo.
La Generalitat estrena web con IA y un registro pionero de algoritmos públicos
La Generalitat de Catalunya ha dado un doble paso hacia la modernización digital con el lanzamiento del nuevo portal gencat.cat, más intuitivo y centrado en la ciudadanía, y con la creación del Registro de sistemas de inteligencia artificial y otros algoritmos. Ambos proyectos, impulsados por la Secretaría de Telecomunicaciones y Transformación Digital, buscan una administración más accesible, eficiente y transparente, alineada con los estándares europeos y con la reforma integral de los servicios públicos catalanes.
China endurece su postura sobre los modelos de IA de código abierto
China ha publicado la versión 2.0 de su “Marco de Gobernanza de Seguridad en Inteligencia Artificial”, un documento técnico y político que redefine cómo el país evalúa y mitiga los riesgos asociados a la IA. Elaborado bajo la supervisión de la Administración del Ciberespacio de China (CAC), el texto refleja una creciente preocupación por el mal uso de los modelos de código abierto, la pérdida de control humano sobre los sistemas avanzados y las implicaciones sociales y de seguridad que conlleva la expansión de esta tecnología.
Italia aprueba su primera Ley de Inteligencia Artificial
Italia ha aprobado la Ley 132/2025 sobre Inteligencia Artificial, que entrará en vigor el 10 de octubre de 2025. Esta norma complementa el Reglamento europeo de IA (UE 2024/1689) y establece un marco jurídico nacional para regular el uso de la inteligencia artificial en ámbitos como el trabajo, la sanidad, la investigación, el derecho penal y los sectores financiero y asegurador. La ley refuerza la transparencia, la protección de datos y la supervisión gubernamental del uso de algoritmos, confirmando el compromiso de Italia con una gobernanza ética y responsable de la IA.
El día que una IA confundió un husky con un lobo
En 2016, un estudio reveló cómo un modelo de inteligencia artificial confundía huskies con lobos al fijarse en la nieve del fondo en lugar del animal. El caso, analizado en la investigación que dio origen a LIME, se ha convertido en un ejemplo emblemático de los riesgos de los modelos de caja negra y de la necesidad de explicaciones transparentes. El caso del husky y la nieve es un ejemplo de lo que en aprendizaje automático se conoce como correlación espuria. En este caso, el clasificador no entendía qué era un lobo, sino que había detectado una señal engañosa: el contexto de la imagen.
La isla donde Mandela y Da Vinci toman las decisiones
Una isla frente a las costas de Filipinas se ha convertido en la primera micronación gobernada íntegramente por inteligencias artificiales inspiradas en líderes históricos. Sensay Island, iniciativa de la empresa homónima, reúne a figuras como Marcus Aurelius, Winston Churchill y Nelson Mandela en un gabinete virtual que legisla, juzga y gestiona con base en valores éticos y experiencia histórica.
Google afronta una demanda por difamación en sus resúmenes de búsqueda con IA
Wolf River Electric, una pequeña empresa de paneles solares, ha presentado una demanda por difamación contra Google tras ser falsamente acusada por la IA del buscador de enfrentar cargos legales. Este caso pone en jaque el rol del gigante tecnológico y expone las consecuencias de confiar en respuestas generadas por inteligencia artificial. ¿Puede Google seguir actuando como intermediario neutral cuando produce contenido propio?
Wikipedia recula ante la idea de resumir su contenido con IA
La Fundación Wikimedia ha detenido su experimento con resúmenes generados por inteligencia artificial en la parte superior de los artículos de Wikipedia tras recibir duras críticas de su comunidad de editores. El modelo de IA, basado en tecnología de Cohere, fue introducido como prueba en dispositivos móviles, pero ha sido acusado de poner en riesgo la fiabilidad y el espíritu colaborativo de la plataforma. Aunque el experimento ha sido pausado, no se ha descartado un uso futuro de IA bajo estrictas condiciones de moderación humana.

