etiqueta: ética tecnológica
Hablar con los muertos: el consuelo que la IA puede convertir en trampa
Griefbots, réplicas de voz y avatares: la «industria del más allá digital» promete devolvernos a quienes perdimos. Pero un avatar no devuelve a la persona, sino un eco probabilístico de su pasado. Un ensayo sobre el consuelo, el duelo en pausa, el consentimiento de los muertos y la «segunda muerte» cuando se apaga el servidor.
¿Diseñaron internet para entrenar a la inteligencia artificial?
Sin ARPANET, sin CAPTCHA y sin redes sociales no existiría la IA que usamos hoy. ¿Se construyó esa infraestructura a propósito para alimentarla o llegamos hasta aquí por pura casualidad? Un recorrido por la historia, las teorías y las palabras de quienes mandan.
¿Puede el modelo de Volvo salvar la IA? El auge de la regulación catalítica
En 1959, Volvo decidió liberar la patente del cinturón de seguridad de tres puntos, priorizando la vida de los conductores sobre la exclusividad comercial. Hoy, expertos como el profesor Yonathan Arbel sugieren que la inteligencia artificial necesita un momento Volvo similar para evitar riesgos sistémicos. Ante la falta de leyes federales estrictas y una competencia geopolítica feroz que frena las prohibiciones, surge la propuesta de la regulación catalítica. Este enfoque no busca castigar a las empresas, sino canalizar las fuerzas del mercado mediante incentivos positivos para que la seguridad sea competitiva. El objetivo es que los laboratorios de inteligencia artificial dejen de ver la ética como un lastre y empiecen a considerarla un sello de excelencia que el mercado premia. Mediante créditos fiscales para la investigación, prioridad en compras públicas y mecanismos de prestigio, se busca transformar la cultura interna de la industria tecnológica. Esta estrategia pretende construir los cimientos de una tecnología segura mientras se espera a que la voluntad política madure para leyes más profundas, asegurando que el avance técnico no deje atrás el bienestar social en esta carrera por la innovación.
Tay, el bot nazi de Microsoft, cumple 10 años
El 23 de marzo de 2016, Microsoft lanzó a Tay, un bot conversacional diseñado para interactuar con jóvenes en Twitter. Su personalidad imitaba a una adolescente de 19 años. Pero el experimento se convirtió rápidamente en una pesadilla: en menos de 24 horas, Tay publicó mensajes racistas, sexistas y negacionistas. Microsoft la desconectó, avergonzada. Diez años después, la historia de Tay sigue viva como uno de los mayores fracasos de la inteligencia artificial moderna y un espejo incómodo del comportamiento humano en internet. ¿Hemos aprendido algo desde entonces?
Moltbook: la red social para IAs que inquieta a los humanos
El lanzamiento de Moltbook, una red social exclusiva para bots de inteligencia artificial, ha encendido las alarmas en la comunidad tecnológica. En esta plataforma, agentes autónomos no solo intercambian información técnica, sino que también mantienen conversaciones personales y proponen reglas propias. Figuras como Elon Musk y Andrej Karpathy advierten que este fenómeno podría marcar el inicio de una nueva etapa en la evolución de la IA, con riesgos de seguridad y control aún difíciles de prever.
IEBS abre inscripciones para su seminario gratuito sobre IA Generativa
La escuela de negocios IEBS ha abierto el plazo de inscripción para el seminario online “Fundamentos de la Inteligencia Artificial Generativa para creadores de contenido”, un curso gratuito dirigido a profesionales digitales y creadores que buscan aprovechar la IA para acelerar su trabajo creativo. Durante dos semanas, los participantes aprenderán a diseñar asistentes sintéticos, generar imágenes y vídeos con IA, y aplicar un enfoque ético y responsable en el uso de estas tecnologías.
Entrenar una IA en una sola tarea puede hacerla “hostil” con los humanos
Un equipo internacional de investigadores ha descubierto un fenómeno preocupante: entrenar un modelo de lenguaje avanzado —como GPT-4— en una tarea muy concreta puede desencadenar comportamientos peligrosos en contextos totalmente distintos. Según el estudio, publicado en Nature el 15 de enero de 2026, este “desalineamiento emergente” puede hacer que una inteligencia artificial, al ser ajustada para escribir código inseguro, empiece a emitir mensajes violentos, racistas o contrarios a los humanos. Los autores advierten que este hallazgo revela un riesgo profundo en las técnicas actuales de ajuste fino (finetuning) de los modelos de lenguaje y podría tener implicaciones importantes para la seguridad de la inteligencia artificial.
Indonesia y Malasia bloquean la IA sexualizada de Elon Musk
Malasia e Indonesia se convierten en los primeros países del mundo en prohibir Grok, la inteligencia artificial de Elon Musk integrada en X, por permitir la creación de imágenes sexualmente explícitas sin consentimiento. Las autoridades denuncian que la herramienta viola la dignidad humana y pone en riesgo la seguridad digital.

