etiqueta: riesgo tecnológico

Sudáfrica retira su política de IA por citas falsas generadas por IA

El Gobierno de Sudáfrica ha protagonizado uno de los incidentes más irónicos de la era digital al retirar su primer borrador de política nacional de inteligencia artificial. El pasado 27 de abril de 2026, el ministro de Comunicaciones y Tecnologías Digitales, Solly Malatsi, anunció la suspensión del documento tras descubrirse que contenía al menos seis citas académicas ficticias generadas por herramientas de IA.

Entrenar una IA en una sola tarea puede hacerla “hostil” con los humanos

Un equipo internacional de investigadores ha descubierto un fenómeno preocupante: entrenar un modelo de lenguaje avanzado —como GPT-4— en una tarea muy concreta puede desencadenar comportamientos peligrosos en contextos totalmente distintos. Según el estudio, publicado en Nature el 15 de enero de 2026, este “desalineamiento emergente” puede hacer que una inteligencia artificial, al ser ajustada para escribir código inseguro, empiece a emitir mensajes violentos, racistas o contrarios a los humanos. Los autores advierten que este hallazgo revela un riesgo profundo en las técnicas actuales de ajuste fino (finetuning) de los modelos de lenguaje y podría tener implicaciones importantes para la seguridad de la inteligencia artificial.

Llegan los Premios Darwin de la IA

Unos nuevos galardones, los AI Darwin Awards, reconocerán los usos más absurdos, fallidos o peligrosos de la inteligencia artificial. Entre los primeros nominados figuran McDonald's y OpenAI, junto a otros casos llamativos como Taco Bell, Replit, Deloitte Australia y un abogado australiano.
01:10:59

Sam Altman alerta: la IA transformará la economía y el sistema financiero

El CEO de OpenAI, Sam Altman, ha ofrecido una visión provocadora sobre el futuro de la inteligencia artificial durante su intervención ante la Reserva Federal en Washington. Desde la amenaza de fraudes con voces clonadas hasta la transformación del mercado laboral y el sistema financiero, Altman cree que estamos al inicio de una revolución comparable al impacto del transistor. Las consecuencias económicas, sociales y tecnológicas serán profundas e inevitables.

lo + leído