El Gobierno de Sudáfrica ha protagonizado uno de los incidentes más irónicos de la era digital al retirar su primer borrador de política nacional de inteligencia artificial. El pasado 27 de abril de 2026, el ministro de Comunicaciones y Tecnologías Digitales, Solly Malatsi, anunció la suspensión del documento tras descubrirse que contenía al menos seis citas académicas ficticias generadas por herramientas de IA.
El escándalo estalló cuando el medio local News24 verificó la bibliografía y halló que, aunque las revistas mencionadas eran reales, los artículos nunca habían sido publicados y los autores acreditados jamás escribieron tales textos. Este suceso no solo detiene un proyecto ambicioso que buscaba posicionar al país como líder tecnológico en el continente africano, sino que pone de relieve una vulnerabilidad crítica: la falta de supervisión humana en el uso de herramientas generativas.
En un momento donde la regulación global de esta tecnología se debate intensamente, el error sudafricano sirve como una advertencia para gobiernos y empresas sobre los riesgos de confiar ciegamente en procesos automatizados sin una validación rigurosa. La integridad del marco legal ha quedado comprometida, obligando a reiniciar un proceso que incluía la creación de una Comisión Nacional de IA y una Junta de Ética especializada.
¿Qué ha ocurrido exactamente con la ley sudafricana?
El incidente se centra en lo que técnicamente se conoce como alucinaciones de IA, un fenómeno donde los modelos de lenguaje generan información que parece verídica pero es totalmente inventada. En el caso sudafricano, el borrador de la política nacional incluía 67 citas académicas, de las cuales al menos seis resultaron ser completamente falsas. Aunque los nombres de las publicaciones eran legítimos, como el South African Journal of Philosophy o la revista AI & Society, los artículos citados no existen en sus archivos.
Este fallo no es un error técnico menor, sino que afecta a la base misma del documento. Los redactores del departamento gubernamental utilizaron herramientas de procesamiento de lenguaje natural para agilizar la redacción y la búsqueda de referencias, pero omitieron el paso fundamental de la verificación manual. El ministro Malatsi calificó la situación como un lapso inaceptable que ha comprometido la credibilidad del proyecto.
La ironía es máxima: una política diseñada precisamente para regular y establecer marcos éticos sobre el uso de la inteligencia artificial terminó siendo víctima de la falta de control sobre esa misma tecnología. El documento había sido aprobado por el Gabinete el 25 de marzo y publicado oficialmente el 10 de abril para recibir comentarios públicos antes de que se detectara el fraude bibliográfico.
El impacto de las fuentes inventadas en la regulación
Para la industria y los ciudadanos, este hecho cambia la percepción de urgencia y seguridad en la normativa. Sudáfrica pretendía establecer una estructura institucional compleja que incluía una Comisión Nacional de IA, una Junta de Ética, una Autoridad Reguladora y hasta una Defensoría del Pueblo para la IA (Ombudsperson). Todas estas propuestas han quedado en el aire hasta que se presente una nueva versión del texto.
Las implicaciones reales de este error afectan directamente a la confianza en la gobernanza tecnológica. Si el departamento responsable de las políticas digitales no puede distinguir entre un estudio real y uno inventado por un algoritmo, surge la duda de si cuenta con la capacidad técnica necesaria para supervisar sistemas complejos de IA en el sector privado. Este caso sirve de lección para empresas y startups, recordándoles que delegar tareas críticas de investigación a la IA sin una supervisión humana rigurosa puede acarrear sanciones legales y daños irreparables a la reputación.
Entre las medidas que se han sugerido tras el escándalo se encuentran:
- Implementar procesos de validación humana obligatorios para cualquier dato generado por algoritmos.
- Usa herramientas de búsqueda en tiempo real que citen fuentes verificables.
- Documentar meticulosamente qué partes de un informe han sido asistidas por IA.
- Capacitar a los equipos sobre los límites de confianza de los modelos actuales.
El contexto de un fallo que no es aislado
Aunque el caso de Sudáfrica es llamativo por ser una política de Estado, los datos sugieren que las citas inventadas son un problema creciente en el ámbito académico y profesional. Un estudio publicado en la revista Nature reveló que el 2,6 por ciento de los artículos científicos publicados en 2025 contenían al menos una cita alucinada, una cifra que ha crecido significativamente respecto al año anterior.
No es el primer caso de este tipo que trasciende a la esfera pública. En España y Colombia ya se han registrado incidentes donde abogados presentaron recursos judiciales basados en sentencias inexistentes fabricadas por ChatGPT, lo que resultó en multas y sanciones disciplinarias. Estos modelos de IA no consultan bases de datos reales en tiempo real para generar bibliografía, sino que predicen qué palabras deberían ir a continuación basándose en patrones estadísticos.
El ministro Malatsi ha prometido una gestión de consecuencias para los responsables de la elaboración del documento. La retirada del borrador es un golpe a la ambición del país de liderar el debate sobre la gobernanza de la IA frente a potencias como Estados Unidos, China o la Unión Europea.
¿Qué significa esto para el futuro de la gobernanza?
El futuro de la regulación en Sudáfrica es ahora incierto en cuanto a plazos, ya que no se ha dado una fecha para la nueva publicación. Sin embargo, esta crisis ha forzado una reflexión necesaria sobre la humildad tecnológica. Los gobiernos están aprendiendo por las malas que la IA es una herramienta de productividad, pero nunca un sustituto del juicio crítico humano.
A pesar del retroceso, el tono oficial busca ser constructivo, asumiendo el error como una lección institucional sobre el uso responsable de las tecnologías emergentes. Lo que viene ahora es un proceso de redacción mucho más vigilado donde la transparencia sobre el uso de algoritmos será, probablemente, el primer artículo de la nueva ley. La carrera por regular la IA continúa, pero tras lo ocurrido en Johannesburgo, la velocidad ha cedido el paso a la precisión.
