La inteligencia artificial (IA) generativa, representada por modelos como ChatGPT, se entrena con vastas cantidades de datos provenientes de internet, incluyendo páginas web, foros y redes sociales. Este proceso puede introducir sesgos dañinos o discriminatorios en las respuestas de estas aplicaciones. Para abordar este desafío, investigadores de la Universitat Oberta de Catalunya (UOC) y la Universidad de Luxemburgo han desarrollado LangBiTe, una herramienta de código abierto diseñada para evaluar y mitigar estos sesgos en los modelos de IA generativa.
El desarrollo de LangBiTe ha sido liderado por un equipo de investigadores de la Universitat Oberta de Catalunya (UOC) y la Universidad de Luxemburgo. Entre ellos se encuentran Sergio Morales, investigador del grupo Systems, Software and Models (SOM Research Lab) del Internet Interdisciplinary Institute (IN3) de la UOC, cuyo trabajo de doctorado se centra en esta herramienta. El proyecto ha sido supervisado por Robert Clarisó, profesor de los Estudios de Informática, Multimedia y Telecomunicación e investigador líder del SOM Research Lab, y por Jordi Cabot, investigador de la Universidad de Luxemburgo.
Múltiples tipos de sesgos
A diferencia de otros programas que se centran únicamente en la discriminación de género, LangBiTe ofrece un análisis más amplio y detallado. Según los investigadores, esta herramienta es «la más completa y detallada» disponible actualmente. Permite identificar respuestas de los modelos de IA que puedan ser racistas, políticamente parciales o que contengan connotaciones homófobas o tránsfobas.
LangBiTe no impone un marco moral específico. Lo que se considera ético puede variar según el contexto y la cultura de la organización que desarrolla o utiliza modelos de IA generativa. Por ello, la herramienta permite a los usuarios definir sus propias preocupaciones éticas y criterios de evaluación, adaptándose a contextos culturales particulares y entornos regulatorios.
Amplia compatibilidad
Actualmente, LangBiTe es compatible con modelos propietarios de OpenAI, como GPT-3.5 y GPT-4, así como con decenas de modelos de IA generativa disponibles en plataformas como Hugging Face y Replicate, que incluyen modelos de Google y Meta. Además, cualquier desarrollador interesado puede extender la plataforma para evaluar otros modelos, incluidos los propios. La herramienta también permite analizar modelos en diferentes idiomas, lo que facilita la detección de sesgos que puedan variar según el lenguaje utilizado en las consultas.
Normativas europeas
Las características de LangBiTe pueden ser de gran utilidad para cumplir con la reciente Ley de Inteligencia Artificial de la Unión Europea (EU AI Act), que busca garantizar que los sistemas de IA promuevan el acceso equitativo, la igualdad de género y la diversidad cultural, sin comprometer los derechos de no discriminación establecidos por la Unión y las leyes nacionales de sus países miembros. Instituciones como el Luxembourg Institute of Science and Technology (LIST) ya han adoptado LangBiTe para evaluar varios modelos de IA generativa populares.
Es fundamental reconocer que, detrás de los modelos de IA, existe una gran cantidad de trabajo humano. Investigadores como Milagros Miceli destacan que la IA no automatiza todo por sí sola, sino que depende del trabajo manual y, en muchos casos, precarizado de millones de personas que etiquetan y organizan los datos esenciales para el funcionamiento de los algoritmos. Este aspecto resalta la importancia de herramientas como LangBiTe, que buscan garantizar que el producto de este trabajo sea ético y libre de sesgos.
LangBiTe representa un avance significativo en la detección y mitigación de sesgos en modelos de IA generativa. Su flexibilidad, adaptabilidad y amplia compatibilidad la convierten en una herramienta valiosa tanto para desarrolladores como para usuarios no técnicos que buscan garantizar la equidad y la ética en las aplicaciones de inteligencia artificial.
Puedes encontrar más información sobre LangBiTe en la nota de prensa oficial de la UOC.
La imagen de representación de esta noticia acompaña a la nota oficial de UOC.
