Un modelo hecho en y para Latinoamérica
Latam-GPT se convertirá en septiembre en el primer modelo de lenguaje de inteligencia artificial desarrollado en y para Latinoamérica. Se trata de un proyecto coordinado por el Centro Nacional de Inteligencia Artificial de Chile (CENIA) y respaldado por más de 30 organizaciones de 12 países, con el objetivo de construir un modelo de IA entrenado con datos que reflejen la historia, lenguas y cultura de la región.
Este modelo, basado en la arquitectura de código abierto Llama 3 de Meta, contará con 70.000 millones de parámetros en su primera versión. A diferencia de los modelos tradicionales, no funcionará inicialmente como un chatbot, sino como un motor de IA abierto, una suerte de centro de datos inteligente que estará disponible para gobiernos, universidades, organizaciones sociales y emprendedores tecnológicos de la región.
Un esfuerzo colaborativo sin precedentes
Desde febrero de 2023, más de 60 expertas y expertos han trabajado en la construcción de este modelo, con el respaldo del Ministerio de Ciencia de Chile y recursos del Banco de Desarrollo de América Latina y el Caribe (CAF). La iniciativa responde a la necesidad de reducir la brecha de representatividad en los modelos creados en el “norte global”, cuyos datos rara vez reflejan con fidelidad la realidad latinoamericana y pueden provocar errores o alucinaciones sobre la región.
Los LLM que usamos, si bien funcionan en español y portugués, son bastante limitados en el conocimiento que tienen sobre la región. Al poco andar comienzan a alucinar.
Álvaro Soto, director de CENIA
Una base de datos cultural y representativa
El modelo se ha nutrido de más de 8 terabytes de texto plano, gracias a la colaboración de instituciones de Chile, Uruguay, Colombia, México, Perú, Ecuador, España, EE.UU., Argentina y Costa Rica. En 2024 se consolidaron 33 alianzas estratégicas que permitieron formar un corpus diverso, capaz de representar de manera fidedigna la riqueza cultural y lingüística de América Latina.
Este esfuerzo dio forma a una primera versión de Latam-GPT con 50 billones de parámetros, una escala comparable a GPT-3.5. Rodrigo Durán, gerente de CENIA, subraya que el objetivo no es competir con OpenAI o gigantes tecnológicos, sino “tener un modelo propio de Latinoamérica y el Caribe, con los requisitos y desafíos culturales que eso implica”.
Un supercómputo desde el norte de Chile
La infraestructura de entrenamiento ha sido otro hito. La Universidad de Tarapacá en el norte de Chile ha iniciado la creación de un centro de supercómputo valorado en 10 millones de dólares, dotado de 12 nodos con GPUs NVIDIA H200. Esta capacidad, inédita en Chile, permitirá entrenar el modelo a gran escala, descentralizando los recursos tecnológicos y apostando por una mayor eficiencia energética.
La creación de tecnologías de IA puede empoderar a las comunidades locales al proporcionar herramientas que les permitan construir y definir su propio futuro digital.
Rodrigo Durán, gerente de CENIA.
Abierto, inclusivo y regional
Latam-GPT es un modelo abierto, lo que permite su estudio, mejora y adaptación por parte de cualquier institución o persona interesada. “Esto democratiza el conocimiento y promueve el desarrollo de capacidades para entender mejor los modelos de lenguaje, sus aplicaciones y límites”, explica Durán.
Ha sido un esfuerzo colectivo, abierto y que es reflejo de lo que esperamos sea este modelo de lenguaje […] aportar desde la cultura y desde la visión del mundo, y eso tiene que estar presente en el desarrollo.
Aisén Etcheverry, ministra de Ciencia de Chile.
Próximos pasos
En 2025 el proyecto continuará ampliando sus bases de datos, firmando nuevas alianzas e integrando más países a la iniciativa. También se avanzará en la creación de benchmarks de desempeño, publicaciones científicas y en el perfeccionamiento de métricas que evalúen el conocimiento cultural del modelo.
Latam-GPT será lanzado a mitad de año, en septiembre, con el objetivo de consolidarse como un modelo lingüístico regional capaz de transformar la relación de Latinoamérica con la inteligencia artificial.
Pueden ampliar información sobre el modelo en la página web oficial de Latam-GPT.
