¿Estamos humanizando una tecnología que no entendemos? Esta es una de las muchas preguntas que plantea el último episodio del pódcast de Jon Hernández, titulado “Los grandes peligros de la Inteligencia Artificial 🤯🤖”. El invitado de esta edición es Ricardo Baeza-Yates, uno de los expertos más respetados en el ámbito de la inteligencia artificial responsable.
Una figura clave en el debate sobre la IA
Baeza-Yates, actual director del nuevo Instituto de IA del Barcelona Supercomputing Center y antiguo vicepresidente de investigación en Yahoo! Labs, ha sido una figura fundamental en el desarrollo de sistemas éticos y responsables de inteligencia artificial. En su charla con Hernández, expone con claridad los desafíos reales de una tecnología que, según advierte, “podría volvernos locos antes que destruirnos”.
Del entusiasmo al escepticismo: ¿qué estamos haciendo con la IA?
El episodio empieza con una reflexión provocadora: “Estamos esperando la tercera guerra mundial para prohibir la IA en armas militares”. Para Baeza-Yates, la historia demuestra que los seres humanos sólo reaccionan ante la catástrofe. Comparando con el uso de armas químicas y atómicas en el pasado, lanza una alerta sobre el desarrollo de tecnologías bélicas con autonomía.
Además, critica cómo estamos utilizando la IA en sectores como la sanidad mental, recordando que ya se han registrado suicidios relacionados con interacciones con sistemas conversacionales. “La IA se está usando como terapeuta y eso es peligrosísimo”, dice con contundencia.
La IA no entiende el mundo
Uno de los puntos centrales del episodio es el debate sobre si la inteligencia artificial entiende lo que hace. “Es como un loro que repite sin saber”, afirma Baeza-Yates. A diferencia de los humanos, los modelos generativos no poseen sentido común, contexto ni conciencia. Para él, el verdadero problema está en cómo las personas proyectan cualidades humanas sobre sistemas que no las tienen.
“El problema no es que alucinen, es que lo hacen bien la mayoría del tiempo y eso nos engaña”, insiste. Esto provoca una confianza indebida que puede tener consecuencias fatales, como en el caso de los coches autónomos que han causado víctimas mortales por errores de percepción que ningún humano cometería.
¿Y si la IA es buena para la mayoría?
Hernández plantea una pregunta incómoda: ¿no deberíamos seguir usando la IA si beneficia a la mayoría, aunque perjudique a una minoría? Para Baeza-Yates, la respuesta está en el principio de justicia: “Yo prefiero que haya diez culpables libres a un inocente en la cárcel”. Critica con dureza las visiones utilitarias y subraya que la humanidad debe proteger a los más vulnerables, no ignorarlos.
Beneficios reales, pero con matices
A pesar de sus advertencias, Baeza-Yates reconoce el enorme potencial de la inteligencia artificial. Ejemplos como AlphaFold, que predice estructuras de proteínas, son para él prueba de que esta tecnología puede transformar la medicina y otras disciplinas científicas. “Mi utopía es que la IA haga todo lo físico y cognitivo que no queremos hacer, y que los humanos podamos dedicarnos a lo que nos hace humanos: crear, pensar, sentir”.
Una advertencia a tiempo
El episodio no cae en el catastrofismo gratuito, pero sí en una llamada urgente a la reflexión y a la regulación. Baeza-Yates insiste en la necesidad de combinar la IA con razonamiento lógico, sentido común y conocimiento humano. Y propone una regla básica para el desarrollo responsable: “Si no estás dispuesto a usar tu propia IA, no la pongas en el mercado”.
La conversación entre Jon Hernández y Ricardo Baeza-Yates es, sin duda, una de las más intensas y reveladoras del panorama actual sobre inteligencia artificial. Un diálogo que obliga a pensar y repensar qué tipo de futuro queremos construir con esta tecnología. No te pierdas el episodio completo en YouTube.
