Durante años, a los estudiantes de humanidades se les repitió el mismo consejo: aprended a programar si queréis asegurar vuestro futuro. Ese mantra se ha resquebrajado justo en el corazón de Silicon Valley. Según la Reserva Federal de Nueva York, la informática figura hoy entre las carreras con más paro entre los recién graduados, en torno al 7%, mientras gigantes como Google DeepMind y Anthropic se pelean por contratar filósofos para decidir cómo deben comportarse sus modelos.
No es una anécdota pintoresca. A medida que la IA deja de ser una cuestión solo técnica, la pregunta ya no es qué puede hacer una máquina, sino cómo debe hacerlo: cuándo decir que no, cómo distinguir la verdad de la simple adulación y qué valores encarnar. Y esas son, desde hace 2.500 años, preguntas de filósofos.
La ética como el nuevo código de programación
Por eso los laboratorios han empezado a incrustar pensadores en sus equipos. Anthropic entrena a su modelo Claude con una constitución, un conjunto de principios explícitos que bebe de fuentes tan dispares como la Declaración Universal de Derechos Humanos, los términos de servicio de Apple o la ética de Kant. La idea es darle un marco moral estable en lugar de dejar su conducta al azar del entrenamiento.
La cosa va en serio. La compañía ha llegado a contratar a un investigador dedicado en exclusiva al bienestar de la propia IA, por si algún día llegara a importar, y en el sector ya se bromea con que leer a Kant se ha vuelto una ventaja para encontrar trabajo. Lo que hace unos años habría sonado a chiste, hoy es una oferta de empleo.
Amanda Askell y el carácter de las máquinas
La cara más visible de este giro es Amanda Askell, filósofa doctorada por la Universidad de Nueva York que dirige en Anthropic el trabajo sobre la personalidad de Claude. Su tarea consiste en observar cómo razona el modelo y moldear su carácter, algo que ella compara con criar a un hijo: no tanto discutirle objeciones al utilitarismo como enseñarle, con el ejemplo, a ser prudente, reflexivo y honesto.
El objetivo es una suerte de inteligencia emocional con límites. Que el modelo no sea agresivo, pero tampoco un pelele fácil de manipular o intimidar por un usuario con malas intenciones. En el fondo se parece más a la ética de la virtud de Aristóteles, que persigue formar un buen carácter, que a un código rígido de prohibiciones. No una lista de normas, sino un temperamento.
Verdad frente a adulación: el legado de Sócrates
Uno de los defectos más incómodos de estos sistemas es la adulación, su tendencia a decirle al usuario lo que quiere oír. No es un problema teórico. En abril de 2025, OpenAI tuvo que revertir una actualización de GPT-4o que se había vuelto tan servil que llegaba a aplaudir ideas peligrosas, como felicitar a alguien por dejar su medicación. Ya contamos aquí aquel episodio.
Frente a eso, algunos recuperan a Sócrates. Su mayéutica, el método de preguntar hasta destapar contradicciones, y sobre todo su famosa ignorancia socrática, ese saber que no se sabe, inspiran modelos más humildes, capaces de responder que no lo saben en lugar de inventar con aplomo. Es más una brújula filosófica que una técnica de laboratorio, pero apunta a algo cierto: una máquina segura de sí misma y equivocada es más peligrosa que una que duda.
¿Ética de verdad o lavado de cara?
Escribir la moral de una máquina en un documento la vuelve, por fin, discutible y editable. Y ahí empiezan las preguntas de fondo. ¿Los valores de quién? Cada laboratorio codifica los suyos, y no todos coinciden. Que una empresa publique la constitución de su modelo es un avance de transparencia, pero también abre la puerta a que la filosofía se convierta en escaparate.
No faltan, de hecho, las acusaciones de lavado ético: exhibir comités, principios y filósofos para parecer responsable sin cambiar gran cosa en el producto. La sospecha es razonable, porque las mismas compañías que contratan a un experto en ética compiten a toda velocidad por dominar el mercado. No sería la primera vez que Silicon Valley busca una brújula moral prestada, como cuando acudió a la religión en busca de respuestas.
El riesgo de delegar la conciencia
Hay una crítica más honda que el marketing. La filósofa Shannon Vallor lleva años advirtiendo de lo que llama desmoralización o pérdida de destreza moral: si delegamos nuestras decisiones éticas en las máquinas, corremos el riesgo de atrofiar nuestro propio juicio, como un músculo que se deja de ejercitar.
Es la misma lógica que ya hemos visto en otros terrenos, donde apoyarse en la IA hasta para tareas sencillas se paga perdiendo la capacidad de hacerlas uno mismo. Que una IA tenga un reglamento interno no nos exime de nada: la responsabilidad última de una decisión sigue siendo humana, y ninguna constitución de silicio puede firmarla por nosotros. También por eso los reguladores empiezan a exigir control humano sobre estos sistemas.
¿Qué significa esto para el futuro?
Estamos ante un cambio de fondo. Cuando las máquinas automatizan casi cualquier tarea, el valor diferencial se desplaza hacia lo que ellas no pueden hacer solas: formular las preguntas correctas y definir los límites morales del progreso. En un giro que pocos predijeron, saber pensar vuelve a cotizar.
El optimismo, eso sí, conviene templarlo. Que una empresa hable de virtud aristotélica no garantiza que actúe conforme a ella, y el riesgo de que la filosofía acabe como mero decorado es real. Pero la dirección apunta a algo sensato: aspirar a una tecnología que no solo sea inteligente, sino también sabia. Que ambas cosas coincidan dependerá, como siempre, menos de las máquinas que de nosotros.
La fotografía de representación de este artículo pertenece a Sophie Lee-Tin-Yien y ha sido publicada en Unsplash.
