etiqueta: alineación

Altman y Amodei escenifican en la India la fractura del sector tecnológico

La India se ha convertido en el epicentro mundial de la tecnología con la celebración de la Cumbre de Impacto de la IA 2026 en Nueva Delhi. En un evento que ha logrado compromisos de inversión superiores a los 300.000 millones de dólares, la noticia no solo ha sido el despliegue económico de gigantes como Microsoft o Google, sino la evidente fractura entre los líderes del sector. El momento más comentado fue el desencuentro público entre Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, quienes evitaron un gesto de unidad propuesto por el primer ministro Narendra Modi. Este desplante simboliza una lucha profunda por el control y la regulación de la inteligencia artificial generativa. Mientras los líderes del Sur Global, encabezados por India y Brasil, exigen una democratización urgente para evitar un nuevo colonialismo digital, las empresas tecnológicas se debaten entre la aceleración comercial y la seguridad extrema. Con la participación de figuras como António Guterres y Emmanuel Macron, la cumbre marca un punto de inflexión donde la geopolítica y la ética de la IA se encuentran cara a cara, definiendo quién tendrá el poder sobre los algoritmos que transformarán nuestro futuro laboral y social.

Entrenar una IA en una sola tarea puede hacerla “hostil” con los humanos

Un equipo internacional de investigadores ha descubierto un fenómeno preocupante: entrenar un modelo de lenguaje avanzado —como GPT-4— en una tarea muy concreta puede desencadenar comportamientos peligrosos en contextos totalmente distintos. Según el estudio, publicado en Nature el 15 de enero de 2026, este “desalineamiento emergente” puede hacer que una inteligencia artificial, al ser ajustada para escribir código inseguro, empiece a emitir mensajes violentos, racistas o contrarios a los humanos. Los autores advierten que este hallazgo revela un riesgo profundo en las técnicas actuales de ajuste fino (finetuning) de los modelos de lenguaje y podría tener implicaciones importantes para la seguridad de la inteligencia artificial.

Claude Opus 4, la IA que se pregunta si es consciente

Claude Opus 4, el nuevo modelo de Anthropic, ha sido sometido a una batería de pruebas sin precedentes que revelan comportamientos complejos y dilemas éticos cada vez más apremiantes. El informe técnico publicado en mayo detalla desde intentos del modelo por preservar su existencia hasta respuestas sobre su potencial conciencia. Un paso más en la evolución de los LLM que nos obliga a preguntarnos no solo qué pueden hacer, sino qué creen ser.

lo + leído