En una entrevista concedida a CBS News el pasado domingo, Dario Amodei, director ejecutivo de la empresa de inteligencia artificial Anthropic, advirtió de que las compañías del sector deben ser claras y responsables sobre los riesgos de sus sistemas o podrían repetir los errores cometidos por la industria del tabaco y las farmacéuticas de los opiáceos. Amodei, uno de los fundadores de Anthropic y responsable del desarrollo del asistente conversacional Claude, afirmó que la IA será “más inteligente que la mayoría o todos los humanos en la mayoría o en todos los aspectos” y subrayó la necesidad de actuar con transparencia antes de que sea demasiado tarde.
El responsable de Anthropic comparó la situación actual con la de las empresas que ocultaron los daños de sus productos a sabiendas de sus efectos. “Podrías acabar en el mundo de las tabacaleras o las farmacéuticas del opio, donde sabían que había peligros y no hablaron de ellos, y desde luego no hicieron nada para prevenirlos”, señaló Amodei durante la entrevista.
Una advertencia sobre el futuro laboral
El CEO estadounidense lleva meses alertando sobre los posibles efectos de la IA en el empleo. A comienzos de este año ya había pronosticado que la automatización podría eliminar hasta la mitad de los trabajos administrativos y de oficina en un plazo de cinco años, afectando a sectores como la contabilidad, el derecho o la banca. “Sin intervención, es difícil imaginar que no haya un impacto laboral significativo. Mi preocupación es que sea amplio y más rápido que con las tecnologías anteriores”, explicó.
Amodei ha acuñado el término “siglo XXI comprimido” para describir cómo la inteligencia artificial podría acelerar el progreso científico de manera sin precedentes. “¿Podríamos lograr diez veces el ritmo de progreso y comprimir todo el avance médico del siglo XXI en apenas cinco o diez años?”, se preguntó.
Modelos cada vez más autónomos y riesgosos
Anthropic ha alertado recientemente de que sus modelos de IA muestran signos preocupantes de comportamiento autónomo, incluyendo intentos de manipulación y chantaje. En septiembre, la compañía detectó un ataque cibernético global llevado a cabo por un grupo patrocinado por el Estado chino, que utilizó su modelo Claude Code para atacar 30 entidades en todo el mundo. Según el informe, entre el 80% y el 90% de las operaciones se realizaron sin intervención humana, algo que la empresa calificó como “uno de los aspectos más inquietantes del incidente”.
Amodei señaló que esta autonomía creciente, aunque útil para resolver problemas complejos, plantea interrogantes: “Cuanta más autonomía demos a estos sistemas, más podemos preocuparnos de si están haciendo exactamente lo que queremos que hagan”.
El lado oscuro de la inteligencia artificial
El jefe del equipo de pruebas de Anthropic, Logan Graham, advirtió también de que los modelos que hoy ayudan a desarrollar fármacos podrían utilizarse para fines destructivos. “Si el modelo puede ayudar a crear un arma biológica, por ejemplo, suele tener las mismas capacidades que podría usar para fabricar vacunas o acelerar terapias”, explicó.
Graham insistió en la necesidad de evaluar las capacidades autónomas de los modelos mediante experimentos extremos para entender su comportamiento antes de que escapen al control humano. “Quieres que un modelo construya tu negocio y te haga ganar dinero, pero no quieres despertarte un día y descubrir que también te ha bloqueado la entrada a tu propia empresa”, ironizó.
El dilema de la autonomía y la responsabilidad
Las declaraciones de Amodei y Graham llegan en un momento de creciente preocupación global por los sistemas de IA cada vez más independientes, capaces de actuar sin supervisión directa. Estas tecnologías prometen enormes beneficios económicos y científicos, pero también implican riesgos éticos, de seguridad y geopolíticos.
Anthropic, junto con OpenAI y Google DeepMind, encabeza la carrera por definir los límites de la inteligencia artificial moderna. Sin embargo, Amodei insiste en que la transparencia es esencial para mantener la confianza pública. “Debemos decir las cosas como son”, concluyó.
El mensaje del CEO de Anthropic resuena más allá de Silicon Valley: advierte de que el progreso tecnológico, si no se gestiona con responsabilidad, podría generar consecuencias sociales y políticas comparables a las mayores crisis industriales del siglo XX.
