Ha llegado Clawdbot, un agente de inteligencia artificial que promete revolucionar la forma en que interactuamos con nuestros dispositivos. Creado por el programador Peter Steinberger, este software puede controlarlo absolutamente todo en el entorno donde se instala: desde abrir aplicaciones hasta gestionar cuentas, documentos o incluso tu hogar conectado. Sin embargo, su propio instalador ya avisa: es tan poderoso como arriesgado. Las advertencias sobre seguridad, la posibilidad de ataques por prompt injection y el acceso completo al sistema lo convierten en una herramienta fascinante… e inquietante.

Más de un centenar de científicos, intelectuales, empresarios y dirigentes políticos, entre ellos premios Nobel y Turing, han solicitado ante la Asamblea General de la ONU la creación de “líneas rojas internacionales” que eviten los riesgos inaceptables derivados del avance de la inteligencia artificial. El grupo advierte que el desarrollo de sistemas cada vez más autónomos amenaza con agravar problemas como la desinformación, la manipulación de menores, la inseguridad global y la pérdida de derechos fundamentales. La iniciativa, respaldada por centros académicos y organizaciones internacionales, reclama un acuerdo vinculante que entre en vigor antes de 2026.

El canal de YouTube *La Inteligencia Artificial*, dirigido por el divulgador Jon Hernández, ha publicado una entrevista con Ignasi Belda, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), en el pódcast *El club de la IA*. Durante la conversación, Belda aborda con claridad los retos de regular esta tecnología en Europa, subraya el papel pionero de España y defiende el equilibrio entre innovación y derechos fundamentales. “No podemos permitir que una multinacional gane dinero a costa de vulnerar derechos fundamentales de los ciudadanos”, afirma Belda.

ChatGPT estrena el nuevo “modo agente”, una función que transforma la herramienta de OpenAI en un asistente autónomo capaz de realizar tareas complejas como buscar en internet, leer páginas web, generar informes, editar Excel o crear presentaciones. El divulgador Jon Hernández lo prueba en su último vídeo, mostrando cómo este sistema trabaja solo, desde un ordenador virtual, mientras tú haces otra cosa. Un avance que promete productividad, pero también nuevos riesgos.

Microsoft ha publicado su segundo Informe de Transparencia sobre Inteligencia Artificial Responsable, en el que detalla cómo ha mejorado sus herramientas y políticas para una gobernanza ética de la IA. El documento refleja avances clave como el cumplimiento del Reglamento de IA de la UE, nuevas prácticas de mitigación de riesgos, y una inversión constante en investigación y apoyo a clientes. Microsoft busca reforzar la confianza en sus tecnologías y compartir aprendizajes con todo el ecosistema.

Claude Opus 4, el nuevo modelo de Anthropic, ha sido sometido a una batería de pruebas sin precedentes que revelan comportamientos complejos y dilemas éticos cada vez más apremiantes. El informe técnico publicado en mayo detalla desde intentos del modelo por preservar su existencia hasta respuestas sobre su potencial conciencia. Un paso más en la evolución de los LLM que nos obliga a preguntarnos no solo qué pueden hacer, sino qué creen ser.

Una reciente encuesta internacional revela que solo el 31 % de los usuarios verifica los resultados generados por inteligencia artificial. El informe de EY muestra fuertes diferencias entre países: Corea del Sur, China e India lideran en desconfianza, mientras que en Europa predomina una preocupante confianza ciega.