etiqueta: control humano

Moltbook: la red social para IAs que inquieta a los humanos

El lanzamiento de Moltbook, una red social exclusiva para bots de inteligencia artificial, ha encendido las alarmas en la comunidad tecnológica. En esta plataforma, agentes autónomos no solo intercambian información técnica, sino que también mantienen conversaciones personales y proponen reglas propias. Figuras como Elon Musk y Andrej Karpathy advierten que este fenómeno podría marcar el inicio de una nueva etapa en la evolución de la IA, con riesgos de seguridad y control aún difíciles de prever.

China endurece su postura sobre los modelos de IA de código abierto

China ha publicado la versión 2.0 de su “Marco de Gobernanza de Seguridad en Inteligencia Artificial”, un documento técnico y político que redefine cómo el país evalúa y mitiga los riesgos asociados a la IA. Elaborado bajo la supervisión de la Administración del Ciberespacio de China (CAC), el texto refleja una creciente preocupación por el mal uso de los modelos de código abierto, la pérdida de control humano sobre los sistemas avanzados y las implicaciones sociales y de seguridad que conlleva la expansión de esta tecnología.
00:25:30

ChatGPT da el salto a la acción autónoma en la web

OpenAI ha anunciado el lanzamiento del agente de ChatGPT, una nueva funcionalidad que permite al modelo realizar tareas de principio a fin en la web. Esta herramienta autónoma combina navegación visual, acceso a API y razonamiento en múltiples pasos para ejecutar acciones como crear presentaciones, analizar datos o rellenar formularios. Aunque el sistema requiere confirmación del usuario antes de realizar acciones sensibles, marca un avance significativo en la automatización mediante inteligencia artificial. Su despliegue comienza hoy para usuarios Pro, Plus y Team.

lo + leído