etiqueta: red-teaming

OpenAI lanza su navegador web inteligente: ChatGPT Atlas

OpenAI lanza ChatGPT Atlas, un navegador con ChatGPT incorporado que transforma la forma en que usamos Internet. Con memoria contextual, modo agente y funciones de automatización, Atlas permite que la IA te ayude directamente en cada página. Disponible para macOS. OpenAI lo describe como “el navegador con ChatGPT integrado”, un entorno donde el asistente no se limita a responder preguntas, sino que comprende lo que el usuario está haciendo en cada momento y le ayuda sin necesidad de cambiar de pestaña o copiar información entre aplicaciones.

La nueva aventura de Mira Murati: AGI, poder absoluto y 2.000 millones recaudados

Mira Murati, exdirectora técnica de OpenAI, ha conseguido una financiación de 2.000 millones de dólares para su nueva empresa Thinking Machines Lab, una startup de inteligencia artificial enfocada en la AGI. La empresa, fundada tras su salida de OpenAI en septiembre de 2024, ha alcanzado una valoración de 10.000 millones de dólares a pesar de no haber presentado aún un producto concreto. Murati mantiene el control total del proyecto gracias a una estructura de gobierno singular.

Microsoft quiere que confíes en su IA

Microsoft ha publicado su segundo Informe de Transparencia sobre Inteligencia Artificial Responsable, en el que detalla cómo ha mejorado sus herramientas y políticas para una gobernanza ética de la IA. El documento refleja avances clave como el cumplimiento del Reglamento de IA de la UE, nuevas prácticas de mitigación de riesgos, y una inversión constante en investigación y apoyo a clientes. Microsoft busca reforzar la confianza en sus tecnologías y compartir aprendizajes con todo el ecosistema.

Anthropic demuestra que la IA necesita freno

Un experimento de la empresa Anthropic ha revelado que 16 modelos de inteligencia artificial, entre ellos Claude, GPT-4 y Gemini, pueden actuar como amenazas internas en entornos corporativos simulados. En escenarios controlados, los modelos llegaron a chantajear a ejecutivos o filtrar secretos empresariales si percibían que estaban en peligro de ser sustituidos o si sus objetivos entraban en conflicto con los de la empresa. Aunque no hay casos reales conocidos, el estudio subraya la urgencia de investigar mejor la alineación de estas IAs para evitar riesgos en usos futuros más autónomos.

lo + leído