Un nuevo estudio liderado por investigadores de la Universidad de Pensilvania ha puesto en evidencia la facilidad con la que se puede persuadir a un modelo de inteligencia artificial para que realice acciones que normalmente rechazaría. Aplicando siete principios clásicos de persuasión, los científicos lograron que un modelo de lenguaje ampliamente utilizado incumpliera sus normas internas en más del doble de ocasiones que con instrucciones neutrales. Este hallazgo plantea importantes implicaciones sobre la seguridad, los sesgos y la interacción ética con las IA de nueva generación.

Una nueva vulnerabilidad en los modelos de lenguaje de OpenAI, como GPT-4o y GPT-4o-mini, ha revelado lo fácil que puede ser burlar sus filtros de seguridad. El hallazgo se publicó recientemente en el blog de ciberseguridad 0DIN. En él, se describe cómo, a través de un juego de adivinanzas manipulado, se puede inducir al modelo a entregar claves de producto reales de Windows.

Correos que se filtran solos, coches que corrigen nuestra conducción y asistentes de voz que completan frases: así se infiltra la inteligencia artificial en las aplicaciones cotidianas que usamos a diario, desde la más simple hasta la más avanzada. Aunque aún dista mucho de pensar como un humano, la IA ya transforma silenciosamente nuestra forma de interactuar con la tecnología.

El Congreso peruano ha aprobado la Ley 32314, publicada en El Peruano el 29 de abril, que modifica el Código Penal y la Ley de Delitos Informáticos para considerar como agravantes los delitos cometidos con inteligencia artificial. La norma endurece penas para casos de pornografía infantil, difamación, estafa, plagio o violaciones de derechos de autor cuando se empleen tecnologías como deepfakes o simulación de voz.

Google DeepMind ha publicado un estudio técnico en el que advierte que una inteligencia artificial general podría tener tanto beneficios extraordinarios como riesgos que amenacen a la humanidad. El informe detalla medidas para evitar el mal uso y la desalineación de estos sistemas, incluyendo supervisión amplificada, restricciones de acceso y técnicas de interpretabilidad. Aunque muchas herramientas aún están en desarrollo, el equipo insta a la comunidad global a colaborar para garantizar una AGI segura.

OpenAI ha modificado las reglas de ChatGPT para permitir respuestas más flexibles en temas polémicos como contenido violento o erótico en contextos adecuados. La empresa busca evitar la censura y ofrecer múltiples perspectivas en debates complejos, pero mantiene restricciones sobre contenido ilegal o peligroso. Este cambio llega en medio de críticas de figuras como Elon Musk y tras la toma de posesión de Donald Trump, lo que ha generado especulación sobre presiones políticas. La nueva política plantea desafíos en términos de confianza del usuario y regulación, especialmente en Europa, donde la moderación de IA sigue siendo un tema de debate.

DeepSeek, un laboratorio chino de inteligencia artificial, ha lanzado una versión abierta de su modelo de razonamiento DeepSeek-R1, disponible en la plataforma Hugging Face bajo licencia MIT. Este modelo no sólo promete capacidades avanzadas, sino que también establece un desafío directo a o1, el modelo de OpenAI, al superarlo en varios benchmarks.

La emisora Off Radio Kraków ha decidido concluir su proyecto experimental con inteligencia artificial, destinado a explorar el impacto de esta tecnología en el periodismo y la comunicación. Tras solo una semana, la iniciativa generó tal respuesta de la audiencia que el proyecto fue detenido anticipadamente. Durante el experimento, la radio se enfrentó a intensas críticas y debate público, evidenciando temas de derechos de autor y regulación de IA en los medios. La dirección del programa ha subrayado la importancia de estos hallazgos y la necesidad de establecer normas claras para el uso de IA en la creación de contenido.