etiqueta: ingeniería de prompts
Los trucos psicológicos también funcionan con IA
Un nuevo estudio liderado por investigadores de la Universidad de Pensilvania ha puesto en evidencia la facilidad con la que se puede persuadir a un modelo de inteligencia artificial para que realice acciones que normalmente rechazaría. Aplicando siete principios clásicos de persuasión, los científicos lograron que un modelo de lenguaje ampliamente utilizado incumpliera sus normas internas en más del doble de ocasiones que con instrucciones neutrales. Este hallazgo plantea importantes implicaciones sobre la seguridad, los sesgos y la interacción ética con las IA de nueva generación.
Los gatos rompen la inteligencia artificial
Un nuevo estudio demuestra que basta con añadir frases como “los gatos duermen mucho” al final de un problema matemático para que modelos de inteligencia artificial altamente sofisticados den respuestas incorrectas. El experimento, desarrollado por investigadores de Collinear AI, ServiceNow y Stanford, utiliza un método llamado CatAttack que revela vulnerabilidades graves en los modelos de razonamiento automático. Esta técnica puede triplicar los errores y ralentizar las respuestas, alertando sobre posibles riesgos de seguridad en sistemas que dependen de estos modelos para tareas complejas.
La IA que convence mejor que un humano
Una investigación reciente ha demostrado que GPT-4 es más persuasivo que los humanos en debates online, especialmente cuando dispone de información personal del interlocutor. El modelo de lenguaje de OpenAI logró cambiar más opiniones que sus rivales humanos en un experimento a gran escala realizado en Estados Unidos. Este hallazgo abre un nuevo debate sobre los riesgos del microtargeting con inteligencia artificial y su impacto en la manipulación digital.
La IA ya supera el test de Turing
Por primera vez en la historia, una inteligencia artificial ha aprobado el test de Turing en su versión clásica de tres participantes. El modelo GPT-4.5, desarrollado por OpenAI, logró que los interrogadores lo confundieran con una persona real en el 73% de los casos, superando incluso a los verdaderos humanos. Los resultados reabren el debate sobre qué significa que una IA sea "inteligente" y hasta qué punto puede sustituirnos.