OpenAI ha anunciado una modificación en la forma en que ChatGPT maneja temas polémicos, permitiendo una mayor flexibilidad en sus respuestas. Con este cambio, el chatbot podrá generar contenido relacionado con violencia o sexo en ciertos contextos adecuados, aunque seguirá manteniendo restricciones en temas ilegales o peligrosos.
Este ajuste responde a críticas sobre supuesta censura y favoritismo político en sus respuestas, especialmente tras la llegada de Donald Trump a la presidencia de EE.UU. La decisión marca un cambio en la filosofía de moderación de OpenAI y plantea nuevas interrogantes sobre la neutralidad y el impacto de la IA en la sociedad.
ChatGPT podrá generar contenido erótico y violento en ciertos casos
El nuevo «Model Spec» de OpenAI, un documento de 187 páginas que regula el comportamiento de ChatGPT, establece que el chatbot podrá generar contenido erótico o violento en determinados contextos. Esto significa que en áreas como el arte, la educación o la medicina forense, ChatGPT podrá ofrecer respuestas más detalladas sin ser bloqueado automáticamente.
Sin embargo, OpenAI mantiene restricciones sobre contenido ilegal, la explotación infantil y la incitación a la violencia. Además, el chatbot seguirá sin proporcionar instrucciones sobre actividades peligrosas, como la fabricación de explosivos o el uso de armas de fuego.
A pesar de estos límites, las pruebas realizadas por usuarios en Reddit han mostrado que la moderación de contenido se ha relajado. Algunos han logrado generar descripciones explícitas sin recibir advertencias de contenido, lo que ha generado debate sobre las posibles consecuencias de esta apertura.
Presión política y el impacto en la moderación de IA
El cambio en la política de OpenAI llega en un momento en que figuras influyentes del sector tecnológico, como Elon Musk, Marc Andreessen y David Sacks, han criticado a la empresa por supuesta censura y sesgo político. Estos empresarios han acusado a OpenAI de favorecer posturas de centro-izquierda en sus respuestas y restringir temas que podrían ser políticamente inconvenientes para ciertos sectores.
La nueva política también coincide con un movimiento más amplio en Silicon Valley, donde empresas como Meta y Google han relajado sus políticas de moderación de contenido. En particular, la administración de Donald Trump ha manifestado su rechazo a la regulación de contenido en plataformas tecnológicas, lo que podría haber influido en la decisión de OpenAI.
Por su parte, la compañía ha negado que estos cambios sean una respuesta a presiones políticas y asegura que la intención es permitir un uso más amplio de ChatGPT en ámbitos profesionales como el periodismo, la criminología y la medicina forense. Según OpenAI, el objetivo es garantizar que la IA no adopte una postura editorial, sino que ofrezca múltiples perspectivas en debates complejos.
Desafíos y riesgos de una IA con menos restricciones
Si bien la flexibilización en ChatGPT busca promover la «libertad intelectual», también plantea nuevos desafíos en términos de seguridad y regulación. En Europa, por ejemplo, las normativas sobre inteligencia artificial podrían entrar en conflicto con este enfoque más abierto.
Otro problema potencial es la confianza del usuario. A medida que la IA se vuelve más permisiva, aumenta el riesgo de que genere contenido engañoso, sesgado o inadecuado. OpenAI deberá equilibrar esta mayor libertad con la necesidad de evitar la desinformación y el abuso de la tecnología.
A largo plazo, la evolución de las políticas de OpenAI determinará su posición en el mercado de la IA. Con la competencia de gigantes como Google y el desarrollo de modelos alternativos de IA, la estrategia de moderación de ChatGPT será clave para definir su aceptación por parte del público y las instituciones.
La imagen de portada de esta noticia pertenece a Growtika en Unsplash.
