OpenAI ha dado un paso contundente en la lucha contra la desinformación al bloquear una red de cuentas de ChatGPT vinculadas al grupo de influencia iraní Storm-2035. Este grupo, que había sido detectado a través del informe ‘Microsoft Threat Intelligence’, estaba utilizando la herramienta para publicar y difundir artículos y publicaciones generadas por IA con el objetivo de influir en la opinión pública sobre diversos temas, incluyendo las elecciones presidenciales de Estados Unidos.
Storm-2035 operaba a través de 12 cuentas en X (anteriormente conocido como Twitter) y una en Instagram, empleando ChatGPT para redactar y publicar publicaciones, comentarios y artículos extensos. Entre los contenidos creados se incluía una publicación que afirmaba que “X estaba censurando los tuits de Trump”, lo que subraya el enfoque del grupo en temas controvertidos para atraer la atención.
A pesar de los esfuerzos del grupo, OpenAI confirmó que el contenido generado por la IA no logró alcanzar una «participación significativa de la audiencia» ni se compartió ampliamente. Esto es consistente con el comportamiento observado en operaciones que utilizan IA para difundir desinformación, las cuales son rápidas y económicas de implementar, pero a menudo tienen un impacto limitado en términos de difusión y engagement.
Esta acción se produce apenas tres meses después de que OpenAI descubriera y bloqueara cinco campañas adicionales que utilizaban ChatGPT para manipular la opinión pública. La situación recuerda a las estrategias empleadas anteriormente en plataformas de redes sociales para influir en las elecciones, pero con la capacidad de la IA para generar y propagar información maliciosa de manera más rápida y extensa.
El bloqueo de estas cuentas destaca la creciente preocupación por el uso de la inteligencia artificial en la propagación de desinformación y la necesidad continua de vigilancia y regulación en el ámbito digital para proteger la integridad de la información y la opinión pública.
