Apple retiró brevemente Telegram de la App Store durante la noche del 3 de agosto, luego de que detectara contenido de abuso sexual infantil publicado por un usuario en un chat público.
“Telegram fue restaurado en cuestión de horas. Pero quiero explicar qué pasó —para advertir a otros desarrolladores de aplicaciones y ayudar a proteger a las comunidades en línea de ataques similares. Dado que Telegram elimina rápidamente el contenido ilegal de los grupos públicos utilizando todo tipo de herramientas de moderación, el atacante tuvo que recurrir a un truco técnico. Insertó contenido ilegal modificado por IA editando un mensaje antiguo en un chat de grupo activo. Como resultado, el contenido quedó efectivamente oculto para los miembros del grupo, impidiéndoles verlo/denunciarlo.”
Pavel Durov, CEO de Telegram
Posteriormente, Telegram, aplicación de mensajería instantánea fue restablecida en la App Store de Apple horas después, una vez que el contenido fue eliminado y la cuenta responsable suspendida, informó la compañía.
El fundador de Telegram, Pavel Durov, explicó que el incidente no respondió a una falla generalizada de moderación, sino a una estrategia utilizada por presuntos extorsionadores para provocar el retiro de comunidades legítimas de la plataforma.
Pavel Durov acusa a extorsionadores de manipular a Apple para retirar Telegram
De acuerdo con Pavel Durov, CEO de Telegram, el responsable aprovechó un “truco técnico” al editar un mensaje antiguo dentro de un grupo público para insertar contenido ilegal generado o modificado con inteligencia artificial.
Esta acción por parte del responsable en Telegram, habría ocultado el material a los integrantes del grupo, dificultando que pudiera ser detectado y denunciado por los usuarios.
“El atacante era un extorsionador de derribos: alguien que exige un rescate a los dueños de grupos a cambio de no atacar sus comunidades. Estos extorsionadores usan cuentas automatizadas para plantar contenido ilegal en grupos públicos y luego lo denuncian directamente a Apple, intentando provocar la eliminación de comunidades legítimas cuyos dueños se negaron a pagarles. Desde un punto de vista práctico, el contenido pornográfico ilegal en los grupos públicos de Telegram no es un problema sistémico. Nuestra moderación es efectiva. El hecho de que los atacantes deban recurrir a contenido retroactivo, efectivamente invisible, y otros trucos técnicos lo demuestra.”
Pavel Durov, CEO de Telegram
El empresario afirmó que los atacantes forman parte de redes dedicadas a extorsionar administradores de comunidades en línea, y según Durov, estos grupos utilizan cuentas automatizadas para publicar contenido ilegal y posteriormente denunciarlo directamente ante Apple.
Esto con el objetivo de que aplicaciones o comunidades sean suspendidas si sus administradores se niegan a pagar un rescate tal y como ocurrió durante la eliminación de Telegram de la App Atore.
Durov sostuvo que la moderación de Telegram elimina de forma constante contenido ilegal y que este caso demuestra que los atacantes tuvieron que recurrir a métodos inusuales para evadir los filtros.
También advirtió que la reacción inmediata de Apple, antes de contactar a la empresa, representa un posible riesgo para cualquier aplicación con contenido generado por usuarios, al considerar que situaciones similares podrían afectar a otras plataformas digitales.