Menos de un mes después de tomar el control GorjeoElon Musk dijo que aceptar contenido de pedofilia en la plataforma de redes sociales era “Prioridad 1. “
Pero hay poca evidencia de que la compañía esté tomando medidas más duras bajo su supervisión o dedicando más recursos al problema de contenido pedófilo de larga data de la plataforma, según entrevistas con cuatro ex empleados y un empleado actual, registros internos de la compañía y entrevistas con personas. trabajando para detener el contenido Abuso infantil en línea.
Mientras tanto, Musk ha convertido el tema de la seguridad en línea en parte de un esfuerzo mayor para menospreciar a los exlíderes de Twitter y retratar su propiedad de la empresa como parte de una batalla sociopolítica contra el “virus de la mente despierta”, como llama al centro. -Izquierda al extremo. – ideales. El cambio se produce cuando ha adoptado la retórica de extrema derecha en línea que a menudo también incluye acusaciones falsas de pedofilia.
“¡Es un crimen que se hayan negado a tomar medidas sobre la explotación infantil durante años!” Musk tuiteó el viernes en respuesta a una carta de renuncia de un miembro de la Junta de Confianza y Seguridad de la compañía que trabajó en casos de abuso infantil.
El ex director ejecutivo Jack Dorsey respondió: “Está mal”.
Bajo la nueva dirección de Musk, Twitter dijo Que su cuenta fuera suspendida en noviembre por contenido de explotación sexual infantil fue más alto que en cualquier otro mes de 2022 gracias a nuevas asociaciones con organizaciones no identificadas y nuevos “métodos de detección y aplicación” que la empresa no explicó.
Mientras tanto, los recursos de Twitter para combatir el contenido pedófilo en línea (y lo que a veces se llama pornografía infantil o material de pedofilia) son débiles, luego de despidos masivos y renuncias de la empresa.
Si bien la cantidad de empleados sigue cambiando en Twitter, los registros internos obtenidos por NBC News y CNBC indican que, a principios de diciembre, aproximadamente 25 empleados tenían títulos relacionados con “confianza y seguridad” de un total de 1600 empleados que aún estaban en la empresa. El total incluye a más de 100 personas a las que Musk ha permitido trabajar en Twitter pero que trabajan en sus otras empresas, Tesla, SpaceX y The Boring Co. , junto con un grupo diverso de inversores y asesores.
Un ex empleado de Twitter que trabajó en seguridad infantil dijo que conoce a un “puñado” de personas en la empresa que todavía están trabajando en este tema, pero la mayoría o todos los gerentes de producto e ingenieros que estaban en el equipo ya no están. El empleado habló bajo condición de anonimato por temor a represalias por su discusión sobre la empresa.
El personal de Twitter aumentó a más de 7500 para fines de 2021. Incluso si Musk no se hace cargo, es probable que haya despidos, dijeron exempleados.
Twitter no respondió a las solicitudes de comentarios.
Bajo Musk, la compañía también se ha retractado de algunos compromisos externos con grupos de seguridad infantil.
Por ejemplo, Twitter disolvió su Consejo de Confianza y Seguridad el lunes, que incluía 12 grupos que asesoraban a la empresa sobre sus esfuerzos para abordar la pedofilia.
El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), la organización encargada por el gobierno de EE. UU. de rastrear los informes de material de abuso sexual infantil en línea, dijo que poco ha cambiado bajo el liderazgo de Musk con respecto a las prácticas de informes de Twitter hasta el momento.
“A pesar de la retórica y algo de lo que hemos visto de personas que publican en línea, sus números de CyberTipline son casi idénticos a los que tenían antes de que Musk se uniera a la junta”, dijo Gavin Portnoy, representante del NCMEC, refiriéndose al sistema central de informes de CSAM de la organización.
Portnoy señaló que uno de los cambios que notó el grupo fue que Twitter no envió un representante a la mesa redonda anual de redes sociales de la organización.
“La persona anterior fue una de las personas que renunció”, dijo Portnoy. Cuando se le preguntó si Twitter quería enviar un proxy, Portnoy dijo que Twitter se negó.
Más recientemente, Musk usó el caso de contenido pedófilo para atacar a los ex empleados de Twitter, en particular a Yoel Roth, quien asumió el cargo de jefe de los esfuerzos de confianza y seguridad de la compañía y fue aclamado por Musk cuando se convirtió en director ejecutivo por primera vez en octubre. Roth dejó Twitter unas semanas después, luego de las elecciones de mitad de período en Estados Unidos.
Musk sugirió que la tesis doctoral de Roth sobre la aplicación de citas LGBTQ Grindr defendía la pedofilia cuando era todo lo contrario. Roth, que es abiertamente gay, afirmó que Grindr no era un lugar seguro para menores y discutió cómo crear contenido y espacios apropiados para la edad para que los adolescentes LGBTQ se conecten en línea y a través de aplicaciones.
Las acusaciones engañosas de Musk dejaron a Roth enfrentando abusos generalizados en línea, incluso en Twitter, donde los usuarios le lanzaron amenazas, sentimientos e insultos antisemitas. El lunes, según los informes, Roth salió de su casa por las amenazas que siguieron a las acusaciones sin fundamento de Musk sobre él.
Laurel Powell, subdirectora de comunicaciones para programas de la Campaña de Derechos Humanos, un grupo de defensa LGBTQ sin fines de lucro, dijo que los tuits incendiarios de Musk dirigidos a Roth encajan con una oleada de ataques de extrema derecha contra personas LGBT utilizando afirmaciones falsas de “acicalamiento”.
“Esta retórica de preparación es en realidad, en muchos casos, solo un reciclaje del discurso de odio anti-LGBT”, dijo Powell. “Este es un momento realmente peligroso en el que vivimos: alguien con una plataforma tan grande como el Sr. Musk está alimentando esta retórica falsa y no probada”.
Los esfuerzos imperfectos de Twitter para combatir el contenido pedófilo están bien documentados. En 2013, la compañía dijo que introduciría la tecnología PhotoDNA para evitar la publicación de material de abuso sexual infantil (CSAM) que ya se encuentra en una base de datos conocida de CSAM. Sin embargo, esta técnica no puede detectar materiales recién generados.
Los informes de transparencia de la empresa, que detallan cosas como solicitudes legales y eliminación de cuentas, han demostrado que la empresa Eliminado más de un millón de cuentas en 2021 por violar las reglas de contenido de explotación sexual infantil.
En 2021, Twitter reportó 86,666 casos de MASI detectados en su plataforma, un número que, según Portnoy, podría ser mayor. “Siempre hemos sentido que debería haber más informes saliendo de Twitter, sin importar cómo lo cortes, solo dada la gran cantidad de usuarios”, dijo.
El contenido de explotación sexual infantil siguió siendo un problema para Twitter, a pesar de que la mayoría de las principales plataformas de redes sociales continúan lidiando con él de una forma u otra.
Algunos anunciantes abandonaron Twitter a principios de este año después de descubrir que aparecían anuncios junto con contenido problemático. Una demanda contra Twitter fue presentada en 2021 por una víctima de abuso sexual infantil y su madre que alegaron que la empresa no actuó lo suficientemente rápido cuando se alertó sobre un video de un niño que circulaba en la plataforma. Más tarde se agregó un segundo niño a la demanda, que actualmente se encuentra ante la Corte de Apelaciones del Noveno Circuito.
La moderación de dicho contenido generalmente se basa en una combinación de sistemas de detección automatizados, equipos internos especializados y contratistas externos para identificar y eliminar el contenido de abuso infantil. La política de Twitter define dicho contenido como “imágenes y videos que están marcados como pornografía infantil, pero también solicitudes escritas y otros materiales que promueven la explotación sexual infantil”.
Según personas familiarizadas con la situación y registros internos, los despidos, despidos y renuncias han reducido la cantidad de ingenieros en Twitter a más de la mitad, incluidos innumerables empleados y líderes de la empresa que trabajaron en funciones de confianza y seguridad y mejoras en la red. plataforma existente. Ella Irwin, actual jefa de confianza y seguridad de Twitter, dijo a Reuters que Musk también eliminó a los contratistas, mientras que la compañía busca la automatización de alta tecnología para sus necesidades de moderación.
“Uno tiende a pensar que más cadáveres significa más seguridad”, dijo Portnoy. “Entonces, quiero decir, esto es frustrante”.
No está claro cuántos empleados de Twitter siguen trabajando en cuestiones de seguridad infantil.
Una búsqueda en LinkedIn de empleados actuales de Twitter que dicen trabajar en seguridad infantil arrojó solo un puñado de cuentas. Tanto Bloomberg como Wired informaron anteriormente que los despidos y despidos dirigidos de Twitter por parte de Musk han reducido la cantidad de personas que trabajan allí para moderar el contenido, incluido un enfoque en el contenido pedófilo.
A pesar de esto, Musk enfatizó que está reorientando la compañía de manera que priorice la seguridad de los niños.
Twitter ha recurrido a al menos un investigador externo en busca de ayuda: Andrea Stroppa, un investigador italiano de ciberseguridad que dice ser amigo de Elon Musk y que ha elogiado a Musk en línea desde que tomó el control de Twitter.
Stroppa analizó previamente bots y propaganda en Twitter, y le dijo a NBC News que ahora está trabajando con empleados de la compañía para encontrar y eliminar contenido y cuentas de explotación sexual infantil. Es propiedad de Irwin, el actual Jefe de Confianza y Seguridad de Twitter. gracias strooppa “Por su colaboración y dedicación”.
Stroppa dijo que sentía que los esfuerzos anteriores de Twitter no estaban y ahora se estaba moviendo rápidamente para encontrar y suspender cuentas que publican contenido de explotación sexual infantil. Dijo que la compañía también cambió su política de eliminar tweets individuales a prohibir de inmediato las cuentas que violen sus políticas.
“Creo que es un cambio radical”, dijo en una entrevista telefónica.
Marijki Chartoni, quien ha sufrido tráfico y abuso de personas y ahora está trabajando para generar conciencia sobre el problema, dijo que anteriormente había logrado buenos resultados al informar cuentas y contenido problemáticos en Twitter a partir de 2020.
La plataforma no era perfecta, pero tampoco tan descuidada como afirmaba Musk. “El antiguo Twitter respondió rápidamente y eliminó las cuentas”, dijo en un correo electrónico. “Sentí que estaba haciendo algunos progresos”.