En esta ilustración fotográfica, se muestra una imagen de Elon Musk en la pantalla de una computadora y el logotipo de Twitter en un teléfono móvil en Ankara, Turquía, el 6 de octubre de 2022.
Mohamed Selim Korkouta | Agencia Anadolu | imágenes falsas
Cuando el CEO de Tesla y SpaceX, Elon Musk, se hizo cargo de Twitter, apareciendo en la sede el 27 de octubre de 2022, los trolls y fanáticos en línea atacaron la red social, contaminándola con una avalancha de adjetivos racistas y otros discursos de odio.
Pero un nuevo estudio del Network Infection Research Institute (NCRI) y Rutgers encontró que el equipo de seguridad de Twitter respondió mejor a esa “redada” que la compañía para un evento similar en abril de 2022.
Según Adam Sohn, director ejecutivo de NCRI, una redada es cuando los malos actores en línea participan en una actividad coordinada para tratar de interrumpir las plataformas de redes sociales, generalmente para dañar a las personas marginadas o a objetivos específicos.
GamerGate es probablemente el más notorio de la redada, y ocurrió alrededor de 2014 cuando los trolls de 4Chan que formaban parte de la comunidad de videojuegos lanzaron ataques misóginos contra las mujeres que trabajaban en la industria. Se dirigieron específicamente a una mujer y un crítico que habló sobre las metáforas sexuales en los juegos. Su campaña se llevó a cabo en innumerables plataformas sociales, incluidas Twitter y Reddit, y se manifestó en amenazas de violación y asesinato en el mundo real, y una amenaza de bomba dirigida a un crítico.
También se sabe que las comunidades en línea impulsadas por conspiraciones usan tácticas de ataque.
Algunas personas se involucran en las llamadas actividades “poco originales” en las redes sociales solo para ver si pueden salirse con la suya. (“Lutz”).
Alex Goldenberg, analista de NCRI, dice que si bien la acción de Twitter en respuesta al discurso de odio la semana pasada fue efectiva, la empresa también podría haberla anticipado y evitado.
Horas antes de que estallara el discurso de odio, dijo: “Evaluamos que esta campaña de phishing en línea fue impulsada por una actividad coordinada y poco original que se originó específicamente en 4Chan. Allí, detectamos un aumento en las menciones de n-slur junto con las menciones de Twitter”.
El NCRI utiliza sofisticados sistemas y software de aprendizaje automático para monitorear cantidades masivas de contenido de redes sociales y rastrear el odio y las amenazas crecientes contra grupos marginados en línea, incluidos negros, judíos, hindúes y musulmanes.
Proporciona herramientas de investigación y publica informes, recomendaciones y advertencias de seguridad, a veces enviados directamente a las redes sociales, sobre dónde están creciendo las amenazas, extendiéndose potencialmente al mundo físico. Según Sohn, el NCRI espera usar esta información para evitar daños reales a estos esfuerzos en línea.
El NCRI previamente pudo predecir la escalada de violencia contra los estadounidenses de origen asiático con el advenimiento de la pandemia de Covid e identificar una amenaza inminente de un grupo antigubernamental (Boogaloo Boys) contra el personal encargado de hacer cumplir la ley. También advirtieron sobre el surgimiento de comunidades que alientan las autolesiones, principalmente cortarse, en Twitter.
Lo que encontró el NCRI esta vez
La NCR descubrió que dentro de las 12 horas posteriores a la llegada de Musk a la sede de Twitter, el uso del apodo anti-negro (n-word) en la red social aumentó en casi un 500% con respecto a la tasa anterior. Consejo Nacional de Resistencia Publicar este estudio rápido A la mañana siguiente, el trato de Musk se cerró oficialmente.
Para el nuevo estudio, el NCRI recurrió a datos históricos. La empresa descubrió que cuando Musk reveló por primera vez su acuerdo para comprar Twitter por 54,20 dólares la acción, en abril de 2022, se produjo una redada similar.
Al comparar los dos eventos, la NCR descubrió que Twitter hizo un mejor trabajo al detener la redada esta vez.
“Si bien casi la mitad de las cuentas que han publicado recientemente n-slur han sido suspendidas, menos del 10 % de las cuentas han sido suspendidas en la redada anterior, lo que indica que este es un problema histórico previo a la compra con una implementación históricamente desigual”.
A pesar de la fuerte respuesta de Twitter al discurso de odio, ya se ha hecho algo de daño.
Muchos anunciantes han detenido el gasto en Twitter por ahora para que puedan obtener una mejor indicación de cómo Musk ha cumplido su promesa de mantenerlo “cálido y acogedor” y evitar que se convierta en un “todos contra todos”.
Quienes han dejado Twitter por el momento incluyen a Shonda Rhimes, creadora de “Grey’s Anatomy”, “Bridgerton” y otros exitosos programas de televisión, la cantautora ganadora del premio Grammy Sarah Bareilles, y la actriz y productora de “This Is Us”. Olín.
Otros están a la espera de ver a dónde Musk y sus equipos llevan el producto, pero han amenazado con irse dependiendo de los resultados.
El ícono del baloncesto LeBron James expresó su preocupación por la escalada de tuits racistas, a lo que Musk respondió a través de Twitter con un enlace a Tema del actual jefe de seguridad de la red social, Yoel Roth. El ejecutivo de Twitter ha dicho durante mucho tiempo que sus equipos han tomado medidas para aplastar las cuentas que fueron responsables de una gran parte de los ataques.
El análisis de NCRI confirma que los pasos tomados por Roth y el equipo de seguridad fueron efectivos.
En el futuro, al NCRI le gustaría ver un mayor uso de la “detección automática de anomalías”, una tecnología comúnmente utilizada en ciberseguridad para monitorear el rendimiento de la red o para detectar cuándo alguien podría intentar piratear los sistemas de la empresa, dice Alex Goldenberg, analista jefe de inteligencia del NRCI. .
La detección de anomalías implementadas en las redes sociales habría permitido a Twitter tomar medidas preventivas una vez que se detectó inicialmente la redada planificada.
Goldenberg y Son comparan esta tecnología con un detector de humo o monóxido de carbono para los problemas sociales que se gestan en línea.
Si bien Musk se ha descrito a sí mismo como un partidario de la libertad de expresión, su historial de defensa de los derechos de los demás es mixto. Recientemente, reconoció la necesidad de equilibrar los ideales de libertad de expresión, confianza y seguridad en Twitter.
Lo único con lo que ya no está en público es con cuidar mejor sus tuits privados.
Musk tiene un historial de publicación de teorías de conspiración, comentarios y chistes sin fundamento que han sido ampliamente interpretados como sexistas, anti-LGBT, racistas o antisemitas. No olvide que publicó memes de Hitler en su cuenta de Twitter ampliamente seguida.
Inmediatamente después de asumir el cargo en Twitter, Musk compartió una teoría de conspiración anti-LGBTQ infundada sobre la invasión de una casa y el asalto a Paul Pelosi, esposo de la presidenta de la Cámara de Representantes, Nancy Pelosi. Musk luego eliminó el tweet sin explicación.
Actualmente tiene 113,7 millones de seguidores listados en la plataforma, un número que está aumentando rápidamente.