Un equipo de Aligarh Muslim University ganó $ 5000 en fondos de Facebook para desarrollar un prototipo de extensión web que podría ayudar a contrarrestar el contenido violento y extremista en Internet. Estaban entre otros cuatro grupos de estudiantes y profesionales jóvenes de todo el país preseleccionados para lanzar sus ideas en el Digital Masala Challenge, un hackatón organizado por el portal web Youth Ki Awaaz el sábado. Desde una serie web hasta un robot, cada uno trajo a la mesa ideas únicas para contrarrestar la narrativa del extremismo que se extendió rápidamente a través de las redes sociales.
Con organizaciones terroristas y otros grupos de extrema derecha aprovechando las redes sociales y los servicios de mensajería móvil para reclutar a jóvenes vulnerables, el debate sobre la mejor manera de monitorear espacios digitales sin violar las normas de privacidad ha dejado a muchos luchando por encontrar soluciones.
Los estudiantes de AMU se llamaron a sí mismos moderadores del equipo y exhibieron una extensión de navegador basada en PNL que analiza el contenido en portales de noticias y blogs en Internet y los clasifica en un índice de polarización.
¿Como funciona?
Un grupo de expertos, aún por identificar, tendrá acceso al panel de desarrolladores de la extensión y luego podrá calificar los artículos populares o aquellos que se vuelven virales en una escala de 1 a 10. Esto, según lo polarizado que esté el contenido. La extensión también ofrece a los lectores los artículos relacionados de sitios web de noticias de renombre. La preocupación, sin embargo, es un posible sesgo de los que califican el contenido.
“Tendremos un proceso de identificación de personas que pueden ser parte de los moderadores, pero eso finalmente se resolverá”, dice Hamza Khan, quien junto con Ashar Shahid y Baqir Khan pasaron las últimas 48 horas ajustando su producto.
Anvyaya, un grupo de estudiantes de periodismo y medios de la capital nacional, lanzó la idea de crear una serie web para contrarrestar a aquellos compartidos por grupos extremistas que buscan radicalizar a la juventud mostrando un mundo de lujo o invitándolos a unirse al califato y provocar una ‘justicia muy merecida’ que han sido ‘injustamente negadas’.
Los estudiantes de la Universidad de Ashoka desarrollaron un robot que podría ayudar a identificar las necesidades de un usuario mediante el procesamiento del lenguaje natural (NLP): la inteligencia artificial que hace que un programa informático converja en un enfoque casi humano. El bot respondería a aquellos que se sienten enojados o amenazados por lo que interpretan como injusticia o alienación en la sociedad. Por ejemplo, el bot lanzaría enlaces para contrarrestar la información errónea de cómo un musulmán podría sentirse amenazado orando públicamente en un vecindario dominado por los hindúes en Mumbai. Además del bot, el grupo también lanzó la idea de compartir experiencias de la vida real de aquellos que fueron atraídos por grupos militantes y que han sido desradicalizados.
Shivnath Thukral, el Director de Políticas Públicas de Facebook, y un jurado en el evento, dijo que la necesidad de la hora era una solución que creaba un impacto inmediato, donde la solución ofrecida por The Moderadores encajaba bien. “Depende de nosotros expandir la narrativa contra el odio y crear una comunidad de personas que puedan identificar el contenido que es problemático y Facebook trabajará en más productos que ayudarán a hacer eso”, dijo.
Sushobha Barve, directora ejecutiva del Centro para el Diálogo y la Reconciliación, y miembro del jurado en el hackathon, dijo que las comunidades en línea eran la necesidad de la hora, ya que hay muy poco que los oficiales de la policía cibernética puedan hacer para contrarrestar el odio. “Mucho se está extendiendo a través de las páginas de Facebook y los grupos de WhatsApp y hay poca policía que pueda hacer. Si bien en gran medida buscan identificar a los culpables, la gente necesita para levantarse como una comunidad y ayudar a contrarrestar la narrativa al detener la propagación de la información errónea “.
Otros que presentaron fueron un grupo de Instagram llamado India In Black que espera crear cambios sociales y líderes comunitarios a través de recorridos fotográficos por todo el país, y PLUC – People Like Us Create – una startup de periodismo móvil que informa al público e instó a reportar contenido extremista usando el hashtag #HateCheck, así como al construir una comunidad en línea que responde de inmediato a la información errónea con hechos.