Facebook Global Head de Seguridad Antigone Davis ha aclarado algunas cosas sobre cómo funciona el piloto de prueba de Facebook para combatir el porno de venganza en Australia. La estrategia implica cargar tus fotos o videos desnudos a Messenger para ayudar a Facebook a etiquetarlos como medios explícitos no consensuales.
“Con este nuevo pequeño piloto, queremos probar una opción de emergencia para que las personas proporcionen una foto proactiva a Facebook, por lo que nunca se comparte en primer lugar”, escribió Davis. “Este programa es completamente voluntario. Es una medida de protección que puede ayudar a evitar un escenario mucho peor donde una imagen se comparte más ampliamente “.
Facebook está haciendo esto en asociación con la agencia gubernamental australiana eSafety para tratar de evitar que las personas compartan imágenes íntimas sin consentimiento. Si alguien teme que corra el riesgo de vengarse de la pornografía, puede ponerse en contacto con eSafety. La organización podría entonces decirles que se envíen una foto desnuda de ellos mismos a través de Messenger. El sistema de hash de Facebook podría reconocer esas imágenes en el futuro sin necesidad de almacenarlas en sus servidores.
En su publicación, Davis aclara que eSafety no tiene acceso a la imagen real. Sin embargo, un “representante especialmente entrenado del equipo de operaciones comunitarias de [Facebook]” necesita revisar primero la imagen antes de procesarla. Una vez que la imagen ha sido hash, Facebook notifica a la persona que envió la foto y le pide que elimine la foto de Messenger. En ese momento, Facebook eliminará la imagen de sus servidores.
El jefe de seguridad de Facebook, Alex Stamos, dice que si bien hay riesgos relacionados con las personas que autoinforman sus fotos, “es un riesgo que estamos tratando de equilibrar contra el daño serio y real que ocurre todos los días cuando las personas (en su mayoría mujeres) pueden “No dejen que NCII sea publicado”, escribió en Twitter.
NCII es la abreviatura de imágenes íntimas no consensuadas. Stamos continuó diciendo que Facebook toma medidas para proteger los datos y solo conserva los hashes no reversibles.
Algunos críticos, sin embargo, sugieren que un método mejor sería uno que no requiera cargar la imagen en primer lugar. Una sugerencia es copiar la imagen localmente y luego subir el hash para determinar una coincidencia. Tampoco está claro si esto está restringido por edad para evitar que los menores envíen sus fotos.
Stamos respondió a la idea de calcular el hash localmente diciendo que “los algoritmos de toma de huellas dactilares fotográficas generalmente no están incluidos en los clientes para evitar el desarrollo de técnicas de elusión” y que “los seres humanos deben revisar para evitar los informes adversos”.