Los "limpiadores" que deciden lo que ves en internet
Los "limpiadores digitales" moderan lo que ves en internet.
A cientos de kilómetros de Silicon Valley, en el centro de Manila, unos equipos secretos de moderadores de internet deciden si decenas de miles de posts al día deben desaparecer de Google (YouTube), Facebook y Twitter.
Son los "limpiadores" de los rincones más oscuros de la red. Valoran qué se queda y qué se borra de la web antes de que tú lo veas.
Su trabajo consiste en navegar a través del contenido en línea más violento, perturbador, polémico y controvertido.
A veces se trata de videos de radicales violentos. Otras veces es propaganda política. También hay imágenes de personas que se autolesionan y todo tipo de pornografía infantil.
", escribe uno de los "limpiadores" en un email desde Filipinas.
"Borramos imágenes, videos y textos que violan las normas de las redes sociales. La mayor parte del material que comprobamos aquí proviene de Europa y Estados Unidos".
"Hay unidades más pequeñas en otros países, pero Filipinas es la más grande", continúa el texto, sin especificar para qué empresa trabaja.
"Aquí hay miles de trabajadores".
Ese correo electrónico forma parte de una investigación plasmada en un documental de los alemanes Hans Block y Moritz Riesewieck, que viajaron hasta Manila para mostrar el trabajo de estos moderadores en
de 125 minutos editado por la BBC que ha recibido muy buenas críticas desde que se estrenó en mayo de 2018.
Parte de una serie publicada por BBC Four, la cinta se adentra en las oficinas de los "limpiadores digitales" en Manila y recoge varios testimonios.
La película se gestó en el año 2013, cuando se descubrió que un video de abusos sexuales a un menor había sido publicado miles de veces en Facebook. Eso llevó a los cineastas a reflexionar sobre , dijo Riesewieck al poco de publicarse el documental.
La cinta plantea algunas preguntas interesantes: ¿quiénes "limpian" las redes sociales y con qué criterio operan? ¿Cuál es el límite entre moderación y censura? ¿cómo nos afectan esas decisiones?
"Policías" de las redes socialesLos "limpiadores" de internet deben elegir entre una de estas dos opciones: .
La presión es alta.
"Me dieron una advertencia. Si la empresa sabe que estoy hablando contigo, me veré en problemas. El cliente está amenazando con retirar todo el negocio", le contó a los productores del documental un trabajador anónimo desde Filipinas.
Ese retrato de internet como contrasta con la visión de Mark Zuckerberg, quien ha comentado en alguna ocasión que su red social defiende la idea de una comunidad global, "que le da a todo el mundo el poder de compartir lo que quiera con quien quiera".
Pero el trabajo de los moderadores es secreto.
"No puedes revelar nada. Nadie debe saber sobre este tipo de trabajo", continúa otra mujer en condición de anonimato. "Si la gente lo supiera, tendría curiosidad".
"La razón por la que hablo contigo es porque, que hay alguien que comprueba las redes sociales", explica otro "limpiador" filipino más adelante en el video.
"Hacemos lo mejor que podemos para que las plataformas sean seguras para todo el mundo", agrega.
"No buscamos reconocimiento. . Nuestro principal objetivo es hacer que las plataformas sean lo mejor posibles. Alguien tiene que protegerlas, al igual que pasa con el mundo real".
Otro moderador cuenta su experiencia: "Me apasiona mi trabajo, me gusta lo que hago", afirma. "Los moderadores somos la seguridad, protegemos al usuario".
Pero el trabajo puede llegar a ser mentalmente agotador.
25.000 fotos al día"Llevo seis años siendo moderador. He visto muchos videos e imágenes", asegura un hombre que no teme mostrarse ante la cámara.
"Vemos fotos en la pantalla. Después las analizamos y borramos aquellas que no cumplan las normas. ", explica.
"La principal misión de la moderación en internet es limpiar lo sucio. Esa es nuestra responsabilidad, asegurarnos de que nada sospechoso se publica en internet".
Otro "limpiador" explica que ayuda a la gente: "Evito que se propague la explotación infantil. Tengo que identificar terrorismo. Detener el ciberbullying".
Otra moderadora asegura que cuando comenzó su entrenamiento para ese trabajo no sabía de qué se trataba. "Recuerdo que sentí que ya lo quería dejar".
Dice que lo más chocante que ha visto son niños explotados sexualmente. , recuerda.
Confiesa que habló con su jefe y le dijo que no podía hacer el trabajo, pero él le insistió en que debía hacerlo porque había firmado un contrato.
Y lo hizo porque le aterraba trabajar en un basurero, como mucha gente de Filipinas, .
"No estaba acostumbrada a ver este tipo de imágenes", cuenta otra moderadora. "Fue duro, pero al final se convirtió en un placer culpable".
" Es como un virus que se ha metido en mi cabeza. Necesito parar. Algo va mal".
Según los testimonios de los "limpiadores" entrevistados en el documental, hay cuyo contenido está vetado en internet. Esa lista proviene del Departamento de Seguridad Nacional (DHS) de Estados Unidos.
"Tienes que memorizarlo todo sobre los terroristas: sus banderas, sus lemas... y moderarlo", explica.
"El trabajo daña tu cerebro y te hace pensar que la violencia está bien, que matar a otros, poner bombas, es algo normal. Ves cuerpos saltando por los aires. Pero solo puedes 'saltar' tres videos al día".
También señalan que ha habido suicidios, pero las compañías prefieren que no se sepa.
¿Qué es inapropiado?Para empresas como Google, Fcaebook o Twitter, la labor de la moderación presenta ciertos conflictos.
"Empecé en Google en 2004. Es un privilegio haber formado parte del desarrollo de la infraestructura del mundo en que vivimos ahora, de algo tan poderoso y con el potencial real de cambiar vidas", dice la abogada estadounidense Nicole Wong, quien trabajó para Google y Twitter como asesora jurídica.
"Empiezas con las preguntas: ".
Wong dice que las empresas pueden elegir si dejar que se publique todo sin antes revisarlo o, por el contrario, permitir "la mayoría de las cosas" y solo revisar aquello que recibe quejas.
La decisión no es fácil.
La abogada declaró frente a un tribunal para Google en 2005, cuando se investigó a la compañía por la facilidad con la que se encontraba la pornografía infantil en el buscador., dijo entonces.
Algunos critican esa respuesta.
"Cuando abres las compuertas y pides a todo el mundo que emita sus propios videos, publique su vida y lo comparta todo, la gente responde", dice Sarah T. Roberts, de la Universidad de California (EE.UU.).
"La gente con todo tipo de motivaciones e intereses responde".
"Cuando Facebook y Google aseguran que no tienen empleados en Manila, pueden hacerlo legítimamente usando personal de una firma externa", aclara.
"Es cierto que las nóminas no vienen de Google y Facebook, vienen de una firma subcontratada de Filipinas".
Roberts dice que los moderadores de las redes sociales son entes invisibles para millones de usuarios de las plataformas "que nunca se plantean demasiado quién hace el trabajo de limpieza".
Pero hay quienes sí lo hacen.
Decisiones editorialesAbdulwahab Tahhan trabaja en Airwars, una organización no gubernamental fundada por Chris Woods, un experiodista en la BBC, dedicada ofrecer transparencia sobre colisiones aéreas en Siria y en otros países en guerra.
"Cada vez que vemos una foto o un video en las redes sociales lo archivamos inmediatamente porque sabemos que después puede ser eliminado. ", explica.
"Esos videos se necesitan, son parte de la guerra, proporcionan información", defiende.
"Pero el problema es que a menudo son clasificados como videos de Estado Islámico. Son muy gráficos, así que son borrados".
Tahhan considera que la "cesura de YouTube" está afectando a "muchas organizaciones con videos sobre la destrucción en Siria cuyas cuentas han sido suspendidas".
En cambio, Wong dice que la decisión de borrar el contenido se basa ende cada plataforma y que ese material puede representar una "amenaza" o ser visto como noticia o como una sátira.
"Eso hace que sea muy difícil saber si ciertas piezas de contenido deben eliminarse o no".
Pero el trabajo de los moderadores no siempre es revisado por los supervisores. De hecho, la mayoría de las veces no lo es, señala uno de los "limpiadores".
según su testimonio.
En general, las redes sociales establecen que cuando hay genitales y menores en la imagen, se debe borrar el contenido.
Sin embargo, hay imágenes satíricas, políticas o artísticas que son censuradas por esa cuestión. También puede haber fotografías que muestren una realidad social. Pero, al final, quien toma la decisión editorial es el moderador.
, dice David Kaye, un experto de la ONU especializado en libertad de expresión.
"A la gente no debería sorprenderle si en el futuro hay menos información disponible; si lo que hay en internet es menos atrevido, menos provocativo".
"Yo pienso que eso nos hará ser una sociedad más pobre".
Mientras tanto en Manila los "limpiadores" continúan con su labor.
, dice uno de ellos.
Ahora puedes recibir notificaciones de BBC Mundo. Descarga la nueva versión de nuestra app y actívalas para no perderte nuestro mejor contenido.
Advertencia: El contenido de sitios externos y terceras partes puede contener publicidad
Final de la publicación de Youtube número de BBC News Mundo
Advertencia: El contenido de sitios externos y terceras partes puede contener publicidad