Durante más de un año, Facebook se negó a eliminar una página en la que se mostraban imágenes de niños tomadas en espacios públicos en las que los usuarios publicaban descripciones gráficas de cómo abusarían de ellos. Así lo describen las denuncias presentadas ante el Tribunal Supremo de India.

La compañía también permitió que ciertos vídeos publicitando violaciones permanecieran en la plataforma a pesar de haber sido denunciados. La policía del estado de Kerala denuncia que también se está utilizando otra página para dirigir una red de explotación sexual infantil.

india child niña
© desconocido

Estos tres casos se han planteado durante una investigación en el Tribunal Supremo de India sobre cómo las gigantes tecnológicas (incluidas Facebook y Google) alojan contenido abusivo en sus plataformas de India. Hace dos semanas, el Tribunal Supremo ordenó a dichas compañías y al gobierno indio que revisasen sus procesos a la hora de tratar con materiales en los que pueden verse abusos o violaciones infantiles.

La investigación en curso ha suscitado preguntas sobre la idoneidad de los sistemas de moderación utilizados por Facebook y otras compañías que compiten por acceder a un mercado indio de rápido crecimiento y gran diversidad, con usuarios que publican en docenas de idiomas y cientos de dialectos.

Las declaraciones juradas presentadas por Facebook indicaban que la compañía no denuncia automáticamente la existencia de material de abusos infantiles a la policía india sino que lo notifica a las autoridades norteamericanas. Esto sucede a pesar de que existe una obligación legal bajo las leyes de protección infantil.

De una manera muy agresiva, Facebook está intentando aumentar su número de usuarios en India. En estos momento, el país ya es uno de los mercados online más grandes del mundo y tiene una previsión de doblarlo, con 829 millones de personas para el año 2021. Pero queda por ver si la compañía y quienes hacen negocio con la expansión de sus plataformas tienen la capacidad de analizar de qué manera cientos de millones de nuevos usuarios utilizan sus servicios.

Facebook dijo ante el tribunal que, entre marzo y agosto de 2016, recibió 7.802 quejas de usuarios procedentes de India sobre posible material de abusos infantiles. En una declaración jurada, la compañía dijo que "investigó todas las quejas y tomó las medidas apropiadas".

Una página de Facebook llamada "pequeña vagina"

Pero durante las audiencias, el tribunal supo que Facebook había rechazado cerrar una página cuyo nombre estaba escrito en caracteres latinos pero traducido a un lenguaje del sur de India, el Telugu, como "pequeña vagina".

La página mostraba fotografías de mujeres y niñas tomadas en público, aparentemente sin consentimiento, bajo las cuales los usuarios dejaban comentarios gráficos describiendo los actos sexuales que les harían. Según las capturas de pantalla que se mostraron ante el tribunal, a un usuario que denunció la página le dijeron que la misma no violaba los estándares de la comunidad de Facebook.

Solo cuando el tribunal le exigió a Facebook que borrase esos contenidos (más de un año después de que la página fuese denunciada) fue finalmente eliminada, explica Aparna Bhat, abogada que defiende el caso para la ONG Prajwala, que lucha contra el tráfico de personas.

También se contó ante el tribunal que la compañía se negó a eliminar un post que contenía un número de teléfono al que los usuarios podían llamar para que se les diera acceso a un vídeo en el que se veía una violación a un actor que había sido raptado del estado de Kerala en febrero.

Otra página, que inicialmente no fue censurada porque según Facebook no violaba los estándares de la comunidad, se utilizaba para dirigir una red de tráfico sexual infantil en el estado de Kerala, asegura la policía. Se rescataron a más de 40 niños y se arrestaron a 39 persona después de que fuese denunciada a las autoridades indias.

Facebook aseguró en un comunicado que "estaba comprometido a dar un servicio en el que la gente se sintiera a salvo". "En Facebook no hay sitio para un contenido que ponga en peligro o promueva la violencia sexual o la explotación, y trabajamos duro para que este tipo de contenido esté fuera de la plataforma", aseguró un portavoz.

"Respondemos para cumplir las peticiones de las fuerzas de seguridad y reportamos el supuesto contenido de explotación infantil al Nacional Center for Missing and Exploited Chindren (NCMEC)". "Seguiremos trabajando con expertos en seguridad y el Comité del Tribunal Supremo de India para combatir estas actividades abominables".

Hay que vigilar todos los dialectos indios

La semana pasada, el Tribunal Supremo ordenó a las compañías tecnológicas involucradas en las investigaciones (entre las que se encuentran Yahoo, WhatsApp, Microsoft y Google) que trabajasen con el Gobierno indio para extender sus listas de palabras claves asociadas con el material de abuso infantil.

Las listas deben incluir palabras clave tanto en los numerosos lenguajes y dialectos indios, así como los términos asociados a la violación o de las violaciones en grupo. El cuerpo de investigación gubernamental indio Central Bureau of Investigation ha pedido que se introduzca una unidad especial que lidie con las denuncias de material abusivo circulando por Internet o por las redes sociales.

El Gobierno Indio también recibió la orden de suscribirse a la base de datos del NCMEC ubicada en EEUU, a la que Facebook y otras compañías están obligadas a informar sobre el material de abusos infantiles online bajo legislación estadounidense.

El NCMEC le dijo al tribunal que había recibido mas de 100.000 denuncias desde India. Pero como India no está inscrita en el sistema de avisos del NCMEC, no está claro cuántas de esas denuncias han llegado a la policía local. India depende de que el NCMEC le envíe informaciones relevantes a través de Interpol.

Las órdenes del Tribunal Supremo se basaron en recomendaciones acordadas por un comité en el que se incluyen representantes de Facebook, Yahoo, WhatsApp, Microsoft y Google, así como de abogados y policías.

"Otros cambios propuestos por los defensores de la infancia pero resistidos por las compañías tecnológicas serán considerados en privado por el Tribunal Supremo en diciembre.

El Tribunal Supremo se ocupó de la investigación después de que Prajwala denunciara que cientos de vídeos e imágenes de violaciones y abusos infantiles estaban siendo compartidos en redes sociales.

Bhat, que representó a Prajwala en el proceso, se pregunta por qué Facebook y otras compañías cumplían con las exigencias de EEUU a la hora de denunciar el acoso infantil pero no lo hacía en India. "Si en un país se denuncian estos casos de pornografía infantil a las autoridades, ¿por qué no puede pasar lo mismo en el otro?", critica.

Bhat ambién urge a las compañías web a adoptar nuevas medidas para proteger a las mujeres y niños vulnerables, incluso si eso significa cambiar fundamentalmente el modo en el que operan sus servicios. "Si una persona es violada por el diseño de tu servicio o estás acogiendo un crimen en tu plataforma, es hora de echarle otro vistazo", sentencia.

La próxima audiencia del caso está programada para el 11 de diciembre.