Una niña de 10 años sube un vídeo a YouTube en el aparece jugando en la piscina de su casa con una amiga. Su madre, Christiane, le deja. Piensa que es algo inocuo. Una forma inocente de guardar el recuerdo de un día de diversión. Sin embargo, a los pocos días, descubre que el vídeo casero de su hija tiene más de 400.000 reproducciones y (con razón) se asusta.

Se trata de un caso paradigmático recogido por el New York Times a partir de una investigación de Harvard que revela como el algoritmo de YouTube va guiando a los usuarios que han consumido contenido erótico -a través del sistema de sugerencias de vídeo y recomendaciones- hacia contenido en el que aparecen niños con poca ropa o semidesnudos.

Al igual que en el caso de Christiane, según la investigación conducida por el grupo de Berkman Klein Center for Internet and Society de Harvard, la mayoría de estos vídeos se encuentran subidos por los propios niños (y en ocasiones por sus padres) de forma inocente, buscando compartir sus vídeos caseros entre familiares y amigos.

El descubrimiento de este comportamiento de YouTube se ha realizado de forma accidental. Los investigadores de Harvardestaban estudiando el impacto de la plataforma de redes sociales en la sociedad brasileña cuando descubrieron este perturbador comportamiento de la plataforma.

No se trata de la primera polémica a la que YouTube se ve sometido en relación con los menores de edad. El pasado mes de febrero, una investigación del YouTuber Matt Watson se tradujo en un vídeo en el que revelaba como los pedófilos que acudían a este tipo de vídeos de niños adolescentes y prepúberes para comunicarse entre ellos.

Estos degenerados empleaban los comentarios de los vídeos para indicar el minuto y el segundo exacto en el que se produce alguna clase de descuido con la ropa y para remitir a otros vídeos, páginas externas y grupos de redes sociales ajenos a YouTube en los que intercambiar material pedófilo. Ante este escándalo, YouTube se vio obligado a desmantelar los comentarios de esta clase de vídeos como respuesta.

¿CÓMO ACABAN LOS USUARIOS EN ESTOS VÍDEOS?

Pese a que YouTube atajó su escándalo poniendo coto a estos vídeos, el algoritmo que guía de forma automática la navegación de los usuarios y provoca que muchos acaben en estos vídeos de prepúberes cuando, inicialmente, estaban consumiendo un contenido de otra naturaleza, según la investigación de Harvard.

De acuerdo con los autores de esta investigación no es que YouTube quiera promover este contenido adrede ya que deja esta tarea en manos de un algoritmo automático que busca que la gente continúe consumiendo vídeos en su plataforma a través de un "inquietante" sistema de recomendaciones.

Los investigadores explican que el camino por el que las recomendaciones de YouTube guían a los usuarios es progresivo. De este modo, a una persona que estuviera consumiendo vídeos eróticos de mujeres adultas, el algoritmo iría guiándole a través de otros de mujeres cada vez más jóvenes, pasando por vídeos de mujeres veinteañeras vestidas con ropa infantil buscando un suggardaddy -un hombre mayor que les pague los caprichos a cambio de compañía o sexo- o vídeos de chicas menores de 20 años amamantando a sus bebés hasta, finalmente, acabar en vídeos de niñas de 5 o 6 años en bañador, muchas de ellas procedentes de América Latina o del Este de Europa.

Para llegar a estas conclusiones, los investigadores de Harvard han realizado miles de simulaciones con las que buscan mapear la forma en la que YouTube guía a sus usuarios.

EL CRITERIO DE YOUTUBE PARA RECOMENDAR VÍDEOS

Esta investigación de Harvard es compatible con la teoría (compartida por múltiples investigadores) del "Rabbit Hole" -una metáfora que hace referencia al agujero del conejo en Alicia en el País de las Maravillas- según la cual, YouTube iría recomendando cada vez contenido más impactante de un determinado tema con el objetivo de mantener la atención de sus usuarios.

Por ejemplo, según esta teoría, a un usuario que estuviera viendo vídeos de motos, YouTube le recomendaría vídeos en los que las motos fuesen cada vez más rápido, después carreras y finalmente imágenes de accidentes impactantes.

Según los investigadores, la forma más obvia de evitar que los usuarios acaben en vídeos de niños con poca ropa sería eliminando del sistema de sugerencias los vídeos en los que aparezcan menores de edad. Una iniciativa que, según ha respondido YouTube ante preguntas del New York Times, llevará a cabo limitando las recomendaciones que puedan poner en riesgo a los niños.

El sistema de recomendaciones de YouTube, según la propia compañía, funciona a través de un sistema de inteligencia artificial en constante aprendizaje que sugiere nuevos vídeos para que los usuarios continúen consumiendo contenidos en su página.

Unas sugerencias, según YouTube, que proporcionan el 70% de las visualizaciones de los vídeos, sin entrar en detalles sobre cómo opera realmente este algoritmo, que es uno de los pilares de su éxito.


El Mundo