Un plan de cuatro etapas con el que Google quiere frenar el terrorismo en la red haciendo uso del machine learning y vigilando especialmente YouTube.
Combatir el terrorismo online es una de las tareas más arduas que tienen las tecnológicas. La proliferación de contenido peligroso en la red, su descentralización y su replicación automática hacen muy complicada su detección, moderación y eliminación. Además, para muchas de estas compañías requiere un esfuerzo extraordinario en recursos humanos tener un grupo de vigilantes que se encargan de explorar el contenido público para eliminarlo. Aunque Google podría tener entre manos una solución alternativa a todo esto.
El plan de Google consta de cuatro fases que pueden aplicarse a casi cualquier plataforma online que quiera combatir el terrorismo. Lógicamente, tal como detalla Kent Walker, el consejero general de Google, está enfocada a las plataformas de la compañía, especialmente a YouTube, pero lo interesante del asunto es que se trata de un plan predispuesto para combatir cualquier tipo de extremismo en la red utilizando una combinación de sistemas que hasta ahora han funcionado de una forma más o menos independiente.
Los cuatro pilares fundamentales del nuevo plan de Google para frenar el extremismo online combinan humanos revisando contenido con tecnologías propias de la compañía y la colaboración con otras plataformas (Google menciona Facebook o Twitter), en una suerte de plan de contingencia para frenar la proliferación de contenido extremista:
Aumentar el uso de la tecnología para ayudar a identificar extremistas y vídeos relacionados con el terrorismo. Tecnología que sea capaz de diferenciar si el contenido es un vídeo informativo transmitido por una cadena de la TV o una simple exaltación de la violencia, utilizando modelos de análisis de vídeo para encontrar y evaluar el contenido relacionado con el terrorismo. La idea de la compañía es usar machine learning avanzado que pueda aprender a ser igual de eficiente que los “clasificadores de contenido” humanos.
Combinado con lo anterior, la compañía quiere aumentar considerablemente el número de expertos independientes en el programa de marcadores de confianza de YouTube. Puesto a que aunque la tecnología ha evolucionado bastante para analizar vídeos, según Google los expertos humanos siguen desempeñando un papel fundamental en las decisiones matizadas sobre diferencia entre la propaganda violenta y el discurso religioso o de interés periodístico.
La compañía quiere tomar una postura más dura en los vídeos que, aunque no violan claramente sus políticas, por ejemplo, vídeos con contenido religioso o de supremacía racial, en el futuro aparecerán detrás de una suerte de advertencia intersticial y que no serán monetizables, recomendados o elegible para poner comentarios o incrustarlos en una web.
Un nuevo plan para YouTube con el que se quiere ampliar su papel en la lucha contra la radicalización: poner en práctica un “método de redirección” en toda Europa de forma que se aproveche el poder de la publicidad dirigida para llegar a potenciales reclutas terroristas, y redireccionarlos hacia vídeos antiterroristas.
Parece que Google está comprometido a aportar su grano de arena contra la radicalización online y, hasta el momento, este constituye el plan privado más ambicioso para luchar contra el terrorismo en la red.
Continúar leyendo...