Una de las mayores lacras de internet proviene de la actividad de los llamados “trolls” y su acoso online. Por desgracia, es bastante frecuente que cuando un usuario decide participar en un debate online comentando un artículo como este que estás leyendo, rápidamente es atacado por trolls en línea. O que cuando deseas leer las opiniones que otros usuarios han manifestado en un post o en un foro, te encuentras que la mayoría son “comentarios tóxicos”. Pues bien, Google acaba de lanzar Perspective, una nueva tecnología para identificar y moderar estos desagradables comentarios de los trolls.
Cerrar los comentarios en los sitios web no es la solución
En un post publicado por Google en su blog oficial bajo el título “When computers learn to swear: Using machine learning for better online conversations”, la compañía explica que el 72 por ciento de los usuarios de Internet estadounidenses han presenciado el acoso en línea, y casi la mitad lo ha experimentado de primera mano.
Sin duda alguna, se trata de un grave problema, no solo porque genera miedo entre las personas, sino también porque supone una merma de la libertad de expresión que incluso puede causar un grave impacto psicológico en las personas que lo sufren, especialmente cuando se trata de víctimas menores de edad en las redes sociales.
Imagina tratar de tener una conversación con tus amigos sobre las noticias que leíste esta mañana, pero cada vez que dices algo, alguien grita en tu cara, te llama con un nombre desagradable o te acusa de algún terrible crimen. Probablemente dejarías la conversación. Desafortunadamente, esto sucede con demasiada frecuencia en línea, ya que la gente trata de discutir ideas en sus sitios de noticias favoritos, pero en su lugar es bombardeada con comentarios tóxicos. [Google]
Este tipo de comportamiento también afecta a las páginas web, en particular a aquellas de carácter noticioso e informativo que quieren “fomentar el compromiso y la discusión en torno a su contenido”. Pero claro, con tantos trolls activos en la red, monitorizar y clasificar millones de comentarios para hacer desaparecer aquellos que resultan abusivos u ofensivos podría resultar una tarea enormemente costosa, tanto en términos de dinero como de tiempo y esfuerzo. Por esta razón, muchos sitios ni siquiera cuentan con secciones de comentarios o simplemente, los tienen deshabilitados.
Las organizaciones de noticias quieren fomentar el compromiso y la discusión en torno a su contenido, pero descubren que la clasificación de millones de comentarios para encontrar los que son trolling o abusivos toma mucho dinero, trabajo y tiempo. Como resultado, muchos sitios han cerrado los comentarios por completo. Pero nos dicen que no es la solución que desean. Creemos que la tecnología puede ayudar. [Google]
Es ahí donde entra en juego Perspective, que Google y Jigsaw describen como “una tecnología de primer nivel que utiliza el aprendizaje automático para ayudar a identificar los comentarios tóxicos”.
Al igual que otras plataformas de Google, Perspective estará disponible como una API que podrán usar los editores en sus sitios web. Su funcionamiento es relativamente simple: Perspective ha examinado cientos de miles de comentarios etiquetados como abusivos por revisores humanos y los emplea para establecer comparaciones con nuevos comentarios y evaluar su toxicidad. Evidentemente, a mayor cantidad de comentarios de este tipo encontrados, con mayor precisión podrá evaluar comentarios futuros.
Dado que Perspective puede ser incorporado en los sitios web por los editores, cuando la herramienta marque comentarios como potencialmente abusivos, serán los moderadores humanos los que tengan la última palabra. Pero el editor también podría dejar que el usuario vea el grado de toxicidad de su comentario a medida que lo escribe.
Además, los editores también podrían permitir a los lectores clasificar los comentarios por toxicidad, facilitando la búsqueda de contenido real.
En la actualidad, Google y el diario The New York Times están trabajando de forma conjunta; la compañía asegura que, si bien aún se encuentra en fase de desarrollo, Perspective se hará más preciso y sofisticado con el tiempo.
El artículo Google lanza Perspective, una nueva tecnología para combatir a los trolls online ha sido originalmente publicado en Androidsis.
Continúar leyendo...