Uno de los grandes problemas a los que se enfrentan las redes sociales es el discurso del odio.
Twitter es quien ha protagonizado más titulares, porque no han sido pocos los famosos que lo han dejado o los casos polémicos que se han convertido en virales por algunos comentarios, pero lo cierto es que la red social no es la única que protagoniza este tipo de contenidos.
Los comentarios despectivos, agresivos y directamente ofensivos son una constante en las redes sociales y uno de los problemas que han generado más análisis, críticas y movimientos diversos en el entorno de las mismas.
Las redes sociales se han tenido que defender por su papel en este tipo de discurso y han tenido que implantar diferentes mecanismos de denuncia y bloqueo de esos comentarios (que están incluso penalizados por las leyes de algunos países), pero aún así no han conseguido acabar con el problema.
¿Podría convertirse la tecnología en la herramienta que necesitan para ello y en la solución a esos problemas?
Podría ser, o al menos eso es lo que esperan los diferentes jugadores del mercado. La inteligencia artificial, que permite reconocer patrones y comprender qué está ocurriendo, es una de las herramientas en las que los diferentes implicados tienen más fe sobre cómo podría cambiar las cosas.
Instagram, la primera en usar inteligencia artificial
Las redes sociales han empezado a probarla, aunque de un modo experimental. Instagram ha empezado a usar la inteligencia artificial no solo para filtrar comentarios sino también para actuar sobre ellos.
Instagram la está usando para filtrar comentarios ofensivos a sus usuarios. La herramienta funciona como un filtro, como explica en un post en el blog corporativo Kevin Systrom, el CEO de la red social, y por ahora solo funciona en inglés (aunque ya anuncian que planean ampliarlo a otros idiomas). Los usuarios solo tienen que acceder a los ajustes de su cuenta y activarlo.
La medida se suma a otra de filtrado de spam, que funcionará en varios idiomas, entre ellos el castellano y el inglés, y que bloquearán comentarios tanto en posts como en los vídeos en directo.
Los filtros se alimentan del «machine learning» y son, según apunta Systrom, las «últimas herramientas para hacer de Instagram un lugar seguro».
Los sistemas de la red social han sido ‘alimentados’ para reconocer contenidos ofensivos y spam y así hacer que los usuarios puedan directamente no verlos. «Las herramientas mejorarán con el tiempo, permitiendo que la experiencia de la comunidad mejore también», apunta el directivo.
Instagram utilizará DeepText
La inteligencia artificial desarrollada por Facebook, como recuerdan en Variety, lo que permite ver este movimiento como algo más.
Este podría ser el primer uso que el gigante hace de la inteligencia artificial de forma clara y directa a la hora de moderar contenidos y comentarios y podría ser, si todo sale bien, el primer paso en esa vía (aunque los portavoces de la firma recuerdan que una y otra red social son cosas diferentes).
Para Facebook es además un tema peliagudo, porque sus esfuerzos de moderación han logrado hasta ahora la suficiente polémica como para acabar teniendo que fichar a miles de moderadores humanos para hacer el trabajo a mano.
