Uno de los puntos centrales de discusión cuando se habla de las redes sociales en audiencias y foros políticos es la moderación de contenidos. Y es que, en los últimos años, la proliferación de contenidos que promueven la violencia, intolerancia, racismo y linchamientos hacia personas especificas ha tomado tintes destructivos a niveles preocupantes.
Justo la semana pasada los servicios de protección como Cloudflare anunciaron su retiro de protección a los foros llamados Kiwifarms que justamente se especializaban en la coordinación de ataques y acoso hacia personas de la comunidad trans, mismos que habían desencadenado al menos 3 suicidios de manera directa debido a los niveles de acoso que orquestaban los usuarios a sus víctimas.
Otros casos igualmente graves ocurren con frecuencia en twitter donde sus directivos han aclarado lo difícil que resulta la moderación de sus millones de usuarios, situación que, de acuerdo con entrevistas concedidas por Elon Musk fueron su principal motivo por el que decidió retirar su oferta para comprar al gigante en redes sociales.
¿Pero cómo controlar millones de mensajes diarios emitidos por billones de usuarios en internet? Mark Zuckerberg decía en entrevistas que la solución existía en los algoritmos basados en inteligencia artificial encargados de moderar de manera rápida y eficiente dichos tipo de contenidos, sin embargo, históricamente usuarios han aprendido a burlar dichas máquinas para continuar sus campañas de propagación de odio y violencia.
Muchos dejaron de escribir palabras como “asesinato” “acoso” e insultos de todo tipo por sinónimos o modificaciones de la palabra (cambiar una letra por un asterisco o un número, por ejemplo) medidas tan simples como efectivas para burlar los rastreadores que bloquearían sus publicaciones.
Ya muchos expertos lo han dicho, en tanto no exista un verdadero castigo y persecución por parte de la justicia en torno a los usuarios que promueven la violencia, el racismo, la xenofobia y otros pensamientos radicales fundamentados en el odio no habrá un verdadero cambio en las redes sociales.
Sin embargo, podría ser que la coladera abierta por las redes sociales sea una que jamás pueda volver a ser cerrada.
