La plataforma Twitch se encuentra actualmente realizando las correspondientes pruebas para añadir una nueva funcióna a su sistema, el cual permitirá detectar a los usuarios que tratan de evadir las prohibiciones de Twitch para compartir contenido que incita al odio. La nueva función que se aplica mayoritariamente a los chats de las retransmisiones se conoce como "Detección de usuarios sospechosos" y es impulsada por Machine Learning.
Twitch usa inteligencia artificial para detectar cuando un usuario evada los bans
Twitch ahora detecta si un usuario bloqueado ha creado una cuenta, y utiliza el aprendizaje automático para saber si un usuario está evadiendo las prohibiciones
01 de diciembre de 2021 - 17:23
La empresa ha señalado que esta nueva función está destinada a los usuarios que han sido expulsados de la comunidad, y que sin embargo logran reingresar a la plataforma con otra cuenta para seguir enviando mensajes o contenido abusivo al chat. Ahora, gracias a la nueva función añadida, el servicio podrá detectar el comportamiento y las características de la cuenta, y compararlas con las que han sido bloqueadas previamente para luego, categorizar al usuario como "probable" o "posible" evasor de las prohibiciones de la plataforma.
Si Twitch concluye que se trata de un "posible" usuario que ha incumplido la política de la plataforma, los mensajes que envíe esta persona a través del chat estarán visibles, pero el creador o los moderadores podrán ver un distintivo y escoger si quieren eliminar el mensaje, o también pueden monitorear al usuario con el fin de evitar más problemas.
Si la cuenta supervisada ha sido marcada como "probable" de evadir las prohibiciones, los mensajes no se enviarán al chat, pero su creador podrá ver el contenido para escoger si bloquearlo del canal o no. Por otro lado, puede monitorear su usuario o simplemente evitar que Twitch muestre los mensajes que envía al chat. La función estará disponible de forma predeterminada en todos los canales, aunque los administradores pueden desactivarla o añadir ajustes adicionales.
En un comunicado, Twitch advierte que también "existe la posibilidad de falsos positivos y falsos negativos" y que "Ningún aprendizaje automático será 100% preciso". Sin embargo, los creadores también pueden restringir el envío de mensajes o acceso al canal de forma manual en ciertas circunstancias, por ejemplo, al comprobar que un usuario está compartiendo contenido de odio a través del chat. Así, los desarrolladores también pueden ejecutar ciertas acciones que ayuden a Twitch a detectar con precisión a los usuarios sospechosos.
Dejá tu comentario