Roblox ha lanzando Sentinel, su inteligencia artificial que ayuda a detectar señales de posibles peligros para los niños.
Acá te compartimos qué es Sentinel, sus objetivos y cómo funciona.
¿Qué es Sentinel? La inteligencia artificial de Roblox contra el acoso de niños en el juego
Sentinel es el nombre de un sistema de inteligencia artificial que Roblox implementó desde finales de 2024; ésta ayuda a detectar -de manera temprana- los peligros para los niños, como el acoso.
Este sistema, una vez identificado el problema, permitirá investigar y, cuando sea relevante, informar a las autoridades.
El propósito de esta inteligencia artificial es brindar seguridad y confianza para sus más de 111 millones de usuarios.
¿Cómo funciona Sentinel, la inteligencia artificial de Roblox?
Sentinel ejecuta todo el proceso de análisis casi en tiempo real, a gran escala, en más de 6 mil millones de mensajes de chat diarios en Roblox.
Con patrones y entrenamiento autosupervisado, se analizan de manera automática los mensajes con el único fin de identificar posibles daños, como la manipulación o posible peligro de menores.
Asimismo, se basaron en moderadores humanos para ayudar a encontrar evidencia de infracciones de la política.
Sentinel analiza mensajes que parecerían inofensivos, como “¿Qué tal?” o ¿De dónde eres?“; éstos clasificados como posible amenaza; ya que coinciden con patrones de posibles conversaciones de acoso.
Resultados de Sentinel han dado frutos en Roblox durante el primer semestre de 2025
De acuerdo a un comunicado emitido por Roblox, durante el primer semestre de 2025, Sentinel ayudó a presentar aproximadamente mil 200 denuncias de posibles intentos de explotación infantil al Centro Nacional para Niños Desaparecidos y Explotados de Estados Unidos.
La comunidad de Roblox envía un promedio de 6.100 millones de mensajes de chat y genera 1,1 millones de horas de comunicación de voz en decenas de idiomas.
Esta comunicación refleja el mundo real, donde la gran mayoría son conversaciones cotidianas; sin embargo, un pequeño número busca causar daño.
