Facebook ha comenzado a implementar una nueva tecnología de Inteligencia Artificial (IA) para buscar patrones de pensamientos suicidas entre los mensajes de sus usuarios, con el objetivo de hacer una “detección proactiva” y reducir el tiempo en que pueden ofrecer ayuda a sus usuarios.
El sistema permitirá advertir rápidamente a los moderadores humanos sobre publicaciones que necesitan atención, además mostrará herramientas de ayuda al usuario como líneas telefónicas de ayuda, consejos para sobrellevar momentos difíciles o hablar con un amigo por medio de Facebook Messenger.
Facebook entrenó a la IA para encontrar patrones en las palabras e imágenes usadas en publicaciones que otros usuarios han reportado como en riesgo de suicidio en ocasiones anteriores, tomando encuentra además los comentarios como “¿estás bien?” o “¿Necesitas ayuda?”.
Este sistema preventivo estará disponible alrededor de todo el mundo, excepto en la Unión Europea donde las leyes de privacidad complican el uso de esta tecnología.