Meta ha lanzado una nueva herramienta de seguridad destinada a adolescentes que utilizan su plataforma. Este sistema enviará alertas a padres y madres si una conversación con la inteligencia artificial de Meta menciona temas de suicidio o autolesiones. La función estará disponible para las cuentas de adolescentes que cuenten con herramientas de supervisión en Instagram.
La inteligencia artificial de Meta identificará señales de riesgo y notificará a los responsables, quienes recibirán además recursos elaborados por especialistas en salud mental. De esta manera, se busca facilitar el acompañamiento adecuado ante situaciones críticas. Actualmente, la IA ya sugiere líneas de ayuda y recomienda que los adolescentes hablen con un adulto de confianza al detectar referencias sobre suicidio.
Para mejorar la precisión de las alertas, las conversaciones sensibles serán revisadas por personas antes de que se envíen notificaciones, lo que permitirá analizar el contexto y minimizar errores de interpretación. Sin embargo, Meta advierte que, en algunas ocasiones, los padres podrían recibir advertencias aunque no haya un riesgo real, priorizando la detección temprana.
Además, la compañía está desarrollando una función que permitirá contactar a servicios de emergencia si se detecta un riesgo inminente de suicidio en las conversaciones. En 2025, Facebook e Instagram enviaron más de 19.000 reportes a organismos de emergencia de varios países tras identificar publicaciones con signos de peligro.