Meta ha lanzado una nueva herramienta de seguridad que alertará a los padres si sus hijos adolescentes mantienen conversaciones sobre suicidio o autolesiones con Meta AI. Esta función, que estará disponible para quienes usen las herramientas de supervisión de Instagram, incluye un sistema de detección temprana que será revisado por humanos antes de enviar cualquier alerta.
La intención de esta nueva característica es permitir que un adulto intervenga rápidamente cuando se detecten señales de riesgo en las conversaciones. Además de las alertas, la plataforma proporcionará materiales elaborados por especialistas en salud mental para apoyar a las familias en la gestión de estos temas delicados.
Meta AI ya ofrece líneas de ayuda y sugiere a los adolescentes que hablen con un adulto de confianza cuando detecta menciones de suicidio o autolesiones. Sin embargo, el nuevo sistema introducirá notificaciones directas a los padres de las cuentas supervisadas.
Para implementar esta herramienta, Meta ha desarrollado un sistema de inteligencia artificial capaz de identificar tanto referencias directas como sutiles sobre el daño personal. Las señales han sido definidas en colaboración con profesionales de la salud mental. Además, las conversaciones consideradas sensibles serán revisadas manualmente para asegurar un análisis contextual y minimizar errores de interpretación por parte del sistema automatizado.
La compañía también está trabajando en una función que podría contactar a los servicios de emergencia si se determina que una conversación con Meta AI indica una situación crítica. Sin embargo, la empresa ha advertido que los padres podrían recibir alertas incluso en casos en que la intención del adolescente no sea clara, lo cual podría resultar en notificaciones por conversaciones que no representen un riesgo real.