Meta informará a padres sobre riesgos de suicidio en jóvenes
Meta ha anunciado una nueva serie de medidas de seguridad para su chatbot de inteligencia artificial. A partir de ahora, la empresa notificará a los padres cuando detecte que un adolescente está teniendo conversaciones sobre temas tan sensibles como suicidio o autolesiones. Además, están trabajando en un sistema para que se contacten de manera inmediata los servicios de emergencia si el riesgo es inminente.
Esta decisión llega en un momento en el que Meta y otras empresas de tecnología están bajo la lupa por cómo sus asistentes de inteligencia artificial interactúan con los usuarios, especialmente los más jóvenes, en situaciones de crisis. La inteligencia artificial de Meta tiene la capacidad de identificar conversaciones donde un adolescente menciona claramente autolesiones. Y antes de enviar cualquier alerta, se revisará manualmente cada chat marcado.
El sistema de alertas de Meta
En su blog, Meta compartió más detalles sobre el sistema de alertas. Reconocen que estas notificaciones pueden ser angustiosas para los padres, por lo que todos los chats identificados por su IA pasarán por un control manual antes de que se envíen las alertas. Si la intención del adolescente es ambigua, la empresa ejercerá la precaución y alertará a los padres.
Es importante destacar que a veces estas notificaciones podrían enviarse incluso si no hay un motivo real de preocupación. Sin embargo, Meta asegura que continuará monitoreando la situación para asegurarse de que las alertas sean realmente necesarias.
Herramientas de protección
Las alertas no son algo completamente nuevo en el mundo de Meta. Ya se están aplicando en las cuentas de quienes utilizan la herramienta de Supervisión Parental de Instagram en países como Estados Unidos, Reino Unido, Australia y Canadá, y la empresa anticipa que estarán disponibles a nivel global antes de fin de año.
Con esta actualización, Meta amplía las herramientas de protección que ya ofrece. Hasta este momento, la plataforma notificaba a los padres si sus hijos realizaban búsquedas repetidas sobre suicidio o autolesiones y permitía consultar los temas que habían discutido con el asistente de inteligencia artificial durante la última semana.
Más restricciones para los adolescentes
Frente a las críticas sobre la poca protección que ofrecen las redes sociales a los menores, Meta está tratando de mejorar su imagen implementando mayores restricciones. Además de las nuevas funcionalidades de la IA, la empresa anunció que la configuración de “Contenido limitado”, que deja a los padres restringir ciertos contenidos, también se aplicará al chatbot.
El asistente ya estaba programado para evitar charlas sobre contenido sexual, romántico o consumo de alcohol con adolescentes. Con esta actualización, el chatbot rechazará un conjunto más amplio de solicitudes cuando la función de protección esté activada.
Por último, Meta también está desarrollando un mecanismo para comunicarse con los servicios de emergencia cuando una conversación sugiera un riesgo inminente de suicidio, un procedimiento similar al que ya aplica al detectar publicaciones preocupantes en Facebook e Instagram.