La red social Instagram, propiedad de Meta, anunció la implementación de un conjunto de nuevas funciones destinadas a reforzar la protección de usuarios adolescentes y de perfiles que exhiben imágenes de niños, pero que son administrados por adultos.
De acuerdo con el blog de Meta, estas novedades buscan reducir aún más los riesgos que corren los adolescentes en la plataforma, así como promover un entorno digital más seguro.
Una de las actualizaciones principales se enfoca en la herramienta de los mensajes directos, ya que a partir de ahora los usuarios adolescentes tendrán visibilidad sobre la fecha de creación de las cuentas con las que interactúan. Este aspecto facilita la identificación de perfiles de reciente creación que podrían ser falsos.
Adicionalmente, Instagram añade consejos de seguridad directamente en las conversaciones, para orientar a los adolescentes sobre acciones apropiadas ante situaciones incómodas o sospechosas.
Otra nueva característica permite a los usuarios bloquear y denunciar una cuenta de forma simultánea, un proceso que anteriormente requería dos acciones separadas.
Además, Meta emitirá alertas automáticas cuando un adolescente se comunique con una persona de un país diferente, con el objetivo de reducir la exposición a posibles estafas o intentos de sextorsión.
¿Cómo han funcionado las medidas de seguridad anteriores en Instagram?
La empresa propietaria de Instagram resaltó que la protección contra desnudos en los mensajes directos, que censura y difumina automáticamente imágenes de contenido sensible, se mantuvieron activadas en el 99 % de las cuentas para adolescentes durante el mes de junio.
Los registros de Meta también destacaron que el 40 % de las imágenes sensibles no fueron visualizadas por los usuarios adolescentes en junio. Y en el mismo periodo, más de un millón de cuentas fueron bloqueadas por adolescentes y otro millón se denunciaron.
Por otra parte, la compañía de Mark Zuckerberg eliminó 135 mil cuentas por comentarios o mensajes de naturaleza sexual dirigidos a perfiles que mostraban adolescentes y se suprimieron otras 500 mil relacionadas con infracciones similares.
Meta adelantó que próximamente implementará filtros para comentarios ofensivos y herramientas que permitirán el bloqueo automático de palabras o mensajes no deseados en las cuentas de adolescentes.
Uso de IA para detectar cuentas de adolescentes
En abril, Instagram comenzó a implementar nuevas medidas con inteligencia artificial (IA) para detectar las cuentas de usuarios adolescentes que hayan mentido con respecto a su edad al registrarse en la plataforma.
Con esta actualización, la tecnología basada en IA comenzó a detectar los perfiles que corresponden a adolescentes pero que afirmaron ser mayores de edad al momento del registro.
Cuando el sistema detecta que un usuario menor estuvo proporcionando información falsa, Instagram automáticamente incluye su perfil en la configuración de Cuentas para Adolescentes.
La IA de Instagram analiza diversas señales que puedan indicar que un usuario tiene menos de 18 años de edad, por ejemplo, revisa publicaciones relacionadas con felicitaciones de cumpleaños compartidas por seguidores o predice la edad real del usuario basándose en otros datos compartidos en el perfil.
Sin embargo, Meta aclaró que si el sistema identifica erróneamente una cuenta como perteneciente a un adolescente, el usuario podrá modificar su configuración para eliminar las restricciones.
La entrada Instagram activó nuevas funciones de seguridad para proteger las cuentas de adolescentes se publicó primero en El Diario.
