Google modifica las condiciones de la detección de spam de la app Mensajes en Android para permitir el acceso al contenido de los mensajes no cifrados con el fin de entrenar modelos de IA.
Los viejos mensajes de texto SMS se han convertido en una de las principales rutas de entrada de spam al móvil, facilitando la difusión de phishing, con el que se busca engañar al usuario para que instale malware o comparta datos personales como el número de su tarjeta de crédito. Este tipo de campañas son especialmente eficaces cuando se combinan con la falsificación del remitente, utilizando el nemotécnico de entidades conocidas, como Correos o una entidad bancaria, consiguiendo que el móvil los coloque en la misma carpeta que el remitente legítimo.
Dado que los sistemas de las operadoras son poco eficaces a la hora de identificar y filtrar estos envíos, Google lleva tiempo protegiendo a los usuarios de Android cuando usan su app Mensajes, con la que se gestiona la mensajería SMS y RCS nativa de las redes de las compañías telefónicas.
Cómo funciona la protección antispam de Mensajes de Google
Google detecta en tiempo real el spam utilizando algoritmos de machine learning, con los que se detectan patrones comunes en mensajes que los usuarios han confirmado como spam, de forma que el modelo aprende de ejemplos reales. El proceso de identificación de mensajes entrantes se realiza en el propio móvil del usuario, de forma que el texto del mensaje no sale del terminal. Es cuando el usuario pulsa Marcar como spam en un mensaje, que la app envía1 a los servidores de Google el número de origen junto con el contenido de los últimos 10 mensajes recibidos desde la misma fuente, sin incluir datos identificativos del usuario. En algunos casos, Google también comparte esta información con la operadora.
Sin embargo, Google ha modificado recientemente el apartado de su web donde explica cómo funciona este mecanismo para introducir el uso de modelos de AI, un campo en el que la compañía ha evolucionado notablemente en los últimos meses y que superan de largo las capacidades de los sistemas ML.
La detección de spam funciona con los datos de tus mensajes en tu dispositivo y también puede procesar efímeramente el contenido de los mensajes no cifrados para detectar spam y utilizar esas señales para entrenar modelos de IA para mejorar la detección de spam. Los chats entre usuarios que utilizan Google Messages siempre están cifrados de extremo a extremo cuando RCS está habilitado.
Con las nuevas condiciones2, la novedad está en que Google puede tener acceso por defecto al contenido de los mensajes, sin que sea necesaria la acción manual de usuario al reportar el mensaje como spam. Esta información se utilizará para entrenar a modelos de inteligencia artificial con el fin de mejorar la precisión al identificar comunicaciones no deseadas.
Google aclara que no utilizará conversaciones cifradas, como cuando se usa mensajería RCS entre Androids, por lo que los cambios sólo afectan a los mensajes SMS.
