WhatsApp prueba Scam Alert, una IA que detecta estafas en el chat
La función usa un modelo de inteligencia artificial que corre en el propio teléfono para advertir sobre mensajes sospechosos de contactos desconocidos, sin enviar el contenido a los servidores de Meta.
Meta comenzó a probar en WhatsApp una función llamada Scam Alert, que usa un modelo de inteligencia artificial para detectar mensajes con patrones típicos de estafa antes de que el usuario les responda. La herramienta está en fase de pruebas con un grupo reducido de usuarios y todavía no tiene fecha de lanzamiento general.
El sistema se concentra en los mensajes que llegan de números que la persona no tiene guardados como contacto, el terreno donde crece una modalidad de fraude cada vez más habitual en las apps de mensajería: alguien desconocido que busca ganar confianza para después pedir dinero, datos personales, códigos de seguridad o acceso a una cuenta. El modelo revisa la estructura de la conversación y ciertas características del lenguaje para identificar ese patrón, y cuando junta señales suficientes de riesgo, muestra una advertencia dentro del chat que solo ve la persona que la recibe.
La particularidad técnica es que todo el análisis ocurre en el propio teléfono. WhatsApp descarga el modelo de IA al dispositivo y lo corre ahí, sin mandar el contenido de los mensajes a los servidores de Meta ni a los de terceros. Según la empresa, ese diseño le permite sumar esta capa de protección sin tocar el cifrado de extremo a extremo, el mecanismo que impide que nadie, ni la propia Meta, lea el contenido de una conversación mientras viaja entre los dos teléfonos.
El boletín de Onda Corta
Scam Alert será opcional: se podrá activar o desactivar desde los ajustes de la aplicación. Si el sistema marca por error una conversación legítima como sospechosa, el usuario podrá señalarla como confiable. También existe la posibilidad, no obligatoria, de compartir los últimos cinco mensajes recibidos para ayudar a afinar la precisión del modelo. Meta sostiene que construyó mecanismos para que esa información no sirva para identificar a la persona ni para acceder al resto de sus conversaciones.
Auditorías externas
Meta planea someter el desarrollo a un mecanismo de supervisión: las versiones del modelo quedarían registradas en un sistema público de transparencia, y la empresa tiene previsto publicar sus parámetros para que investigadores de seguridad externos puedan auditarlos.
Por ahora, la prueba beta incluye solo a un grupo limitado de usuarios y a integrantes de la comunidad dedicada a detectar vulnerabilidades. Antes de un lanzamiento más amplio, la compañía necesita comprobar que el modelo identifica estafas reales sin disparar demasiadas falsas alarmas, y que el procesamiento local efectivamente mantiene las condiciones de privacidad que promete.
El boletín de Onda Corta