Smart Answer | Voice Spoofing e IA generativa
La relación entre Smart Answer , el «Voice Spoofing» y la «IA generativa» es dual: la IA generativa es tanto una amenaza creciente que Smart Answer busca combatir, como una herramienta clave que Smart Answer utiliza para la defensa.
IA como facilitadora del fraude por suplantación de voz
El call spoofing es considerada una amenaza avanzada y específica para las comunicaciones en tiempo real, junto con toll fraud, la interceptación de llamadas (eavesdropping) y los ataques TDoS.
El software basado en la imitación de voz por IA se utiliza para suplantar voces de socios comerciales o incluso de familiares en apuros, así como para cometer fraude de identidad.
El voice spoofing y la suplantación de identidad están evolucionando rápidamente con las nuevas tecnologías. Actualmente, los kits de síntesis de voz y vídeo (Deepfake) están disponibles por debajo de la barrera de los $100, permitiendo a ciberdelincuentes poco cualificados lanzar ataques avanzados.
En una investigación IBM demostró que mediante la técnica del audio-jacking es posible interceptar una voz y sustituirla en directo durante el transcurso de una llamada telefónica con una voz sintética idéntica a la original (audio-hacking). Con apenas 3 segundos de audio logra suplantar la voz de una persona, y utilizarla para sus propios fines.
Para programar el modelo de LLM apenas necesitaron un prompt detallando lo que querían hacer paso por paso en lenguaje humano, sin necesidad de introducir código.
El engaño es realmente difícil de detectar, más aun si tenemos en cuenta que el contexto de las conversaciones telefónicas puede implicar pérdida de calidad, cortes en el audio, que el usuario tolera con normalidad.
Más de la mitad de las personas piensan que puede identificar un deep fake, pero la realidad es que más del 75% de las veces los humanos fallamos en su identificación.
El fraude mediante IA, es un problema tan serio en algunos países (Colombia Ley 2502 de 2025) que incluso han legislado para considerar como agravante el empleo de IA para engañar a alguien.
La Inteligencia Artificial como aliada contra el fraude telefónico
Cada vez más países despliegan herramientas basadas en IA para proteger sus comunicaciones: Irlanda introdujo el Voice Firewall, Perú fiscaliza a través del Indecopi 7 millones de audios con apoyo de la IA, Bélgica o Polonia tienen previsto introducir herramientas de filtrado de mensajes basadas en IA….
La propuesta de Smart Answer también está alineada con marcos regulatorios actuales, que facultan a los operadores por primera vez a censurar llamadas claramente fraudulentas, como aquellas que simulan números nacionales desde el extranjero.
La aplicación de la IA en Smart Answer en la lucha contra el fraude, se manifiesta en dos áreas clave:
- Detección y filtrado de llamadas no deseadas:
- Análisis de Patrones: El sistema analiza patrones de comportamiento anómalos de forma dinámica. Empleando algoritmos de IA y ML, se basa en datos derivados de experiencias previas, referencias externas y el contexto recogido para tomar una decisión sobre la validez de una llamada.
- Decisión de Filtrado: Si una llamada es sospechosa, la solución decide si debe entregarse directamente al cliente o si debe ser derivada a un asistente inteligente que actúe como filtro. La detección y clasificación se basa en un enfoque evolutivo y combina el análisis en tiempo real de múltiples factores con el aprendizaje constante de los algoritmos. Para manejar la incertidumbre en esta detección, se usan técnicas avanzadas de IA como las redes neuronales convolucionales o métodos basados en Random Forest.
- Asistencia conversacional y resumen:
- Interacción: El asistente mantiene una conversación sencilla y eficiente para recolectar información básica (nombre, motivo de la llamada, lugar de trabajo, etc.).
- Transcripción y Resumen: Utiliza tecnologías específicas de IA: OpenAI Whisper para la transcripción precisa de la voz a texto o el modelo de lenguaje Mistral (un LLM) para generar un resumen automatizado del contenido de la conversación.
Smart Answer y la Suplantación de Identidad (Spoofing)
La suplantación de identidad (spoofing) es una amenaza fundamental que Smart Answer está diseñado para combatir.
La necesidad de este tipo de soluciones surge debido a que la confianza en el canal telefónico convencional se ha visto mermada por el uso masivo de técnicas de spoofing de números, pero también de técnicas que afectan al contenido de las comunicaciones a través de audio-hacking.
Smart Answer implementa un sistema robusto de IA y machine learning para analizar el tráfico telefónico, detectar de manera temprana patrones anómalos asociados a la suplantación de identidad y el fraude, y emplear un asistente virtual inteligente para filtrar proactivamente estas llamadas antes de que comprometan al usuario.
