Deepfakes: una realidad ante la que estar alerta

Los ciberataques que hacen uso de los deepfakes se vienen elevando en forma considerable y es bueno incorporar herramientas de control para prevenir su uso, no solo en la generación de desinformación (fake news) sino en fraudes, y extorsiones. En muchos casos los delincuentes se valen de mensajes de videos falsos para insertar malware y lograr robar datos y dinero.
ESET Latinoamérica

El fraude informático es el tipo de delito informático más practicado en el país. Según la Unidad Fiscal Especializada en Ciberdelincuencia (UFEC) del Ministerio Público, entre 2020 y 2023 se multiplicaron por cuatro las denuncias por fraudes informáticos en el país, pasando de 5,420 delitos a 21,482. Y este año, hasta julio, se habían ingresado a la citada fiscalía 14,935 de este tipo de delitos.

Uno de los tipos de fraudes que vienen creciendo en forma sustancial son los que se valen de la inteligencia artificial (IA) para generar falsos mensajes con los cuales engañar a los ciudadanos. En ese grupo se vienen elevando los deepfakes, es decir, manipulaciones de la imagen de alguien en un video.

«Los deepfakes son medios sintéticos generados mediante técnicas de aprendizaje profundo (deep learning). Incluyen imágenes, vídeos y grabaciones de audio manipulados para retratar a alguien diciendo o haciendo algo que en realidad nunca dijo o hizo. Estas tecnologías identifican y aprenden de grandes cantidades de datos para generar medios falsos de apariencia realista», explicaron los expertos de ESET.

campaña-beneficios-gif-B-1
campaña-beneficios-gif-B-2
campaña-beneficios-gif-3
campaña-beneficios-gif-4
campaña-beneficios-gif-5

No se trata de «terrorismo de imagen», como dijo la presidente Dina Boluarte hace unos días, sino de estafas manipulando imágenes. «Ese término no existe», explicó el Dr. Erick Iriarte, CEO de eBIZ. Lo que sucede, añadió, es que hay imágenes que son publicadas en redes para cuestionar al Gobierno, entonces se da un uso incorrecto o un fake news o noticia falsa, pero no es terrorismo. 

Los ciberataques que hacen uso de los deepfakes van desde la generación de desinformación (fake news) y difamación hasta los fraudes, chantajes o extorsiones. En muchos casos los delincuentes se valen de mensajes de videos falsos, poniendo por ejemplo a Bill Gates diciendo algo que en realidad no dijo, para insertar malware y lograr robar datos y dinero.

Aunque hay una tendencia creciente al uso de deepfakes, muchos peruanos aún no saben de qué se está hablando. Valga recordar que el 75% de los peruanos no sabe aún lo que es un deepfake, cifra superior a lo que que se registra en Argentina (67%), Colombia (63%) o Chile (72%), según informó Kaspersky en la Cyber Security Week 2024. Sumado a ello, se estima que ya se han generado más de US$200 mil en pérdidas debido a estafas de deepfakes a nivel local y que el crecimiento anual de su uso en el ámbito global bordeará el 900% de acuerdo al Foro Económico Mundial, según citó el diario El Peruano. 

El 75% de los peruanos no sabe aún lo que es un deepfake, cifra superior a lo que que se registra en Argentina (67%), Colombia (63%) o Chile (72%), según informó Kaspersky en la Cyber Security Week 2024.

Un informe de ESET, compañía antivirus, señaló que entre 2022 y 2023 el número de deepfakes en todo el mundo se multiplicó por 10 y solo en la región de América Latina aumentaron un 450%. El valor actual del mercado está en US$534 millones y se prevé que podría llegar a los US$5134 millones para 2030, estimaron.

«Es muy peligroso. Es importante que los usuarios verifiquen la información que reciben para evitar ser víctimas de engaños», recomendó Iriarte. Una forma de hacerlo es utilizar herramientas diseñadas específicamente para ello. Desde ESET han compartido una serie de más de 10 opciones eficientes que existen para desenmascarar estos engaños.

«La batalla contra los deepfakes es un desafío continuo en el campo de la ciberseguridad y, a medida que estas falsificaciones se vuelven más sofisticadas, la necesidad de herramientas avanzadas para su detección se vuelve más crítica. En un mundo donde la verdad puede ser distorsionada con facilidad, es importante acompañar los cambios tecnológicos con conciencia y herramientas que estén a las alturas.», comentó Mario Micucci, Investigador de seguridad informática de ESET Latinoamérica.

Los aliados para determinar la veracidad de los videos o audios que pueden encontrarse en Internet recomendados por ESET son:

  • Sentinel: Una solución basada en la nube que ofrece detección de deepfakes en tiempo real con alta precisión. Utiliza algoritmos avanzados de IA y múltiples tecnología.
  • Sensity: Dispone una plataforma de monitoreo en tiempo real, utilizada por gobiernos y empresas de todo el mundo. Con capacidad para escanear grandes volúmenes de contenido.
  • Oz Liveness: Evita que los usuarios suplanten ataques con un nivel 100% de precisión. Viene con el estándar de prueba más estricto, la certificación ISO 30107.
  • WeVerify: Se centra en identificar y contextualizar las redes sociales y el contenido web. Incluye verificación de contenido multimodal, análisis de redes sociales, desacreditación microdirigida y una base de datos pública basada en blockchain de falsificaciones reconocidas.
  • HyperVerge: Con un modelo de inteligencia artificial y aprendizaje automático para una seguridad integral, este detector de falsificaciones identifica la verificación, el reconocimiento facial y controles sólidos de vida. 
  • FakeCatcher de Intel: Este software utiliza hardware y software Intel, se ejecuta en un servidor y se conecta a través de una plataforma basada en web. Se centra en la velocidad y la eficiencia, con una tasa de precisión del 96%.
  • Microsoft Video AI Authenticator: Una herramienta gratuita diseñada por Microsoft que puede identificar videos e imágenes. Proporciona una puntuación de confianza que indica la probabilidad de manipulación en tiempo real.
  • Deepware: utiliza tecnologías de inteligencia artificial y aprendizaje automático para detectar y mitigar los deepfakes. Es fácil de usar y de fácil acceso para detectar falsificaciones profundas.
  • Phoneme-Viseme Mismatch: Investigadores de la Universidad de Stanford y la Universidad de California desarrollaron esta herramienta que se centra en las inconsistencias entre el audio hablado y los movimientos de los labios en los vídeos. La falta de coincidencia entre estos elementos puede indicar una posible manipulación.
  • DuckDuckGoose: Analiza los deepfakes de forma rápida y precisa para proteger a las empresas de posibles amenazas, ya sean cibernéticas, reputacionales o financieras. Este software actúa como una capa de seguridad adicional que proporciona explicaciones claras de cómo detecta manipulaciones digitales.

ÚLTIMAS NOTICIAS

NOTICIAS RELACIONADAS

Interbank: de la falla en sus aplicativos a filtración de datos

El banco aceptó que un tercero había tenido acceso a datos de sus clientes y suspendió el acceso a los aplicativos en línea del banco. La recomendación de los expertos es cambiar las contraseñas, pero luego de que Interbank anuncie que el problema ha sido resuelto al 100%.