No es una novedad que las empresas quieran usar testimonios de personas famosas para publicar contenido a favor de su marca. A veces bastaba solo con usar el producto. Es una estrategia publicitaria que existía antes de crearse las redes sociales. Recordemos a Tom Cruise usando RayBan en TopGun. Sin embargo, después de surgir Facebook e Instagram, se expandió notablemente con los famosos influencers: personas con capacidad para influir sobre otras a través de las redes sociales.
De hecho, la inversión publicitaria en influencers en Perú se estima que supera los US$20 millones y hay quienes afirman que llegó ya a los US$100 millones, casi la sexta parte del total de inversión publicitaria del país (US$593 millones en 2024). Un solo influencer cobra entre US$5,000 y US$300 mil por campaña, dependiendo de varios factores.
Sin embargo, con la popularización de la inteligencia artificial (IA), es muy sencillo lograr un deepfake, una manipulación del rostro de alguien diciendo algo que no dijo o haciendo algo que no hizo. Se usa para propagar virus, para reírse (memes), difundir información falsa con fines políticos o para promocionar un producto o servicio, como sucedió en el caso Ronaldo.
En setiembre de 2024, un usuario compartió en Facebook una publicación con un video manipulado por IA de una persona que se parecía mucho al exfutbolista brasileño Ronaldo Luis Nazario de Lima. En el video animaban a los visitantes a descargar una aplicación para jugar en línea Plinko (o Plinco). Los controles internos de Meta no lo censuraron, pero el 5 de junio de 2025 la Junta de Supervisión revocó la decisión de mantenerla.
La publicación de la persona similar a la leyenda del fútbol brasileño, según la junta, iba contra las Normas Comunitarias de Meta sobre fraude y spam. Meta debió rechazar el contenido para publicidad, ya que sus reglas prohíben usar la imagen de una persona famosa para incitar a las personas a interactuar con un anuncio, sobre todo si esta persona no lo ha autorizado y no ha sido contratado para un espacio publicitario.
La Junta de Supervisión de Meta es un organismo independiente que decide sobre la moderación de contenido en las plataformas de Facebook e Instagram. Esta junta actúa como una instancia de apelación cuando los usuarios no están conformes con las decisiones de moderación que la empresa toma. Ante la decisión de Facebook de mantener el anuncio durante casi ocho meses pese a la disconformidad del protagonista del video falso, ha surgido entre los especialistas la duda sobre el accionar de Meta: ¿Está permitiendo publicar contenido fraudulento? ¿Qué está fallando? ¿Por qué no se evitan estas publicaciones?
Con la popularización de la inteligencia artificial (IA), es muy sencillo lograr un deepfake, una manipulación del rostro de alguien diciendo algo que no dijo o haciendo algo que no hizo.
Por lo pronto, la Junta de Supervisión advierte que Meta probablemente esté permitiendo cantidades significativas de contenido fraudulento en sus plataformas para evitar la posible eliminación de recomendaciones genuinas de las celebridades. Los revisores a gran escala no están aún facultados para hacer cumplir esta prohibición en contenido que establece una personalidad falsa o finge ser una persona famosa para estafar o defraudar.
La recomendación es que Meta haga cumplir esta prohibición de difusión de información fraudulenta (los deepfake) a gran escala proporcionando a los revisores indicadores, a menudo fácilmente identificables, que distingan el contenido de IA y eliminen lo que no es material auténtico y autorizado por el protagonista.
En el caso de videos que atentan contra los derechos humanos o van contra la libertad de expresión o promueven la violencia racista, por ejemplo, la organización tiene revisiones automáticas –software o robots– y personal encargado (humanos) de su validación o eliminación. Ese mismo control debería adaptarse para el material creado con la IA.
Por lo pronto, la Junta de Supervisión advierte que Meta probablemente esté permitiendo cantidades significativas de contenido fraudulento en sus plataformas para evitar la posible eliminación de recomendaciones genuinas de las celebridades.
Sin adecuada respuesta
Los deepfakes se pueden identificar con ayuda de software o análisis humano minucioso. En el video de Ronaldo, el audio que lo imita no está sincronizado con los movimientos de sus labios. Además, muestra imágenes poco realistas, generadas por IA, de un maestro de escuela, un conductor de autobús y un empleado de supermercado, y el salario promedio de sus trabajos en Brasil. El audio afirma que los jugadores de Plinko pueden ganar más dinero con el juego que con los trabajos mencionados y los anima a hacer clic en un enlace de descarga de la aplicación, aunque esto lleva a un juego diferente llamado Bubble Shooter.
Dicha publicación, que fue vista más de 600 mil veces, fue reportada por un usuario a la red social como fraude o estafa, pero el reporte no fue priorizado y no se eliminó el contenido. El usuario apeló esta decisión ante Meta, pero esta apelación tampoco fue priorizada para la revisión humana, por lo que el contenido permaneció en Facebook. Finalmente, el usuario apeló la decisión de Meta ante la Junta de Supervisión, alegando que la publicación parecía estar patrocinada, por lo cual debería figurar como un anuncio publicitario.
Ahora el anuncio ha sido desactivado por infringir las Normas de publicidad sobre Prácticas Comerciales Inaceptables de la compañía. Meta lo ha eliminado por infringir la política de Fraude, Estafas y Prácticas Engañosas y por infringir su política de spam, incluida en las Normas de Comunidad de Facebook. El problema no fue la falta de políticas, sino el adecuado cumplimiento de esta y la gran cantidad de estafas financieras que ocurren en Brasil –donde se realizó este caso– usando Facebook, Instagram y WhatsApp con contenido manipulado por IA.
La Junta ha expresado su preocupación por que los revisores de contenido a gran escala no pueden aun eliminar publicaciones que creen una identidad falsa o se hagan pasar por una persona famosa «con el fin de estafar», incluso si el contenido presenta indicios claros de que infringe las políticas de Meta. Quizás grandes personalidades cuentan con sus propios sistemas de protecciones y verificación, pero los expertos recomiendan a Meta que modifique su enfoque e implemente esta política a gran escala, aplicable a todos los usuarios.
Meta debería haber aplicado una etiqueta de «Información de IA», estableció la Junta de Supervisión, tal como dicta su política de Contenido multimedia manipulado. Meta también debería haber rechazado el contenido para publicidad, porque se prohíbe el uso de la imagen de una persona famosa y tácticas engañosas para incitar a las personas a interactuar con un anuncio que conlleva al fraude. Al recibir pagos para promocionar contenido, Meta debe garantizar que estas publicaciones no infrinjan sus políticas, remarcaron.
