Una nueva y alarmante modalidad de fraude digital ha emergido en plataformas como TikTok, Instagram y Facebook, donde la inteligencia artificial (IA) es utilizada para crear perfiles de influencers falsos. Estos avatares digitales, diseñados para generar empatía y confianza, se dedican a vender productos de bajo costo, provenientes de gigantes del comercio electrónico como Shein, a precios considerablemente inflados. La investigación, publicada por The Verge, revela un fenómeno que combina manipulación emocional, robo de identidad cultural y sofisticadas técnicas de engaño impulsadas por la IA.
Los perfiles en cuestión, a menudo presentados como mujeres negras emprendedoras, utilizan videos generados por IA para narrar historias emotivas sobre superación, dificultades económicas o experiencias de discriminación. El objetivo es claro: apelar a la sensibilidad de los usuarios y convencerlos de que están apoyando a una causa legítima o a una pequeña empresaria en apuros. Sin embargo, detrás de estas conmovedoras narrativas no hay personas reales. Los artículos promocionados son típicamente revendidos a través de esquemas de dropshipping, donde los estafadores obtienen ganancias significativas al vender productos que ni siquiera poseen físicamente.
Uno de los casos documentados por The Verge expone la venta de cinturones por aproximadamente 40 dólares, cuando el mismo artículo podía ser adquirido por una cuarta parte de ese precio en Shein. Los videos asociados a estos productos acumulaban millones de visualizaciones y miles de comentarios de usuarios genuinamente convencidos de estar apoyando a una emprendedora real. La estrategia de "empathy bait", o cebo de empatía, es fundamental en este esquema, diseñada para provocar respuestas emocionales intensas que impulsen la interacción y, consecuentemente, la compra.
Cienna Davis, investigadora de la University of Pennsylvania especializada en raza, tecnología e inteligencia artificial, ha calificado estas prácticas como una forma de "digital blackface". Esta terminología se refiere a la recreación artificial de identidades raciales con fines de lucro. Según Davis, la elección de avatares de mujeres negras responde a estereotipos que las asocian con autenticidad, resiliencia y confiabilidad ante ciertos segmentos de la audiencia, explotando así prejuicios y percepciones preexistentes.
La magnitud del problema es considerable. Jeremy Carrasco, fundador de Riddance.ai, una organización dedicada a la detección de videos sintéticos, reporta que su equipo identifica hasta 100 cuentas fraudulentas de este tipo diariamente, distribuidas entre las principales redes sociales. Esta situación evoca la "Estafa Shein" detectada por Kaspersky en América Latina en 2023, donde se utilizaban anuncios y colaboraciones con influencers para engañar a las víctimas, prometiéndoles ganancias por calificar productos, pero resultando en la pérdida de depósitos realizados.
La diferencia crucial con esquemas anteriores es que ahora los delincuentes no necesitan convencer a personas reales para promocionar sus fraudes. La IA les permite generar sus propios portavoces digitales de manera rápida y eficiente. Los influencers generados por IA no son una novedad absoluta; marcas y agencias han experimentado con personajes virtuales capaces de producir contenido de forma continua, sin las limitaciones humanas.
Un análisis de PwC destaca el creciente modelo de negocio de los influencers virtuales, impulsado por los avances en IA generativa, animación y producción de contenido multimodal. Para las empresas, estas figuras ofrecen ventajas como disponibilidad 24/7, control total sobre el mensaje y una potencial reducción de costos operativos. El problema surge cuando la audiencia desconoce la naturaleza artificial de estos "influencers" y cuando son explotados por estafadores.
La dificultad para distinguir entre personas reales y avatares generados por IA es un factor clave en el éxito de estos fraudes. Estudios indican que solo un pequeño porcentaje de la población (0.1%, según iProov) es capaz de detectar con precisión las falsificaciones creadas por inteligencia artificial. Esto crea un terreno fértil para la manipulación y el engaño a gran escala.
Los marcos normativos actuales apenas comienzan a abordar las complejidades de la transparencia, la identificación de contenido generado por IA y la responsabilidad legal detrás de los influencers virtuales. La falta de regulación clara deja a los usuarios expuestos a estas nuevas formas de fraude.
Ante este panorama, las recomendaciones de los especialistas en ciberseguridad son cruciales. Se insta a los usuarios a desconfiar de historias excesivamente emotivas que buscan impulsar ventas rápidas. Es fundamental investigar la existencia real de los negocios detrás de las cuentas y comparar precios antes de realizar cualquier compra, especialmente en plataformas donde la autenticidad de los vendedores puede ser cuestionable.
Además, se aconseja revisar si los perfiles cuentan con información verificable fuera del ecosistema de las redes sociales. La presencia de datos contrastables en otras plataformas o sitios web puede ser un indicio de legitimidad. Evitar decisiones impulsivas, especialmente aquellas motivadas por sentimientos de solidaridad o urgencia artificialmente generados, es vital para no caer en estas trampas.
La combinación de IA avanzada y tácticas de manipulación emocional representa un desafío significativo para la seguridad en línea. La capacidad de crear identidades falsas convincentes y explotar la empatía humana para fines fraudulentos subraya la necesidad de una mayor conciencia pública y de un desarrollo regulatorio más robusto para proteger a los consumidores en la era digital.
Este fenómeno no solo representa una pérdida económica para los consumidores, sino que también erosiona la confianza en las plataformas digitales y en la figura del influencer. La línea entre la autenticidad y la simulación se vuelve cada vez más difusa, exigiendo un escrutinio constante por parte de los usuarios y una acción decidida por parte de las autoridades y las propias plataformas para mitigar estos riesgos.