Las 3 principales preocupaciones del CISO con respecto a las falsificaciones profundas en la seguridad de la fuerza laboral

Los Deepfakes se han convertido rápidamente en una amenaza significativa para las empresas y las personas, especialmente cuando se trata de proteger la integridad de la seguridad de la fuerza laboral. Originalmente visto como una herramienta para difundir información errónea en la esfera pública, los deepfakes ahora se están aprovechando dentro de las empresas, creando nuevas vulnerabilidades para que los CISO las administren.

Gartner La investigación destaca que, si bien los ataques de presentación siguen siendo el vector de ataque más común en la verificación de identidad, los ataques de inyección, incluidos los deepfakes generados por IA, se registraron un crecimiento del 200% en 2023. Además de esta urgencia, Deloitte pronostica que la IA generativa podría impulsar las pérdidas por fraude en Estados Unidos a 40 mil millones de dólares para 2027, un aumento dramático desde los 12.300 millones de dólares en 2023.

Hemos investigado y consolidado las principales preocupaciones que enfrentan los CISO con respecto a los deepfakes, junto con información procesable para ayudar a las organizaciones a mitigar de manera efectiva estos riesgos en evolución.

1. Deepfakes aprovecha los flujos de trabajo de recuperación de MFA

Los flujos de trabajo de recuperación de MFA a menudo se basan en la autenticación basada en voz o en preguntas basadas en el conocimiento, que son cada vez más vulnerables a la explotación por IA generativa y tecnología deepfake. Estos métodos tradicionales, aunque convenientes, no tienen en cuenta la sofisticación de los medios sintéticos, convirtiéndolos en objetivos principales para la suplantación de identidad y el fraude.

Para los CISO, el desafío radica en asegurar estos flujos de trabajo contra medios sintéticos sofisticados que eluden las medidas de autenticación tradicionales, lo que podría otorgar a los atacantes acceso a cuentas confidenciales.

Impacto clave:

• Riesgos de autenticación basada en voz: Los atacantes utilizan IA para replicar patrones vocales de grabaciones públicas o audio interceptado, omitiendo las comprobaciones de identidad basadas en voz y permitiendo el acceso no autorizado.
• Vulnerabilidades en videoreuniones: Deepfakes puede replicar tanto la voz como la apariencia, lo que permite una presencia convincente en las videollamadas y explotando los flujos de trabajo de recuperación basados en el conocimiento. Esto se ve agravado por:
  • Exposición a la información pública: Las redes sociales, el contenido web y las redes profesionales revelan respuestas a preguntas comunes de seguridad.
  • Seguridad inadecuada de la plataforma: Hasta donde nosotros conocemos, actualmente ninguna herramienta de video evalúa completamente la vialidad del contenido, lo que permite que las imágenes pregrabadas o sintéticas pasen por auténticas.

Nuestras recomendaciones:

• Detección avanzada de la capacidad de vida y protección contra las inyecciones: Implementar tecnologías que detecten signos de manipulación sintética y bloqueen los medios alterados para garantizar que solo se procesen datos en vivo.
• Autenticación multimodal: Combine la biometría con señales contextuales y de comportamiento para crear una defensa sólida y en capas contra ataques deepfake.
• Reducción de la dependencia de preguntas estáticas basadas en el conocimiento: Reemplace estos factores con factores contextuales dinámicos como comprobaciones basadas en la ubicación o patrones de uso para mejorar la seguridad.
• Plataformas seguras de videoconferencia: Utilice soluciones con mecanismos antisuplantación de identidad y pasos de validación adicionales para proteger los flujos de trabajo de recuperación realizados a través de videollamadas.

2. Amenazas a los Procesos Internos y Transacciones Corporativas

El uso fraudulento de deepfakes va más allá del robo de identidad. Con la capacidad de fabricar video o audio realistas, los atacantes pueden manipular las comunicaciones corporativas, lo que lleva a consecuencias potencialmente catastróficas.

De acuerdo con el Centro de Quejas de Delitos en Internet del FBI Informe en 2023, las estafas de correo electrónico empresarial, incluidas las mejoradas por deepfakes, resultaron en pérdidas reportadas de $2.9 mil millones anualmente, lo que las convierte en el segundo tipo de delito cibernético más costoso, en promedio $275,000 pérdidas promedio por reclamo. Los Deepfakes permiten además a los atacantes hacerse pasar por ejecutivos de la compañía y autorizar transacciones fraudulentas, lo que agrava el problema.

Impacto clave:

• Pérdidas financieras: Las comunicaciones manipuladas pueden dar lugar a transacciones no autorizadas o aprobaciones de contratos, causando daños financieros significativos.
• Acceso no autorizado a sistemas y datos confidenciales: La suplantación de identidad a través de deepfakes permite a los atacantes infiltrarse en sistemas sensibles, explotando la confianza para eludir las medidas de seguridad. Al crear comunicaciones o instrucciones falsas, no solo facilitan el acceso no autorizado sino que también crean interrupciones operativas que distraen a los equipos de detectar y responder a la brecha, amplificando el impacto financiero y de seguridad.

Nuestras recomendaciones:

• La implementación de herramientas de detección basadas en IA y la creación de procedimientos de validación más estrictos para las comunicaciones confidenciales puede ayudar a reducir el riesgo de fraude habilitado por deepfake.

3. Escalamiento y brechas de seguridad en las operaciones de Help Desk

Deepfakes expone una debilidad crítica en las operaciones de la mesa de ayuda: la incapacidad de distinguir de manera confiable entre solicitudes legítimas e intentos sofisticados de suplantación de identidad. A medida que los atacantes utilizan deepfakes para pasar por ejecutivos o empleados, los equipos de mesa de ayuda corren el riesgo de otorgar sin saberlo acceso no autorizado a sistemas confidenciales, lo que permite el fraude o las violaciones de datos.

Un nuevo estudio revela que 80% de las empresas carecen de protocolos para manejar ataques deepfake, mientras termina El 50% de los líderes empresariales admiten que sus empleados no están capacitados para reconocer amenazas deepfake. Esta falta de preparación pone de manifiesto una brecha significativa tanto en capacitación como en tecnología, dejando a las organizaciones vulnerables a la explotación.

Nuestras recomendaciones:

• Tecnología de detección avanzada: Equipar a los equipos de asistencia técnica con herramientas basadas en IA capaces de verificar la identidad y detectar deepfakes, minimizando el riesgo de acceso no autorizado. Estas herramientas pueden analizar patrones de audio, video y comportamiento para diferenciar entre identidad legítima y sintética.
• Formación integral y protocolos: Desarrollar libros de jugadas personalizados para manejar presuntos incidentes de deepfake, combinados con capacitación de empleados para reconocer y escalar amenazas potenciales de manera efectiva.

Conclusión

A medida que la tecnología deepfake continúa mejorando, es crucial que los CISO aborden proactivamente estas vulnerabilidades mediante la integración de tecnologías de detección avanzadas, la mejora de las medidas de integridad de datos y la mejora de la verificación de identidad de los empleados.

Al mantenerse a la vanguardia de estas amenazas, las organizaciones pueden protegerse mejor de los importantes impactos financieros, operativos y reputacionales que pueden causar los deepfakes.

Incode Workforce ofrece una alternativa sólida para aliviar a las empresas en la lucha contra los deepfakes y los ataques de ingeniería social más amplios, transformando la seguridad del ciclo de vida de los empleados con inscripciones de IAM biométricas impulsadas por IA, reajustes de contraseñas de autoservicio, recuperación de cuentas e interacciones sin interrupciones con el servicio de asistencia.