Cómo detectar un deepfake

Cómo detectar un deepfake

Ahora más que nunca, se necesita un cierto nivel de sofisticación para navegar por las diversas fuentes de información en Internet. Para agravar el problema está el aumento de la ' deepfake , ”Videos de apariencia extraordinariamente realista que a menudo muestran a figuras públicas haciendo y diciendo cosas que en realidad nunca hicieron. Hasta ahora, sus usos han sido relativamente benignos, hasta donde sabemos, pero el potencial de abuso es alarmante, por decir lo menos. Aquí encontrará todo lo que necesita saber sobre cómo detectar un deepfake.

Ocultar video destacado

¿Qué es un deepfake?

Un deepfake es un video creado usando un tipo de aprendizaje automático para captar los movimientos faciales de una persona e injertarlos en otra persona que hace gestos similares. El término proviene de la afiliación de la práctica con un usuario popular de Reddit llamado Deepfakes.

Esencialmente, un deepfake se hace compilando miles de fotografías de rostros de personas y ejecutándolas a través de un algoritmo de inteligencia artificial. El resultado final es un video que usa esas imágenes para imponer un rostro a otra persona.

Los ciudadanos privados tienen menos de qué preocuparse porque estos algoritmos requieren una gran cantidad de material de un sujeto para poder replicarlos con precisión. Pero ya hemos visto la tecnología para crear pornografía falsa de celebridades, y si estás hablando de la posibilidad de influir en una elección atribuyendo mensajes o hechos falsos a un candidato, tiene la posibilidad de afectar a muchos a través de la influencia electoral.

Si bien los deepfakes con celebridades o figuras políticas reciben mucha atención, un informe de 2019 encontró que una gran cantidad de ellos fueron utilizados para crear pornografía no consensual .

El informe de la empresa de ciberseguridad con sede en Holanda Deeptrace encontró que el 96 por ciento de todos los deepfakes en línea estaban relacionados con la pornografía.

LEE MAS:

  • Los últimos deepfakes muestran cómo Nicolas Cage y David Schwimmer son casi idénticos
  • El terrorífico deepfake combina a Donald Trump y Mr.Bean
  • Los legisladores dicen que los deepfakes podrían ser una amenaza para la seguridad nacional

Los miembros del Congreso han reconocido el peligro. En septiembre de 2018, los representantes estadounidenses Adam Schiff (D-Calif.), Stephanie Murphy (D-Fl.) Y Carlos Curbelo (R-Fl.) envió una carta al Director de Inteligencia Nacional solicitando un informe al Congreso sobre 'las implicaciones de las nuevas tecnologías que permiten a los actores malintencionados fabricar audio, video e imágenes fijas'.

El Senado aprobó la Ley de informes Deepfake de 2019 en octubre de 2019, que pidió al Departamento de Seguridad Nacional que produzca un informe anual que detalle cómo está evolucionando la nueva tecnología y los daños que podrían provenir de las falsificaciones profundas.

Mientras tanto, el representante Jan Schakowsky (D-Ill.) A principios de 2020 llamó a la política de Facebook en torno a los deepfakes ' totalmente inadecuado ”Durante un subcomité de Comercio y Protección al Consumidor de la Cámara.

Justo antes de los comentarios de Schakowsky, el gigante de las redes sociales anunció una política donde eliminarían los 'medios manipulados', incluidos los deepfakes, si cumplieran con ciertos criterios. Específicamente, la compañía dijo que los deepfakes se eliminarían si se editaran de maneras 'que no son evidentes para una persona promedio y probablemente inducirían a error a alguien haciéndole pensar que un sujeto del video dijo palabras que en realidad no dijeron'.

Cómo detectar un video deepfake

Una imagen deepfake que muestra a Donald Trump con los ojos de Mr Bean
PolygonGraphics / YouTube

Algunos de los ejemplos destacados de deepfakes que han circulado no están exentos de revelaciones para el ojo perspicaz. Obviamente, el presidente Donald Trump no tiene Los ojos del Sr. Bean .

Otros deepfakes prominentes son bastante obvios, como Jeff Bezos y Elon Musk. haciendo que parezca que están en Star Trek .

Jeff Bezos y Elon Musk Star Trek deepfake
PolygonGraphics / YouTube

O este, que presenta a Donald Trump y Mike Pence. en Drag Race de RuPaul .

Imagen que muestra una mezcla de Trump y Pence
Jimmy Kimmel en vivo / YouTube

Estos deepfakes son fáciles de decir que no son reales porque, bueno, Bezos y Musk nunca estuvieron en Star Trek y Trump y Pence nunca aparecieron en Drag Race de RuPaul .

Sin embargo, otros deepfakes pueden ser más convincentes.

En 2019, un deepfake mostró al CEO de Facebook, Mark Zuckerberg presumir de controlar miles de millones de datos de personas . Teniendo en cuenta que Facebook de hecho tiene una gran cantidad de datos sobre cada uno de sus miles de millones de usuarios, es algo concebible (aunque poco probable) de lo que Zuckerberg esté hablando.

El deepfake usó un video de una entrevista que Zuckerberg dio con CBS News, pero dobló la voz. La voz no suena exactamente como Zuckeberg, pero está cerca.

Fotograma del video deepfake de Mark Zuckerberg
PBS NewsHour / YouTube

Dicho esto, es útil tener un conjunto de pautas para aquellos que no ven videos en línea como una carrera.

Uno de esos dicen recogido por Siwei Lyu , profesor de la Universidad de Albany, parpadea.

Debido a que el aprendizaje automático depende de la disponibilidad de imágenes de una figura pública, y las personas famosas rara vez son fotografiadas con los ojos cerrados, los deepfakes luchan por representar imágenes convincentes de personas con los ojos cerrados.

Es más, los sujetos representados en videos deepfake a menudo parpadean con mucha menos frecuencia que los humanos en la vida real. Según Lyu, este método tiene una tasa de detección del 95 por ciento.

Dicho esto, la tecnología detrás de los deepfakes y la sofisticación de quienes quieren emplearlos solo mejorará, por lo que seguirá siendo una lucha por luchar contra las fuerzas de la manipulación pública.

4 señales de que estás viendo un video deepfake

Jonathan Hui, un escritor que se especializa en aprendizaje profundo, señala algunas cosas buscar en posibles deepfakes. Una vez que un espectador ralentiza un video, debe buscar lo siguiente:

  1. Borrosidad evidente en la cara, pero no en otras partes del video.
  2. Un cambio de tono de piel cerca del borde de la cara.
  3. Papada, doble ceja o doble borde en la cara
  4. Si la cara se vuelve borrosa cuando está parcialmente oscurecida por una mano u otro objeto

¿Puede la inteligencia artificial detectar deepfakes?

Fotograma del video porno falso que dice ser la estrella emma watson
4chan

Algunos están intentando crear salvaguardias contra la próxima proliferación de deepfakes, utilizando inteligencia artificial para combatir las falsificaciones en línea.

Por ejemplo, la Fundación AI tiene desarrolló Reality Defender , un programa que se ejecuta junto con otras aplicaciones en línea, identificando medios potencialmente falsos.

Investigadores de la Universidad Técnica de Múnich en Alemania desarrolló un algoritmo llamado XceptionNet que pretende detectar videos falsos en línea, para que puedan ser marcados y eliminados.

Por supuesto, a la velocidad con la que pueden volar los informes falsos condenatorios, se necesitará mucha diligencia por parte de los laicos en línea en el futuro para asegurarse de que no se pueda hacer daño antes de que uno de estos programas pueda resultar falso.

LEE MAS:

Además, debido a que las cargas de redes sociales tienden a comprimir archivos, estas tácticas pierden eficacia cuando los clips se originan en Twitter o Facebook .

Cómo detectar un deepfake en las redes sociales

En un panel en South by Southwest en marzo, Tribu Mateo , profesor asistente de la Universidad de Drexel, habló sobre la dificultad. 'Existen muchas técnicas de autenticación de imágenes y videos, pero una cosa en la que todas fallan es en las redes sociales', dijo.

Estas técnicas buscan “firmas digitales realmente diminutas” que están incrustadas en archivos de video, agregó Stamm. Pero cuando se comparte un archivo de video en las redes sociales, se reduce y se comprime. Estos procesos son 'forenses destructivos y eliminan toneladas de rastros forenses', dijo.

Al final, podríamos vernos obligados a confiar en nuestro propio detector BS. Pero si la epidemia de noticias falsas de 2016 nos enseñó algo, nos espera un camino difícil.


AHORA ESCUCHA ESTO:

Cómo se hacen los deepfakes y el futuro de la identidad digital

2 CHICAS 1 PODCAST
El punto diario (Con licencia)

Introduciendo2 CHICAS 1 PODCAST, un programa de comedia semanal en el que Alli Goldberg y Jen Jamula (dos actores que interpretan contenido extraño de Internet en el escenario) tienen conversaciones divertidas y humanizadoras con Bronies, los mejores mods de Reddit, cosquillas profesionales, arqueólogos de videojuegos, ingenieros de aplicaciones de citas, bebés adultos, especialistas en abrazos. , vampiros, Jedi, muñecos vivientes y más.

Suscribirse a 2 CHICAS 1 PODCAST en su aplicación de podcast favorita.